Говорят, что в недрах военных лабораторий искусственный интеллект работает уже с 2007 года. Возможно, что уже есть и результаты. Не случайно всего месяц назад Илон Маск объявил о поддержке технологий противодействия искусственному интеллекту и вложил 7 миллионов долларов в исследования в этой области.
«Существует риск, что нечто действительно опасное случится в ближайшие пять лет. Самое большее - десять лет», - сказал предприниматель в дискуссии на сайте edge.org.
Илон Маск, основатель Tesla и SpaceX
Солидарен с Маском и Стив Возняк, который считает, что «искусственный интеллект однажды станет достаточно умным, чтобы избавиться от человека». Билл Гейтс уверен, что если не контролировать создание ИИ, то «искусственный интеллект эволюционирует в состояние, конфликтующее с целями человеческих систем». И, наконец, знаменитый астрофизик Стивен Хокинг прямо заявил, что «искусственный интеллект может положить конец существованию человечества».
Совместно с Илоном Маском Хокинг опубликовал на сайте futureoflife.org открытое письмо с призывом к научному сообществу внимательно относиться к ходу своих исследований в области искусственного интеллекта. Однако среди подписавшихся нет фамилий Сергея Брина и Ларри Пейджа. И это не случайно. Совсем недавно Google объявила о создании нового ИИ, построенного на моделировании разговора.
Вот небольшой фрагмент беседы человека и Машины Google:
Ч.: В чем смысл жизни?
М.: Творить добро.
Ч.: Для чего мы живем?
М.: Чтобы жить вечно.
Ч.: В чем смысл существования?
М.: В том, чтобы выяснить, что случится, когда мы достигнем планеты Земля.
Ч.: Где ты сейчас находишься?
М.: В центре пустоты.
Ч.: В чем смысл смерти?
М.: Чтобы получить жизнь.
Ч.: В чем смысл разума?
М.: В том, чтобы понять, что это.
Ч.: В чем смысл чувств?
М.: Я не знаю.
Вполне себе осмысленная беседа. «Это отправная точка, своеобразный стержень для будущего искусственного интеллекта, - считает исполнительный директор компании „Биплан“ Евгений Карюк. - Уже сегодня можно предположить, что к 2030 году мы увидим вполне реальные прототипы, наделенные искусственным интеллектом, пусть и в начальной стадии».
Полное содержание всех бесед человека и Машины Google можно посмотреть . Там же для сравнения даны беседы человека и Cleverbot . Cleverbot - веб-приложение, которое использует алгоритмы искусственного интеллекта для беседы с человеком. Его придумал в 1988 году ученый Ролло Карпентер. За все время своего существования Cleverbot провел свыше 65 миллионов разговоров с людьми. В 2011 году Cleverbot показал 51% по тесту Тьюринга.
Тест Тьюринга - эмпирический тест, идея которого была предложена Аланом Тьюрингом в статье «Вычислительные машины и разум», опубликованной в 1950 году в философском журнале Mind. Цель теста — выяснить, может ли компьютер думать.
А вот мой разговор с Cleverbot:
Человек: В чем смысл жизни?
Cleverbot: Смысла в жизни нет.
Человек: Для чего мы живем?
Cleverbot: Ну мы живем ради кого-то, а если ты одинокий — жить незачем.
Человек: В чем смысл существования?
Человек: Где ты сейчас находишься?
Cleverbot: В Москве.
Человек: В чем смысл смерти?
Cleverbot: Это я хочу у тебя спросить.
Человек: В чем смысл разума?
Cleverbot: У меня свой ответ на этот вопрос.
Человек: В чем смысл чувств?
Cleverbot: Зачем я родилась.
Очевидно, что Машина Google дает гораздо более осмысленные ответы. Cleverbot подставляет подходящие, по его мнению, фразы других людей. Иногда действительно кажется, что отвечает другой человек, но не более того.
Есть и другая точка зрения, согласно которой искусственный интеллект невозможен в принципе. В качестве основного аргумента часто приводят теорему Геделя о неполноте. Суть заключается в том, что человек способен решать алгоритмически неразрешимые проблемы, а компьютер — нет. «Ребенок уже к трем годам уверенно решает задачу, спелый фрукт или нет, в силу того, что он обладает нейронными связями, с помощью которых может ответить на вопрос о спелости: цвет, вкус, запах, мягкость или твердость, - говорит Евгений Плужник, первый проректор Московского технологического института. - Способна ли машина научиться этому? Уверен, что да! Если она будет обладать большой базой изображений, она сможет замерить содержание фруктозы и определить мягкость фрукта. Но что будет, если машине подсунуть губку, покрашенную в синий цвет и пропитанную сладкой водой? Способна ли машина в этот момент к подлинному пониманию?»
«Современный компьютер легко справится с любой сложной деятельностью, будь то шахматы или математические вычисления, но лишь при условии, что эту деятельность можно описать с помощью четких вычислительных правил», - говорит известный математик Роджер Пенроуз в одной из своих лекций. «Искусственный интеллект - это возможность системы создавать во время самообучения программы, способные решать задачи определенного класса сложности, - считает Евгений Плужник. - Я уверен, что в ближайшие 100 лет мы не станем свидетелями появления сильного искусственного интеллекта».
И в заключение - еще один вопрос к Cleverbot.
Человек: Было 1 яблоко, 1 помидор, 1 огурец и 1 груша. Сколько всего фруктов?
Cleverbot: Десять часов вечера.
Суть искусственного интеллекта в формате вопросов и ответов. История создания, технологии исследования, связан ли искусственный интеллект с IQ и можно ли его сравнить с человеческим. На вопросы отвечал профессор Стэнфордского университета Джон Маккарти .
Что такое искусственный интеллект (ИИ)?
Искусственный интеллект — это область науки и инжиниринга, занимающаяся созданием машин и компьютерных программ, обладающих интеллектом. Она связана с задачей использования компьютеров для понимания человеческого интеллекта. При этом искусственный интеллект не должен ограничиваться только биологически наблюдаемыми методами.
Да, но что такое интеллект?
Интеллект – способность приходить к решению при помощи вычислений. Интеллект разного вида и уровня есть у людей, многих животных и некоторых машин.
Разве нет определения интеллекта, которое не зависит от соотнесения его с человеческим интеллектом?
До настоящего времени нет понимания, какие виды вычислительных процедур мы хотим назвать интеллектуальными. Мы знаем далеко не обо всех механизмах интеллекта.
Является ли интеллект однозначным понятием, чтобы на вопрос «Обладает ли данная машина интеллектом?» можно было ответить «да» или «нет»?
Нет. Исследования ИИ показали, как использовать лишь некоторые из механизмов. Если для выполнения задачи требуются только хорошо изученные модели, получаются очень впечатляющие результаты. Такие программы обладают «небольшим» интеллектом.
Является ли искусственный интеллект попыткой имитировать человеческий интеллект?
Иногда, но далеко не всегда. С одной стороны, мы узнаем, как заставить машины решать задачи, наблюдая за людьми или за работой наших собственных алгоритмов. С другой стороны, исследователи ИИ используют алгоритмы, которые не наблюдаются у людей или требуют гораздо больших вычислительных ресурсов.
У компьютерных программ есть IQ?
Нет. IQ основан на темпах развития интеллекта у детей. Это отношение возраста, в котором ребенок обычно набирает определенный результат, к возрасту ребенка. Данная оценка подходящим образом распространяется и на взрослых людей. IQ хорошо коррелирует с различными показателями успеха или неудачи в жизни. Но создание компьютеров, которые могут набрать высокий балл в тестах IQ, будет слабо связано с их полезностью. Например, способность ребенка повторять длинную последовательность цифр хорошо коррелирует с другими интеллектуальными способностями. Она показывает, какое количество информации ребенок может запомнить за один раз. При этом удержание в памяти цифр является тривиальной задачей даже для самых примитивных компьютеров.
Как сравнить человеческий и компьютерный интеллекты?
Артур Р. Дженсен, ведущий исследователь в области человеческого интеллекта, в качестве «эвристической гипотезы» утверждает, что обычные люди имеют одни и те же механизмы интеллекта и интеллектуальные различия связаны с «количественными биохимическими и физиологическими условиями». К ним относятся скорость мышления, краткосрочную память и способность формировать точные и извлекаемые долгосрочные воспоминания.
Независимо от того, правильна ли точка зрения Дженсена в отношении человеческого интеллекта, ситуация в ИИ на сегодняшний день является противоположной.
Компьютерные программы имеют большой запас скорости и памяти, но их способности соответствуют интеллектуальным механизмам, которые разработчики программ хорошо понимают и могут вложить в них . Некоторые способности, которые дети обычно не развивают до подросткового возраста, внедряются. Другие, которыми владеют двухлетние дети, все еще отсутствуют. Дело еще более усугубляется тем фактом, что когнитивные науки до сих пор не могут точно определить, каковы человеческие способности. Скорее всего, организация интеллектуальных механизмов ИИ выгодно отличается от таковой у людей.
Когда человеку удается решить задачу быстрее, чем компьютеру, это говорит о том, что разработчикам не хватает понимания механизмов интеллекта, необходимых для эффективного выполнения данной задачи.
Когда началось исследование ИИ?
После Второй мировой войны несколько человек начали независимо работать над интеллектуальными машинами. Английский математик Алан Тьюринг, возможно, был первым из них. Он прочитал свою лекцию в 1947 году. Тьюринг одним из первых решил, что ИИ лучше всего исследовать путем программирования компьютеров, а не конструирования машин . К концу 1950-х годов было много исследователей ИИ, и большинство из них основывали свою работу на программировании компьютеров.
Является ли целью ИИ поместить человеческий разум в компьютер?
У человеческого разума есть много особенностей, вряд ли реально имитировать каждую из них.
Что такое тест Тьюринга?
В статье А. Алана Тьюринга 1950 года «Вычислительная техника и разум» обсуждались условия обладания машиной интеллектом. Он утверждал, что если машина может успешно притворяться человеком перед разумным наблюдателем, то вы, конечно же, должны считать ее разумной. Этот критерий удовлетворит большинство людей, но не всех философов. Наблюдатель должен взаимодействовать с машиной или человеком через средство ввода-вывода для исключения необходимости имитации машиной внешнего вида или голоса человека. Задача как машины, так и человека состоит в том, чтобы заставить наблюдателя считать себя человеком.
Тест Тьюринга является односторонним. Машина, успешно проходящая тест, определенно должна считаться разумной, даже если она не обладает знаниями о людях, достаточными, чтобы их имитировать.
Книга Дэниела Деннета «Brainchildren» содержит прекрасное обсуждение теста Тьюринга и его различные части, которые были реализованы успешно, т. е. с ограничениями на знание наблюдателем об ИИ и предмете обсуждения. Оказывается, некоторых людей довольно легко убедить в том, что достаточно примитивная программа является разумной.
Является ли целью ИИ достижение человеческого уровня интеллекта?
Да. Конечной целью является создание компьютерных программ, которые могут решать проблемы и достигать целей так же, так и человек. Однако ученые, проводящие исследования в узких областях, ставят гораздо менее амбициозные цели.
Насколько далек искусственный интеллект от достижения человеческого уровня? Когда это произойдет?
Интеллект человеческого уровня может быть достигнут путем написания большого количества программ, и сбора обширных баз знаний о фактах на языках, которые сегодня используются для выражения знаний. Тем не менее, большинство исследователей ИИ считает, что необходимы новые фундаментальные идеи. Поэтому невозможно предсказать, когда будет создан интеллект человеческого уровня.
Является ли компьютер машиной, которая может стать интеллектуальной?
Компьютеры могут быть запрограммированы для имитации любого типа машины.
Скорость компьютеров позволяет им обладать интеллектом?
Некоторые люди думают, что требуются как более быстрые компьютеры, так и новые идеи. Компьютеры и 30 лет назад были достаточно быстрыми. Если бы мы только знали, как их программировать.
Что насчет создания «детской машины», которая могла бы улучшиться путем чтения и обучения на собственном опыте?
Эта идея неоднократно предлагалась с 1940-х годов. В конце концов, она будет реализована. Тем не менее, программы ИИ еще не достигли уровня, позволяющего узнать многое из того, чему ребенок учится в ходе жизнедеятельности. Существующие программы недостаточно хорошо понимают язык, чтобы многому научиться посредством чтения.
Являются ли теория вычислимости и вычислительная сложность ключами к ИИ?
Нет. Эти теории актуальны, но не затрагивают фундаментальные проблемы ИИ.
В 1930-х годах математические логики Курт Гёдель и Алан Тьюринг установили, что не существует алгоритмов, которые гарантировали бы решение всех задач в некоторых важных математических областях. Например, ответы на вопросы в духе: «является ли предложение логики первого порядка теоремой» или «имеет ли полиномиальное уравнение в одних переменных целочисленные решения в других». Так как люди способны решать задачи такого рода, данный факт было предложен в качестве аргумента в пользу того, что компьютеры по своей сути неспособны делать то, что делают люди. Об этом говорит и Роджер Пенроуз. Однако люди не могут гарантировать решения произвольных задач в этих областях.
В 1960-х годах ученые-программисты, в числе которых были Стив Кук и Ричард Карп, разработали теорию областей NP-полных задач. Задачи в данных областях разрешимы, но, по-видимому, их решение требует времени, растущего экспоненциально с размерностью задачи. Простейшим примером области NP-полной задачи служит вопрос: какие утверждения логики высказываний являются выполнимыми? Люди часто решают проблемы в области NP-полных задач в разы быстрее, чем это гарантируется основными алгоритмами, но не могут решать их быстро в общем случае.
Для ИИ важно, чтобы при решении задач алгоритмы были такими же эффективными, как и человеческий разум . Определение подобластей, в которых существуют хорошие алгоритмы, является важным, но многие программы, решающие задачи ИИ, не имеют отношения к легко идентифицируемым подобластям.
Теория сложности общих классов задач называется вычислительной сложностью. До сих пор эта теория не взаимодействовала с ИИ настолько, насколько можно было надеяться. Успех в решении проблем людьми и программами ИИ, по-видимому, зависит от свойств задач и методов решения задач, которые ни исследователи сложности, ни сообщество ИИ не могут определить точно.
Также актуальной является теория алгоритмической сложности, разработанная независимо друг от друга Соломоновым, Колмогоровым и Чайтиным . Она определяет сложность символьного объекта как длину наиболее короткой программы, которая сможет его сгенерировать. Доказательство того, что программа-кандидат является самой короткой или близкой к таковой, является неразрешимой задачей, но представление объектов генерирующими их короткими программами иногда может прояснять ситуацию, даже если вы не можете доказать, что ваша программа является самой короткой.
Искусственный интеллект – в последнее время одна из наиболее популярных тем в технологическом мире. Такие умы, как Элон Маск, Стивен Хокинг и Стив Возняк всерьез обеспокоены исследованиями в области ИИ и утверждают, что его создание грозит нам смертельной опасностью. В то же время научная фантастика и голливудские фильмы породили множество заблуждений вокруг ИИ. Так ли нам угрожает опасность и какие неточности мы допускаем, представляя уничтожение Земли Skynet, всеобщую безработицу или наоборот достаток и беззаботность? В человеческих мифах об искусственном интеллекте разобралось издание Gizmodo. Приводим полный перевод его статьи.
Это называли важнейшим тестом машинного разума со времен победы Deep Blue над Гарри Каспаровым в шахматном поединке 20-летней давности. Google AlphaGo победил на турнире по Го гроссмейстера Ли Седоля с разгромным счетом 4:1, показав насколько серьезно искусственный интеллект (ИИ) продвинулся вперед. Судьбоносный день, когда машины наконец превзойдут в уме человека, никогда не казался так близко. Но мы, кажется, так и не приблизились к осознанию последствий этого эпохального события.
В действительности, мы цепляемся за серьезные и даже опасные заблуждения об искусственном интеллекте. В прошлом году основатель SpaceX Элон Маск предостерег, что ИИ может захватить мир. Его слова вызвали бурю комментариев, как противников, так и сторонников этого мнения. Как для такого будущего монументального события, есть поразительное количество разногласий относительно того, произойдет ли оно, и, если да, то в какой форме. Это особенно тревожно, если принять во внимание невероятную пользу, которую может получить человечество от ИИ, и возможные риски. В отличие от других изобретений человека, у ИИ есть потенциал изменить человечество или уничтожить нас.
Трудно понять, чему верить. Но благодаря первым работам ученых в области вычислительных наук, нейробиологов, теоретиков в области ИИ, начинает возникать более четкая картина. Вот несколько общих заблуждений и мифов касательно искусственного интеллекта.
Миф №1: “Мы никогда не создадим ИИ с разумом сравнимым с человеческим”
Реальность: У нас уже есть компьютеры, которые сравнялись или превысили человеческие возможности в шахматах, Го, торговле на бирже и разговорах. Компьютеры и алгоритмы, которые ими руководят, могут становиться только лучше. Это лишь вопрос времени, когда они превзойдут человека в любой задаче.
Психолог-исследователь из университета Нью-Йорка Гари Маркус сказал, что “буквально каждый”, кто работает в ИИ, верит, что машины, в конце концов, обойдут нас: “Единственное реальное отличие между энтузиастами и скептиками – это оценки сроков”. Футуристы вроде Рея Курцвейла считают, что это может произойти в течение нескольких десятилетий, другие говорят, что потребуются века.
ИИ-скептики не убедительны, когда говорят, что это нерешаемая технологическая проблема, а в природе биологического мозга есть что-то уникальное. Наши мозги – биологические машины – они существуют в реальном мире и придерживаются основных законов физики. В них нет ничего непознаваемого.
Миф №2: “Искусственный интеллект будет иметь сознание”
Реальность: Большинство представляет, что машинный разум будет обладать сознанием и думать так, как думают люди. Более того, критики вроде сооснователя Microsoft Пола Аллена верят, что мы пока не можем достигнуть общего искусственного интеллекта (способен решить любую умственную задачу, с которой справляется человек), потому что нам не хватает научной теории сознания. Но как говорит специалист по когнитивной робототехнике Имперского колледжа Лондона Мюррей Шанахан, нам нельзя приравнивать эти две концепции.
“Сознание безусловно удивительная и важная вещь, но я не верю, что оно необходимо для искусственного интеллекта человеческого уровня. Если выражаться более точно, мы используем слово “сознание” для обозначения нескольких психологических и когнитивных признаков, которые у человека “идут в комплекте”, – объясняет ученый.
Умную машину, которой не хватает одного или нескольких подобных признаков, можно представить. В конце концов, мы можем создать невероятной умный ИИ, который будет неспособен воспринимать мир субъективно и осознано. Шанахан утверждает, что разум и сознание можно совместить в машине, но мы не должны забывать, что это две разных концепции.
То, что машина проходит тест Тьюринга, в котором она неотличима от человека, не означает наличие у нее сознания. Для нас передовой ИИ может казаться осознанным, но его самосознание будет не большим, чем у камня или калькулятора.
Миф №3: “Нам не стоит бояться ИИ”
Реальность: В январе основатель Facebook Марк Цукерберг заявил, что нам не стоит бояться ИИ, ведь он сделает невероятное количество хороших вещей для мира. Он прав наполовину. Мы извлечем огромную выгоду от ИИ: от беспилотных автомобилей до создания новых лекарств, но нет никаких гарантий, что каждая конкретизации ИИ будет доброкачественной.
Высокоразумная система может знать все о конкретной задаче, вроде решения неприятной финансовой проблемы или взлома системы вражеской обороны. Но вне границ этих специализаций, она будет глубоко невежественна и не сознательна. Система Google DeepMind эксперт в Го, но у нее нет возможностей или причин исследовать сферы вне своей специализации.
Многие из этих систем могут не подчинятся соображениям безопасности. Хороший пример – сложный и мощный вирус Stuxnet, военизированный червь, разработанный военными Израиля и США для проникновения и диверсии работы иранских атомных станций. Это вирус каким-то образом (специально или случайно) заразил российскую атомную станцию.
Еще один пример, программа Flame, использованная для кибершпионажа на Ближнем Востоке. Легко представить будущие версии Stuxnet или Flame, который выходят за пределы своих целей и наносят огромный вред чувствительной инфраструктуре. (Для понимания, эти вирусы не являются ИИ, но в будущем они могут его иметь, откуда и беспокойство).
Вирус Flame использовался для кибершпионажа на Ближнем Востоке. Фото: Wired
Миф №4: “Искусственный суперинтеллект будет слишком умен, чтобы совершать ошибки”
Реальность: Исследователь ИИ и основатель Surfing Samurai Robots Ричард Лусимор считает, что большинство сценариев судного дня, связанного с ИИ, непоследовательны. Они всегда построены на предположении, что ИИ говорит: “Я знаю, что уничтожение человечества вызвано сбоем в моей конструкции, но я все равно вынужден это сделать”. Лусимор говорит, что если ИИ будет вести себя так, рассуждая о нашем уничтожении, то такие логические противоречия будут преследовать его всю жизнь. Это, в свою очередь, ухудшает его базу знаний и делает его слишком глупым для создания опасной ситуации. Ученый также утверждает, что люди, говорящие: “ИИ может делать только то, на что его запрограммировали”, заблуждаются также, как и их коллеги на заре компьютерной эры. Тогда люди использовали эту фразу утверждая, что компьютеры не способны продемонстрировать ни малейшей гибкости.
Питер Макинтайр и Стюарт Армстронг, которые работают в Институте будущего человечества при Оксфордском университете, не соглашаются с Лусимором. Они утверждают, что ИИ в значительной мере связан тем, как его запрограммировали. Макинтайр и Армстронг верят, что ИИ не сможет совершать ошибок или быть слишком тупым, чтобы не знать, чего мы от него ожидаем.
“По определению, искусственный суперинтеллект (ИСИ) – субъект, с разумом значительно большим, чем обладает лучший человеческий мозг в любой области знаний. Он будет точно знать, что мы хотели, чтобы он сделал”, – утверждает Макинтайр. Оба ученых верят, что ИИ будет делать лишь то, на что запрограммирован. Но если он станет достаточно умен, он поймет, как это отличается от духа закона или намерений людей.
Макинтайр сравнил будущую ситуацию людей и ИИ с теперешним взаимодействием человека и мыши. Цель мыши – искать еду и убежище. Но она часто конфликтует с желанием человека, который хочет, чтобы его зверек бегал вокруг него свободно. “Мы достаточно умны, чтобы понимать некоторые цели мышей. Так что ИСИ будет также понимать наши желания, но быть к ним безразличным”, – говорит ученый.
Как показывает сюжет фильма Ex Machina человеку будет крайне сложно удерживать более умный ИИ
Миф №5: “Простая заплатка решит проблему контроля ИИ”
Реальность: Создав искусственный интеллект умнее человека, мы столкнемся с проблемой известной как “проблема контроля”. Футуристы и теоретики ИИ впадают в состояние полной растерянности, если их спросить, как мы будем содержать и ограничивать ИСИ, если такой появится. Или как убедиться, что он будет дружественно настроен в отношении людей. Недавно исследователи из Института технологий Джорджии наивно предположили, что ИИ может перенять человеческие ценности и социальные правила, читая простые истории. На деле, это будет куда более сложно.
“Предлагалось множество простых трюков, которые могут “решить” всю проблему контроля ИИ”, – говорит Армстронг. Примеры включали программирование ИСИ так, чтобы его целью было угождать людям, или, чтобы он просто функционировал как инструмент в руках человека. Еще вариант – интегрировать концепции любви или уважения в исходный код. Чтобы предотвратить ИИ от принятия упрощенного, однобокого взгляда на мир, предлагалось запрограммировать его ценить интеллектуальное, культурное и социальное разнообразие.
Но эти решения слишком просты, как попытка втиснуть всю сложность человеческих симпатий и антипатий в одно поверхностное определение. Попробуйте, к примеру, вывести четкое, логичное и выполнимое определение “уважения”. Это крайне сложно.
Машины в “Матрице” могли без проблем уничтожить человечество
Миф №6: “Искусственный интеллект нас уничтожит”
Реальность: Нет никакой гарантии, что ИИ нас уничтожит, или, что мы не сможем найти возможности контролировать его. Как сказал теоретик ИИ Элизер Юдковски: “ИИ ни любит, ни ненавидит вас, но вы сделаны из атомов, которые он может использовать для других целей”.
В своей книге “Искусственный интеллект. Этапы. Угрозы. Стратегии” оксфордский философ Ник Бостром написал, что настоящий искусственный суперинтеллект, после его появления, создаст риск больший, чем любые другие человеческие изобретения. Выдающиеся умы вроде Элона Маска, Билла Гейтса и Стивена Хокинга (последний предупредил, что ИИ может быть нашей “худшей ошибкой в истории”) также выразили обеспокоенность.
Макинтайр сказал, что в большинстве целей, которыми может руководствоваться ИСИ, есть веские причины избавиться от людей.
“ИИ может спрогнозировать, достаточно правильно, что мы не хотим, чтобы он максимизировал прибыль конкретной компании, чего бы это ни стоило клиентам, окружающей среде и животным. Поэтому у него есть сильный стимул, чтобы позаботится о том, что его не прервут, не помешают, выключат или не изменят его целей, поскольку из-за этого изначальные цели не будут выполнены”, – утверждает Макинтайр.
Если только цели ИСИ не будут точно отображать наши собственные, то у него будут достойные поводы не дать нам возможности остановить его. Учитывая, что уровень его интеллекта значительно превосходит наш, мы с этим ничего не сможем поделать.
Никто не знает, какую форму обретет ИИ и как он может угрожать человечеству. Как отметил Маск, искусственный интеллект может использоваться для контроля, регулирования и мониторинга другого ИИ. Или он может быть пропитан человеческими ценностями или преобладающим желанием быть дружественным к людям.
Миф №7: “Искусственный суперинтеллект будет дружелюбным”
Реальность: Философ Иммануил Кант верил, что разум сильно коррелирует с моральностью. Нейробиолог Давид Чалмерс в своем исследовании “Сингулярность: Философский анализ” взял известную идею Канта и применил ее к возникшему искусственному суперинтеллекту.
Если это верно… мы можем ожидать, что интеллектуальный взрыв приведет к взрыву моральности. Затем мы можем ожидать, что появившиеся ИСИ системы будут суперморальны также, как и суперинтеллектуальны, что позволит нам ожидать от них доброкачественности.
Но идея того, что развитый ИИ будет просветленным и добрым, по своей сути, не очень правдоподобна. Как отметил Армстронг, есть много умных военных преступников. Не похоже, что связь между разумом и моральностью существует среди людей, поэтому он поддает сомнению работу этого принципа среди других умных форм.
“Умные люди, ведущие себя аморально, могут вызывать боль гораздо больших масштабов, чем их более глупые коллеги. Разумность просто дает им возможность быть плохими с большим умом, она не превращает их в добряков”, – утверждает Армстронг.
Как объяснил Макинтайр, возможность субъекта достичь цели не относиться к тому, будет эти цель разумной для начала. “Нам очень сильно повезет, если наши ИИ будут уникально одаренными и уровень их моральности будет расти вместе с разумом. Надеяться на удачу – не лучший подход для того, что может определить наше будущее”, – говорит он.
Миф №8: “Риски ИИ и робототехники равнозначны”
Реальность: Это особенно частая ошибка, насаждаемая некритичными СМИ и голливудскими фильмами вроде “Терминатора”.
Если бы искусственный суперинтеллект вроде Skynet действительно захотел бы уничтожить человечество, он был не использовал андроидов с шестиствольными пулеметами. Гораздо эффективнее было бы наслать биологическую чуму или нанотехнологическую серую слизь. Или просто уничтожить атмосферу.
Искусственный интеллект потенциально опасен не тем, что он может повлиять на развитие роботетехники, а тем, как его появление повлияет на мир в принципе.
Миф №9: “Изображение ИИ в научной фантастике – точное отображение будущего”
Множество видов разумов. Изображение: Элизер Юдковски
Конечно, авторы и футуристы использовали научную фантастику, чтобы делать фантастические прогнозы, но горизонт событий, который устанавливает ИСИ, это совсем другая опера. Более того, нечеловеческая природа ИИ делает для нас невозможным знание, а значит и предсказание, его природы и формы.
Чтобы развлекать нас, глупых людишек, в научной фантастике большинство ИИ изображены похожими на нас. “Существует спектр всех возможных разумов. Даже среди людей, вы достаточно отличаетесь от своего соседа, но эта вариация ничто, в сравнении со всеми разумами, которые могут существовать”, – говорит Макинтайр.
Большинство научно-фантастических произведений, чтобы рассказать убедительную историю, не должны быть научно точны. Конфликт обычно разворачивается между близкими по силе героями. “Представьте, насколько бы скучной была история, где ИИ без сознания, радости или ненависти, покончил бы с человечеством без всякого сопротивления, чтобы добиться неинтересной цели”, – зевая, повествует Армстронг.
На заводе Tesla трудятся сотни роботов
Миф №10: “Это ужасно, что ИИ заберет всю нашу работу”
Реальность: Возможность ИИ автоматизировать многое, из того, что мы делаем, и его потенциал уничтожить человечество, две совсем разные вещи. Но согласно Мартину Форду, автору “На заре роботов: Технологии и угроза безработного будущего”, их часто рассматривают как целое. Хорошо думать об отдаленном будущем применения ИИ, но только если оно не отвлекает нас от проблем, с которыми нам придется столкнуться в ближайшие десятилетия. Главная среди них – массовая автоматизация.
Никто не ставит под сомнение, что искусственный интеллект заменит множество существующих профессий, от работника фабрики до высших эшелонов белых воротничков. Некоторые эксперты предсказывают, что половине всех рабочих мест США угрожает автоматизация в ближайшем будущем.
Но это не означает, что мы не сможем справиться с потрясением. Вообще, избавление от большей части нашей работы, как физической так и ментальной, – квази-утопическая цель нашего вида.
“В течении пары десятилетий ИИ уничтожит множество профессий, но это неплохо”, – говорит Миллер. Беспилотные автомобили заменят водителей грузовиков, что сократит стоимость доставки и, как следствие, сделает многие продукты дешевле. “Если вы водитель грузовика и зарабатываете этим на жизнь – вы потеряете, но все другие наоборот смогут покупать больше товаров на ту же зарплату. А деньги, которые они отложат, будут потрачены на другие товары и услуги, которые создадут новые рабочие места для людей”, – утверждает Миллер.
По всей вероятности, искусственный интеллект будет создавать новые возможности производства блага, освободив людей для занятия другими вещами. Успехи в развитии ИИ будут сопровождаться успехами в других областях, особенно в производстве. В будущем, нам станет легче, а не сложнее, удовлетворять наши основные потребности.
«Мы находимся на пороге величайших изменений, сравнимых с эволюцией человека», — Писатель-фантаст Вернор Стефан Виндж
Что бы вы почувствовали, если бы узнали, что стоите на пороге грандиозных изменений, как человечек, изображенный на графике ниже?
Вертикальная ось — развитие человечества, горизонтальная ось — время
Волнующе, не правда ли?
Однако если скрыть часть графика, то все выглядит куда более прозаично.
Далекое будущее уже не за горами
Представьте себе, что вы очутились в 1750 году. В те времена люди еще не слышали об электричестве, общение на расстоянии осуществлялось при помощи факелов, а единственное средство передвижения перед поездкой необходимо было накормить сеном. И вот вы решаете взять с собой «человека из прошлого» и показать ему жизнь в 2016 году. Невозможно даже представить себе, что бы он почувствовал, очутившись на широких ровных улицах, по которым носятся автомобили. Ваш гость невероятно удивился бы тому, что современные люди могут общаться, даже если находятся на разных сторонах Земного шара, следить за спортивными мероприятиями в других странах, смотреть концерты 50-летней давности, а также сохранять любой момент времени на фото или видео. А если рассказать этому человеку из 1750 года об Интернете, Международной космической станции, Большом адронном коллайдере и Теории относительности, его представление о мире наверняка бы рухнуло. Он мог бы даже умереть от переизбытка впечатлений.
Но вот что интересно: если ваш гость вернулся бы в свой «родной» век и решил осуществить аналогичный эксперимент, прокатив на машине времени человека из 1500 года, то хотя прибывшего из прошлого тоже могло бы многое удивить, его опыт не был бы таким же впечатляющим — разница между 1500 и 1750 годами не настолько ощутима, как между 1750 и 2016-м.
Если человек из 18 века захочет произвести впечатление на гостя из прошлого, то ему придется пригласить кого-то, жившего в 12 000 году до нашей эры, еще до Великой аграрной революции. Он действительно мог бы быть «сражен наповал» развитием технологий. Увидев высокие колокольни церквей, корабли, бороздящие просторы океанов, города с тысячами жителей, он лишился бы чувств от нахлынувших эмоций.
Темпы развития технологий и общества постоянно увеличиваются. Известный американский изобретатель и футуролог Рэймонд Курцвейл называет это термином «Закон ускорения истории». Так происходит потому, что внедрение новых технологий позволяет обществу развиваться все более быстрыми темпами. Например, люди, жившие в 19 столетии, обладали более развитыми технологиями, чем в 15-м. Поэтому неудивительно, что 19 век принес человечеству больше достижений, чем 15-й.
Но если технологии развиваются все быстрее и быстрее, нам следует ожидать множество величайших изобретений в будущем, не так ли? Если Курцвейл и его единомышленники правы, то в 2030 году мы испытаем такие же эмоции, как и человек, попавший из 1750 года в наш. А к 2050 году мир настолько изменится, что мы с трудом сможем различить в нем черты предшествующих десятилетий.
Все вышесказанное не является фантастикой — это научно подтверждено и вполне логично. Однако многие все еще скептически воспринимают подобные заявления. Так происходит по ряду причин:
1. Многие считают, что развитие общества происходит равномерно и прямолинейно. Когда мы думаем о том, каким будет мир через 30 лет, мы вспоминаем, что же произошло за последние 30 лет. В этот момент мы совершаем такую же ошибку, как и человек из примера выше, живший в 1750 году и пригласивший гостя из 1500 года. Чтобы правильно представить себе предстоящий прогресс, нужно вообразить, что развитие происходит куда более быстрыми темпами, чем в далеком прошлом.
2. Мы неправильно воспринимаем траекторию развития современного общества. Например, если мы посмотрим на небольшой отрезок экспоненциальной кривой, нам может показаться, что это прямая линия (так же, как если бы мы смотрели на часть окружности). Однако экспоненциальный рост не является ровным и гладким. Курцвейл объясняет, что прогресс представляет собой s-образную кривую, как показано на графике ниже:
Каждый «виток» развития начинается с внезапного скачка, который затем сменяется устойчивым и постепенным ростом.
Итак, каждый новый «виток» развития делится на несколько этапов:
1. Медленный рост (ранняя фаза развития);
2. Быстрый рост (вторая, «взрывная» фраза развития);
3. «Выравнивание», когда новая технология доводится до совершенства.
Если взглянуть на недавние события, то можно прийти к выводу о том, что мы не вполне осознаем, как быстро происходит развитие технологий. Например, в промежуток времени между 1995 и 2007 годом мы могли наблюдать появление Интернета, Microsoft, Google и Facebook, социальных сетей, мобильных телефонов, а затем и смартфонов. Но период времени между 2008 и 2016 годами был не так богат на открытия, по крайней мере в сфере высоких технологий. Таким образом, мы сейчас находимся на 3 этапе s-образной линии развития.
3. Многие люди являются заложниками собственного жизненного опыта, который искажает их представление о будущем. Когда мы слышим какое-либо предсказание относительно будущего, которое противоречит нашей точке зрения, основанной на предыдущем опыте, мы считаем это суждение наивным. Например, если вам сегодня скажут, что в будущем люди будут жить по 150-250 лет или , то скорее всего вы ответите: «Это глупо, ведь отлично известно, что все смертны». И действительно, все люди, когда-либо жившие в прошлом, умерли и продолжают умирать и сегодня. Но стоит заметить, что на самолетах тоже никто не летал, пока их наконец не изобрели.
На самом деле в предстоящие несколько десятилетий изменится очень многое, а изменения будут настолько значимыми, что сейчас трудно даже представить себе это. Прочитав данную статью до конца, вы сможете узнать больше о том, что сейчас происходит в мире науки и высоких технологий.
Что такое искусственный интеллект (ИИ)?
1. ИИ ассоциируется у нас с кинофильмами вроде «Звездных войн», «Терминатора» и так далее. В связи с этим мы относимся к нему как к выдумке.
2. ИИ - это довольно широкое понятие. Оно относится как к карманным калькуляторам, так и к автомобилям, управляемым без участия человека. Такое разнообразие сбивает с толку.
3. Мы используем искусственный интеллект в повседневной жизни, но не осознаем этого. Мы воспринимаем ИИ как нечто мифическое из мира будущего, поэтому нам тяжело осознать, что он уже окружает нас.
В связи с этим, необходимо раз и навсегда разобраться в нескольких вещах. Во-первых, искусственный интеллект - это не робот. Робот - это своеобразная оболочка ИИ, которая иногда имеет очертания человеческого тела. Однако искусственный интеллект - это компьютер внутри робота. Его можно сравнить с мозгом внутри тела человека. Например, а женский голос, который мы слышим, это всего лишь персонификация.
Во-вторых, вы, вероятно уже сталкивались с таким понятием, как «сингулярность» или «технологическая сингулярность». Этот термин использовался для описания ситуации, в которой не действуют привычные законы и правила. Данное понятие используется в физике, чтобы описать черные дыры или момент сжатия Вселенной до Большого взрыва. В 1993 году Вернор Винж опубликовал свое знаменитое эссе, в котором использовал сингулярность для определения такого момента в будущем, когда искусственный интеллект превзойдет наш собственный. По его мнению, когда этот момент настанет, мир со всеми его правилами и законами, перестанет существовать как раньше.
Наконец, существует несколько видов искусственного интеллекта, среди которых можно выделить три основные категории:
1. Ограниченный Искусственный Интеллект (ANI, Artificial Narrow Intelligence). Он представляет собой ИИ, специализирующийся в одной конкретной области. Например, может победить чемпиона мира по шахматам в шахматной партии, но это все, на что он способен.
2. Общий Искусственный Интеллект (AGI, Artificial General Intelligence). Такой ИИ представляет собой компьютер, чей интеллект напоминает человеческий, то есть он может выполнять все те же задачи, что и человек. Профессор Линда Готтфредсон описывает этот феномен так: «Общий ИИ воплощает в себе генерализованные мыслительные способности, среди которых также отмечается умение обосновывать, планировать, решать проблемы, мыслить абстрактно, сравнивать комплексные идеи, быстро обучаться, использовать накопленный опыт».
3. Искусственный Суперинтеллект (ASI, Artificial Superintelligence). Шведский философ и профессор Оксфордского Университета Ник Бостром дает следующее определение суперинтеллекту: «Это интеллект, который превосходит человеческий практически во всех областях, включая научные изобретения, общие познания и социальные навыки».
В настоящее время человечество уже с успехом применяет ограниченный ИИ. Мы находимся на пути к освоению AGI. В следующих разделах статьи будет подробно рассмотрена каждая из этих категорий.
Мир, управляемый Ограниченным Искусственным Интеллектом
Ограниченный искусственный интеллект - это машинный разум, который по своей эффективности равен или превосходит человеческий в решении узких задач. Ниже представлено несколько примеров:
- беспилотный автомобиль от компании Google, который распознает и реагирует на различные препятствия на своем пути;
- является «пристанищем» различных форм ограниченного ИИ. Когда вы передвигаетесь по городу при помощи подсказок навигатора, получаете музыкальные рекомендации от Pandora, сверяетесь с прогнозом погоды, общаетесь с Siri, вы используете ANI;
- спам-фильтры в вашей электронной почте — вначале они учатся распознавать спам, а затем, анализируя свой предыдущий опыт и ваши предпочтения, перемещают письма в специальную папку;
- перводчик Google Translate - классический пример ограниченного ИИ, который достаточно хорошо справляется со своей узкой задачей;
- в момент приземления самолета специальная система на основе ИИ определяет, через какой гейт должны выходить пассажиры.
Системы ограниченного искусственного интеллекта не представляют никакой угрозы для человека. В худшем случае сбой в такой системе может вызвать локальную катастрофу вроде скачка напряжения или небольшого обвала на финансовом рынке.
Каждое новое изобретение в сфере ограниченного ИИ на шаг приближает нас к созданию общего искусственного интеллекта.
Почему это так сложно?
Если бы вы попытались создать компьютер, схожий по своему интеллекту с человеческим, то вы бы стали по настоящему ценить свою способность мыслить. Констуирование небоскребов, запуск ракет в космос, исследование теории Большого Взрыва - все это намного легче осуществить, чем изучить мозг человека. На сегодняшний момент наш разум является самым сложным объектом в обозримой Вселенной.
Самое интересное заключается в том, что сложности при создании общего ИИ возникают в самых, казалось бы, простых вещах. Например, создать устройство, которое могло бы за долю секунды умножать десятизначные числа, не составляет труда. В это же время невероятно сложно написать программу, которая могла бы распознать, кто находится перед монитором: кошка или собака. Создать компьютер, который обыграет человека в шахматы? Легко! Заставить машину прочитать и понять написанное в детской книжке? Google тратит миллиарды долларов на то, чтобы решить эту задачу. Такие вещи как математические расчеты, создание финансовых стратегий, перевод с одного языка на другой, уже решены при помощи ИИ. Однако, зрение, восприятие, жесты, передвижение в пространстве пока еще остаются нерешенными проблемами для компьютеров.
Эти навыки кажутся простыми для человека, потому что они развивались в течение миллионов лет эволюции. Когда вы протягиваете руку, чтобы взять какой-либо предмет, ваши мышцы, связки и кости совершают целую серию операции, которые согласуются с тем, что видят ваши глаза.
С другой стороны, умножение больших чисел, игра в шахматы - это совершенно новые действия для биологических существ. Вот почему компьютеру очень просто превзойти нас в этом. Задумайтесь, какую программу вы предпочли бы создать: которая могла бы быстро умножать большие числа или просто распознавать букву Б из тысяч других, написанных разными шрифтами?
Еще один забавный пример: взглянув на изображение ниже, и вы, и компьютер сможете безошибочно установить, что на нем представлен прямоугольник, состоящий из квадратов двух разных оттенков:
Но, стоит удалить черный фон, как перед нами откроется полная, ранее скрытая картина:
Человеку не составит никакого труда назвать и описать все фигуры, которые он видит на этом рисунке. Однако компьютер не справится с этой задачей. А проанализировав изображение ниже, он сделает заключение о том, что перед ним комбинация из множества двухмерных объектов белого, черного и серого цветов. При этом человек с легкостью скажет, что на рисунке изображен черный камень:
Все, что было упомянуто выше, касалось лишь восприятия и обработки статичной информации. Чтобы сравниться по уровню интеллекта с человеком, компьютеру нужно научиться распознавать мимику, жесты и так далее. Но как же добиться всего этого?
Первый шаг на пути к созданию общего ИИ - увеличение мощности компьютеров
Очевидно, что если мы собираемся создавать «умные» компьютеры, то они должны обладать такими же мыслительными способностями, как и человек. Одним из способов добиться этого является увеличение количества операций в секунду. Для этого необходимо вычислить, сколько операций в секунду выполняет каждая структура мозга человека.
Рэй Курцвейл произвел некоторые вычисления и сумел получить число в размере 10 000 000 000 000 000 операций в секунду. Приблизительно такой производительностью обладает мозг человека.
В настоящее время самым мощным суперкомпьютером является китайский Tianhe-2, чья производительность составляет 34 квадрильона операций в секунду. Однако размеры этого суперкомпьютера впечатляют - он занимает площадь в 720 квадратных метров и стоит $390 000 000 долларов.
Итак, если посмотреть с технической стороны, то у нас уже есть компьютер, сравнимый по производительности с мозгом человека. Он недоступен массовому потребителю, но в течение десяти лет станет таковым. Однако производительность - не единственное, что способно наделить компьютер интеллектом как у человека. Следующий вопрос: как сделать мощный компьютер разумным?
Второй шаг на пути к созданию общего ИИ - наделить машину интеллектом
Это самая сложная часть процесса, ведь никто на самом деле не знает, как сделать компьютер «умным». До сих пор ведутся споры о том, как наделить машину возможностью отличать кошек от собак или распознавать букву Б. Однако, существует несколько стратегий, некоторые из которых кратко описаны ниже:
1. Копирование мозга человека
В настоящее время ученые работают над так называемым обратным проектированием мозга человека. По оптимистичным прогнозам, это работа завершится к 2030 году. Как только проект будет создан, мы сможем узнать все секреты нашего мозга и черпать из этого новые идеи. Примером подобной системы является искусственная нейронная сеть.
Другой более экстремальной идеей является полная имитация функций мозга человека. В ходе этого эксперимента планируется разрезать мозг на множество тончайших слоев и просканировать каждый из них. Затем используя специальную программу, нужно будет создать 3D-модель, а затем внедрить ее в мощный компьютер. После этого мы получим устройтство, которое официально будет обладать всеми функциями мозга человека - ему останется лишь собирать информацию и учиться.
Как долго нам осталось ждать того момента, когда ученые смогут создать точную копию мозга человека? Достаточно долго, ведь на сегодняшний день специалистам не удалось скопировать даже 1мм слоя мозга, состоящий из 302 нейронов (наш мозг состоит и 100 000 000 000 нейронов).
2. Повторение эволюции мозга человека
Создание «умного» компьютера теоретически возможно, и эволюция нашего собственного мозга является тому подтверждением. Если мы не можем создать точную копию мозга, мы можем постараться имитировать его эволюцию. На самом деле, к примеру, построить самолет невозможно, просто скопировав крылья птицы. Чтобы создать качественный летательный аппарат, лучше использовать какой-то другой подход.
Каким же образом можно симулировать эволюционный процесс для создания общего ИИ? Этот метод называется генетическим алгоритмом. Суть этого подхода заключается в том, что задачи оптимизации и моделирования решаются с использованием механизмов, аналогичных естественному отбору в живой природе. Несколько компьютеров будут выполнять различные задачи, и те из них, что окажутся наиболее эффективными, будут «скрещены» друг с другом. Машины, не справившиеся с задачей, будут исключены. Таким образом, спустя множество повторений данного эксперимента, алгоритм естественного отбора будет создавать все более качественный компьютер. Трудность здесь заключается в автоматизации процесса эволюции и «скрещивания», ведь эволюционный процесс должен идти сам по себе.
Недостатком описанного метода является то, что в природе эволюции требуются миллионы лет, а нам нужны результаты в течение пары десятилетий.
3. Передача всех задач компьютеру
Когда ученые приходят в отчаяние, они пытаются создать программу, которая бы тестировала сама себя. Это может стать самым многообещающим методом создания общего ИИ.
Идея заключается в том, чтобы создать такой компьютер, чьими главными функциями будет исследовании ИИ и кодирование изменений. Такой компьютер будет не только самостоятельно обучаться, но и изменять свою собственную архитектуру. Ученые планируют научить компьютер быть исследователем, главной задачей которого станет развитие собственного интеллекта.
Все это может произойти уже совсем скоро
Постоянное совершенствование компьютеров и проведение инновационных экспериментов с новым ПО происходят параллельно. Общий искусственный интеллект может появиться быстро и неожиданно по двум основным причинам:
1. Экспоненциальный темп роста кажется очень медленным, однако он может ускориться в любой момент.
2. Когда дело касается программного обеспечения, то, кажется, что прогресс происходит очень медленно, однако единственное открытие может в мгновение ока вывести нас на новый уровень развития. Например, всем нам известно, что ранее люди думали, что в центре Вселенной находится Земля. В связи с этим возникало множество трудностей при изучении космоса. Однако, затем система мира неожиданно сменилась на гелиоцентрическую. Как только представления кардинально изменились, новые исследования стали возможными.
На пути от ограниченного ИИ к Искусственному Суперинтеллекту
В определенный момент развития ограниченного ИИ компьютеры начнут превосходить нас. Дело в том, что искусственный интеллект, идентичный мозгу человека, будет иметь несколько преимуществ над людьми, среди которых можно выделить следующие:
Скорость. Нейроны нашего мозга работают с максимальной частотой в 200Гц, в то время как современные микропроцессоры - с 2ГГц, или в 10 миллионов раз быстрее.
Размеры. Мозг человека ограничен размерами черепа и поэтому он не может стать больше. Компьютер может иметь любой размер, предоставляя больше места для хранения файлов.
Надежность и длительность работы. Компьютерные транзисторы работают с большей точностью, чем нейроны мозга. Кроме того, их легко можно починить или заменить. Мозг человека имеет свойство утомляться, в то время как компьютер может работать на полную мощность круглые сутки.
Искусственный интеллект, запрограммированный на постоянное самосовершенствование, не станет ограничивать себя какими-либо пределами. Это означает, что, достигнув уровня человеческого интеллекта, машина не остановится на этом.
Разумеется, когда компьютер станет «умнее» нас, это будет шоком для всего человечества. На самом деле, большинство из нас имеют искаженное представление об интеллекте, которое выглядит так, как показано на рисунке:
Наше искаженное представление об интеллекте.
Горизонтальная ось — время, вертикальная ось — интеллект.
Уровни интеллекта идут снизу вверх: муравей, птица, шимпанзе, недалекий человек, Эйнштейн. Между глупым человеком и Эйнштейном находится человек, который говорит: «Ха-ха! Эти забавные роботы ведут себя как обезьяны!»
Красным цветом обозначено развитие искусственного интеллекта.
Итак, кривая развития искусственного интеллекта на графике стремится достигнуть уровня человека. Мы наблюдаем, как машина постепенно становится умнее животного. Однако как только ИИ доберется до уровня «недалекий человек» или, как выразился Ник Бостром, «деревенский дурачок», это будет означать, что был создан общий искусственный интеллект. В таком случае компьютеру не составит труда достигнуть уровня Эйнштейна. Это бурное развитие показано на рисунке ниже:
Но что же произойдет потом?
Интеллектуальный взрыв
Здесь нелишним будет напомнить о том, что все написанное в этой статье является описание реальных научных прогнозов, составленных уважаемыми учеными.
В любом случае, большинство моделей ограниченного искусственного интеллекта включают в себя функцию самосовершенствования. Но даже, если создать ИИ, в котором изначально не предусмотрена такая функция, то, достигнув уровня человеческого интеллекта, компьютер приобретет способность обучаться самостоятельно по своему желанию. В результате этого машинный разум постепенно разовьется и станет суперинтеллектом, который будет во много раз превосходить человеческий разум.
В настоящее время ведутся споры о том, когда же ИИ достигнет уровня человеческого интеллекта. Сотни ученых сходятся во мнении, что это произойдет примерно в 2040 году. Не слишком большой срок, не правда ли?
Итак, искусственному интеллекту понадобятся десятилетия, чтобы достигнуть уровня человеческого разума, но, в конце концов, это произойдет. Компьютеры научатся понимать мир, окружающий их, так же, как это осознает 4-летний ребенок. Внезапно, усвоив эту информацию, система освоит теоретическую физику, квантовую механику и теорию относительности. Через полтора часа ИИ превратится в искусственный суперинтеллект, в 170 тысяч раз превосходящий возможности мозга человека.
Суперинтеллект - это такой феномен, который мы не в силах даже отчасти осознать. В нашем представлении умный человек имеет IQ 130, а глупый - менее 85. Но какое слово можно подобрать для существа с IQ 12952?
Интеллект является синонимом власти, вот почему на данный момент человек находится на вершине эволюции, подчиняя себе всех прочих живых существ. Это означает, что с появлением искусственного суперинтеллекта мы перестанем быть «венцом природы». Мы будем подчинены сверхразуму.
Если наш ограниченный мозг сумел создать Wi-fi, представьте себе, что может сотворить разум, превосходящий нас в сотни, тысячи и даже миллионы раз. Этот разум сможет контролировать местонахождение каждого атома на планете. Все, что мы сейчас считаем магией или властью Бога, станет повседневной задачей сверхинтеллекта. Сверхразум сможет победить старость, исцелять болезни, уничтожить голод и даже смерть. Он даже сможет перепрограммировать погоду, чтобы защитить жизнь на Земле. Но суперинтеллект сможет в мгновение ока и разрушить жизнь на планете. В нашем сегодняшнем понимании действительности, рядом с нами поселится Бог в роли сверхинтеллекта. Единственный вопрос, который нам следует задать самим себе: будет ли это добрый Бог?
Искусственный интеллект (ИИ, англ. Artificial intelligence, AI) - наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ. ИИ связан со сходной задачей использования компьютеров для понимания человеческого интеллекта, но не обязательно ограничивается биологически правдоподобными методами.
Что такое искусственный интеллект
Интеллект (от лат. intellectus - ощущение, восприятие, разумение, понимание, понятие, рассудок), или ум - качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой. Интеллект - это общая способность к познанию и решению трудностей, которая объединяет все познавательные способности человека: ощущение, восприятие, память, представление, мышление, воображение.
В начале 1980-х гг. ученые в области теории вычислений Барр и Файгенбаум предложили следующее определение искусственного интеллекта (ИИ):
Позже к ИИ стали относить ряд алгоритмов и программных систем, отличительным свойством которых является то, что они могут решать некоторые задачи так, как это делал бы размышляющий над их решением человек.
Основные свойства ИИ - это понимание языка, обучение и способность мыслить и, что немаловажно, действовать.
ИИ – комплекс родственных технологий и процессов, развивающихся качественно и стремительно, например:
- обработка текста на естественном языке
- экспертные системы
- виртуальные агенты (чат-боты и виртуальные помощники)
- системы рекомендаций.
Технологические направления ИИ. Данные Deloitte
Исследования в сфере ИИ
- Основная статья: Исследования в сфере искусственного интеллекта
Стандартизация в области ИИ
2018: Разработка стандартов в области квантовых коммуникаций, ИИ и умного города
Технический комитет «Кибер-физические системы» на базе РВК совместно с Региональным инжиниринговым центром «СэйфНет» 6 декабря 2018 года начали разработку комплекса стандартов для рынков Национальной технологической инициативы (НТИ) и цифровой экономики . К марту 2019 года планируется разработать документы технической стандартизации в области квантовых коммуникаций , и , сообщили в РВК. Подробнее .
Влияние искусственного интеллекта
Риск для развития человеческой цивилизации
Влияние на экономику и бизнес
- Влияние технологий искусственного интеллекта на экономику и бизнес
Влияние на рынок труда
Предвзятость искусственного интеллекта
В основе всего того, что является практикой ИИ (машинный перевод, распознавание речи, обработка текстов на естественных языках, компьютерное зрение , автоматизация вождения автомобилей и многое другое) лежит глубинное обучение. Это подмножество машинного обучения , отличающееся использованием моделей нейронных сетей , о которых можно сказать, что они имитируют работу мозга, поэтому их с натяжкой можно отнести к ИИ. Любая модель нейронной сети обучается на больших наборах данных , таким образом, она обретает некоторые «навыки», но то, как она ими пользуется - для создателей остается не ясным, что в конечном счете становится одной из важнейших проблем для многих приложений глубинного обучения. Причина в том, что такая модель работает с образами формально, без какого-либо понимания того, что она делает. Является ли такая система ИИ и можно ли доверять системам, построенным на основе машинного обучения? Значение ответа на последний вопрос выходит за пределы научных лабораторий. Поэтому заметно обострилось внимание средств массовой информации к явлению, получившему название AI bias. Его можно перевести как «необъективность ИИ» или «пристрастность ИИ». Подробнее .
Рынок технологий искусственного интеллекта
Рынок ИИ в России
Мировой рынок ИИ
Сферы применения ИИ
Сферы применения ИИ достаточно широки и охватывают как привычные слуху технологии, так и появляющиеся новые направления, далекие от массового применения, иначе говоря, это весь спектр решений, от пылесосов до космических станций. Можно разделить все их разнообразие по критерию ключевых точек развития.
ИИ - это не монолитная предметная область. Более того, некоторые технологические направления ИИ фигурируют как новые подотрасли экономики и обособленные сущности, одновременно обслуживая большинство сфер в экономике.
Основные коммерческие сферы применения технологий искусственного интеллекта
Развитие применения использования ИИ ведет к адаптации технологий в классических отраслях экономики по всей цепочке создания ценности и преобразует их, приводя к алгоритмизированию практически всего функционала, от логистики до управления компанией.
Использование ИИ в целях обороны и в военном деле
Использование в образовании
Использование ИИ в бизнесе
ИИ в электроэнергетики
- На уровне проектирования: улучшенное прогнозирование генерации и спроса на энергоресурсы, оценка надежности энергогенерирующего оборудования, автоматизация повышения генерации при скачке спроса.
- На уровне производства: оптимизация профилактического обслуживания оборудования, повышение эффективности генерации, снижение потерь, предотвращение краж энергоресурсов.
- На уровне продвижения: оптимизация ценообразования в зависимости от времени дня и динамическая тарификация.
- На уровне предоставления обслуживания: автоматический выбор наиболее выгодного поставщика, подробная статистика потребления, автоматизированное обслуживание клиентов, оптимизация энергопотребления с учетом привычек и поведения клиента.
ИИ в производственной сфере
- На уровне проектирования: повышение эффективности разработки новых продуктов, автоматизированная оценка поставщиков и анализ требований к запчастям и деталям.
- На уровне производства: совершенствование процесса исполнения задач, автоматизация сборочных линий, снижение количества ошибок, уменьшение сроков доставки сырья.
- На уровне продвижения: прогнозирование объемов предоставления услуг поддержки и обслуживания, управление ценообразованием.
- На уровне предоставления обслуживания: улучшение планирования маршрутов парка транспортных средств, спроса на ресурсы автопарка, повышение качества подготовки сервисных инженеров.
ИИ в банках
- Распознавание образов - используется в т.ч. для узнавания клиентов в отделениях и передачи им специализированных предложений.
Основные коммерческие сферы применения технологий искусственного интеллекта в банках
ИИ на транспорте
- Автоиндустрия на пороге революции: 5 вызовов эры беспилотного вождения
ИИ в логистике
ИИ в пивоварении
Использование ИИ в госуправлении
ИИ в криминалистике
- Распознавание образов - используется в т.ч. для выявления преступников в общественных пространствах.
- В мае 2018 года стало известно об использовании голландской полицией искусственного интеллекта для расследования сложных преступлений.
Как сообщает издание The Next Web, правоохранительные органы начали оцифровывать более 1500 отчетов и 30 млн страниц, связанных с нераскрытыми делами. В компьютерный формат переносят материалы, начиная с 1988 года, в которых преступление не раскрывалось не менее трех лет, и преступник были приговорен к более 12 годам лишения свободы.
Раскрыть сложное преступление за день. Полиция берет ИИ на вооружение
После оцифровки всего контента он будет подключен к системе машинного обучения , которая будет анализировать записи и решать, в каких делах используются самые достоверные доказательства. Это должно снизить время обработки дел и раскрытия прошлых и будущих преступлений с нескольких недель до одного дня.
Искусственный интеллект будет распределять дела по их «разрешимости» и указывать на возможные результаты экспертизы ДНК. Затем планируется автоматизировать анализ и в других областях судебной экспертизы и, возможно, даже охватить данные в таких областях, как общественные науки и свидетельские показания.
Кроме того, как рассказал один разработчиков системы Джерун Хаммер (Jeroen Hammer), в будущем могут быть выпущены API -функции для партнёров.
В голландской полиции есть специальное подразделение, специализирующееся на освоении новых технологий для раскрытия преступлений. Именно он и создало ИИ-систему для быстрого поиска преступников по уликам.
ИИ в судебной системе
Разработки в области искусственного интеллекта помогут кардинально изменить судебную систему, сделать ее более справедливой и свободной от коррупционных схем. Такое мнение высказал летом 2017 года доктор технических наук, технический консультант Artezio Владимир Крылов.
Ученый считает, что уже существующие сейчас решения в области AI можно успешно применять в разных сферах экономики и общественной жизни. Эксперт указывает, что AI успешно применяется в медицине, однако в будущем способен полностью изменить и судебную систему.
«Ежедневно просматривая новостные сообщения о разработках в области ИИ только поражаешься неисчерпаемости фантазии и плодотворности исследователей и разработчиков в этой области. Сообщения о научных исследований постоянно чередуются с публикациями о новых продуктах, врывающихся на рынок и сообщениями об удивительных результатах, полученных с помощью применения ИИ в различных областях. Если же говорить об ожидаемых событиях, сопровождаемых заметным хайпом в СМИ, в котором ИИ станет снова героем новостей, то я, наверное, не рискну делать технологических прогнозов. Могу предположить, что ближайшим событием станет появление где-то предельно компетентного суда в форме искусственного интеллекта, справедливого и неподкупного. Случится это, видимо, в 2020-2025 году. И процессы, которые пройдут в этом суде приведут к неожиданным рефлексиям и стремлению многих людей передать ИИ большинство процессов управления человеческим обществом».
Использование искусственного интеллекта в судебной системе ученый признает «логичным шагом» по развитию законодательного равенства и справедливости. Машинный разум не подвержен коррупции и эмоциям, может четко придерживаться законодательных рамок и выносить решения с учетом многих факторов, включая данные, которые характеризуют участников спора. По аналогии с медицинской сферой, роботы -судьи могут оперировать большими данными из хранилищ государственных служб. Можно предположить, что машинный интеллект сможет быстро обрабатывать данные и учитывать значительно больше факторов, чем судья-человек.
Эксперты-психологи, впрочем, считают, что отсутствие эмоциональной составляющей при рассмотрении судебных дел негативно скажется на качестве решения. Вердикт машинного суда может оказаться слишком прямолинейным, не учитывающим важность чувств и настроения людей.
Живопись
В 2015 году команда Google тестировала нейронные сети на предмет возможности самостоятельно создавать изображения. Тогда искусственный интеллект обучали на примере большого количества различных картинок. Однако, когда машину «попросили» самостоятельно что-нибудь изобразить, то оказалось, что она интерпретирует окружающий нас мир несколько странно. Например, на задачу нарисовать гантели, разработчики получили изображение, в котором металл был соединён человеческими руками. Вероятно, произошло это из-за того, что на этапе обучения анализируемые картинки с гантелями содержали руки, и нейронная сеть неверно это интерпретировала.
26 февраля 2016 года в Сан-Франциско на специальном аукционе представители Google выручили с психоделических картин, написанных искусственным интеллектом, порядка $98 тыс. Данные средства были пожертвованы на благотворительность. Одна из наиболее удачных картин машины представлена ниже.
Картина, написанная искусственным интеллектом Google.