История искусственного интеллекта начинается в эру символизма. Начавшись в Дартмуте в 1956 году, она продлилась до 1990-х, когда бразды правления взяла эра обучения. Истоки символической эры начинаются задолго до 1956-го, Алана Тьюринга и Ады Лавлейс, их можно обнаружить в Древней Греции, Китае, Индии и исламских культурах.

Например, в III веке до н. э. в Афинах Аристотель разработал одну из первых символических логик. Скорее всего, вы впервые познакомились с понятием логики через его знаменитый силлогизм: Все люди смертны. Сократ человек. Следовательно, Сократ смертен. Здесь слова «человек», «смертен» и «Сократ» являются символами. Они отражают понятие человека, свойство смертности и личности Сократа соответственно. Я могу заменить эти символы другими, например «медведь», «бурый» и «Кнут». Теперь эти символы будут отражать понятие медведя, свойство иметь бурый окрас и знаменитого полярного медведя по имени Кнут. И тогда знаменитый аристотелевский силлогизм превращается в такое утверждение: Все медведи бурые. Кнут медведь. Следовательно, Кнут бурый. Конечно, начав с того, что все медведи бурые, я могу вызвать ошибочное представление о белых медведях вроде Кнута. Но, несмотря на эти проблемы, легко понять, что компьютеры без особых сложностей обрабатывают такие символы. Таким образом, символы играют ключевую роль в мыслительных, а не только вычислительных способностях компьютера.

Илл. 5. В 2007 году Кнут впервые появился в Берлинском зоопарке

Очень просто поддаться западному шовинизму и проглядеть важнейший вклад людей с другого конца планеты. Например, за два века до Аристотеля в древнем индийском тексте Ньяя-сутры на санскрите появляется силлогизм. А Логики[28], как и предполагает их название, были представителями философской школы, интересовавшейся логическими рассуждениями примерно в то же самое время, что и Аристотель, только далеко от Афин, во времена династии Чжоу в Китае.

Символы – это основа искусственного интеллекта. Думаю, что здесь нет ничего удивительного. Интеллект связан с языком. Не является ли язык продуктом мысли? Но и язык сам по себе является набором символов. На деле же символы обозначили одну из фундаментальных проблем, с которой столкнулся искусственный интеллект, так называемая проблема заземления символов. Как мы «заземляем» или соединяем символы в компьютере с их значением в реальном мире? Как, например, мы понимаем, что слово «Сократ» означает «древнегреческий философ Сократ»? Или что «Кнут» – это (к сожалению, уже ушедший из жизни) полярный медведь по имени Кнут? Знаменитый американский философ и ИИ-скептик Джон Сёрл описал эту проблему в своем знаменитом тезисе под названием «Китайская комната»:

Китайская комната Сёрла – аргумент против того, что компьютеры обладают «разумом», «пониманием» и даже «сознанием». К счастью, его позиция оставила открытой саму идею искусственного интеллекта. Такая китайская комната, которую описывает Сёрл, уже существует. Насколько нам известно, ее существование не нарушит никакие законы физики, даже если мы попытаемся соединить символы в китайской комнате с соответствующими понятиями за пределами планеты. Программа на основе искусственного интеллекта способна, как и китайская комната, ответить разумно на вопросы – без понимания символов или заземления их в реальности.

Эту идею – представлять концепции окружающего мира с помощью символов – мы все используем ежедневно. Например, мы успешно представляем страны всего мира в виде двузначных чисел: 61 – для Австралии, 32 – для Бельгии, 86 – для Китая, 45 – для Дании, 20 – для Египта, 33 – для Франции. Как вы уже могли догадаться, эти цифры обозначают международный телефонный код. Телефонная сеть представляет собой огромный распределительный компьютер, использующий эти математические символы для маршрутизации вызова. В авиации трехбуквенные символы обозначают название аэропорта: SYD – Международный аэропорт Сиднея имени Кингсфорда Смита, JFK – Международный аэропорт имени Джона Кеннеди в Нью-Йорке, PEK – Международный аэропорт Шоуду (Пекин-Столичный), LHR – Международный аэропорт Хитроу в Лондоне. Символы объединяют мир. И, как предсказала Ада Лавлейс, мы также можем использовать математические символы для обозначения музыкальных нот, превратить буквы в слово или точки в картинку. Изображение на вашем смартфоне – это не более чем длинная последовательность нулей и единиц, как и голосовое сообщение, которое только что оставил ваш начальник.

Учитывая роль символов, фундаментальный вопрос искусственного интеллекта достаточно прост. Как мы можем управлять символами более осознанно? Это естественно подводит нас к первой из шести главных на сегодняшний день идей искусственного интеллекта. Это идея управления символами, и она смехотворно проста. Большинство проблем сводится к поиску их решения.

Звучит не только просто, но и самоочевидно, поэтому дайте мне немного усложнить. Множество проблем в области искусственного интеллекта сводится к тому, что компьютер будет искать свое внутреннее представление о мире начиная с символа, обозначающего исходное состояние, и заканчивая символом конечной цели.

Эта идея не является новаторской и носит название «Навигация». Вы изучаете карту, чтобы проложить маршрут из точки отправления до желаемого пункта назначения. Мы делаем это постоянно. Используя карту лондонского метро, мы можем добраться от Бонд-стрит до вокзала Кингс-Кросс следующим маршрутом: садимся на центральную линию и едем от Бонд-стрит до Оксфордского цирка, далее делаем переход на линию Виктории и едем до Уоррен-стрит, а затем, проезжая станцию «Юстон», доезжаем до станции «Кингс-Кросс». Разница только в том, что вместо того, чтобы самостоятельно проложить маршрут, за нас это делает компьютер. Действительно, существуют специальные алгоритмы, которые исследуют карту и эффективно находят такие маршруты. Один из самых известных – это «Поиск A*» (или «Алгоритм А*»). Покидая Бонд-стрит, он ведет не на запад к Мраморной арке, а на восток, к Оксфордскому цирку, поскольку это приближает вас к конечной точке, станции «Кингс-Кросс».

Илл. 6. Шейки, первый передвигающийся робот, способный рассуждать о том, как перемещаться по окружающей местности

Поиск A* был разработан в 1968 году для навигации робота Шейки (Shakey) [2]. Это имя (с английского – «Шаткий») ему подходило: робот действительно двигался довольно неуверенно. Он был сконструирован Стэнфордским исследовательским институтом в Менло-Парк, штат Калифорния. Это была первая попытка построить полноценного робота, такого, как вы могли видеть в фильмах – робота, оснащенного камерой для восприятия окружающего мира, микрофоном для распознавания команд, колесами и двигателем для наземной навигации и бортовым компьютером для принятия решений. В 2004 году Шейки был увековечен в Зале славы роботов Университета Карнеги-Меллона наравне с некоторыми более знаменитыми, но вымышленными роботами, такими как HAL 9000, R2–D2, C–3PO и робот Робби.

Компьютер Шейки имел электронную карту своего мира. Робота можно было попросить выполнить задачу, например: Шейки, сходи, пожалуйста, в библиотеку и принеси книгу. Он начнет исследовать свою электронную карту при помощи Поиска A*, выбирая подходящий маршрут из символов, обозначающих текущее местоположение, до символов, обозначающих библиотеку. Двигатель Шейки также проследует по маршруту, используя камеру, датчики для определения расстояний и датчики ударов для отслеживания прогресса до достижения цели.

В отличие от людей, которые не всегда с успехом находят дорогу, Поиск A* математически совершенен. Что я имею в виду? Во-первых, он полноценный. Если есть какой-либо маршрут из точки А в точку Б, то A* найдет его. Во-вторых, он оптимален. Построенный алгоритмом маршрут из точки А в точку Б будет самым коротким из возможных. И в-третьих, он максимально эффективен. То есть при поиске кратчайшего маршрута от A до Б алгоритм A* исследует как можно меньшую часть карты. Вы не сможете найти маршрут, используя меньший объем поиска! Чтобы доехать от Бонд-стрит до Кингс-Кросс он не будет учитывать вариант с Мраморной аркой.

Прежде чем отбросить Поиск A* как любопытный анекдот в истории искусственного интеллекта, вам следует осознать, что это, вероятно, один из самых типичных примеров использования искусственного интеллекта в нашей повседневной жизни. Каждый раз прокладывая маршрут на своем телефоне или используя GPS в машине, вы используете программу на основе Поиска А*, которая ищет наиболее короткий маршрут, учитывая дорожные условия, пробки, перекрытие дорог и информацию о расписании общественного транспорта. Иронично, что изначально алгоритм Поиск А* разрабатывался для навигации роботов, а сейчас используется для навигации людей. Не знаю как для вас, но для меня это одно из невероятных улучшений моей жизни. Теперь я не теряю время, потерявшись в переулке, и не спеша могу добраться до места вовремя.

Простую идею поиска можно перевести на другой уровень – увеличить размер карты, поставить задачу сложнее, чем поиск маршрута, например собрать сложный пазл или доказать трудную метаматематическую теорему.

Возьмем популярную головоломку «Пятнашки 3×3», где в поле 3×3 восемь клеток заполнены. Цель – расположить все восемь ячеек в числовом порядке. Мы можем представить это в виде задачи поиска и предоставить Поиску А* найти решение. В этой задаче ячейки головоломки представляют собой точки на карте. Два состояния считаются смежными, если переместить можно только одну ячейку. Для решения этой головоломки нам необходимо найти путь от заданной начальной точки до конечной в числовом порядке.

Илл. 7. Пример поиска решения «Пятнашки 3×3»

В начальной точке показанного на иллюстрации 7 древа поиска пустая ячейка находится в нижнем ряду посередине. Первый шаг – сдвинуть ячейку 6 вниз, создав пустое поле посередине. Аналогично, вторым шагом надо сдвинуть восьмерку в верхнем ряду вниз, создав пустое поле уже в средней ячейке верхнего ряда. Следующие два хода будем передвигать пустую ячейку против часовой стрелки. Наконец, переместив восьмерку влево, мы приходим в конечную точку, где цифры расположены в числовом порядке вокруг пустой ячейки в середине квадрата.

Роботы по типу Шейки обладают полной картой. Каждая точка представлена определенным символом, а соседние в реальном мире локации связаны и в карте. Что, если мы представим локации не совсем очевидным способом? Тогда мы сможем проводить поиски даже на бесконечном пространстве.

Первые новаторы в области искусственного интеллекта Аллен Ньюэлл и Герберт Саймон продемонстрировали эти идеи на Дартмутском семинаре в 1956 году, представив свою программу Logic Theorist («Теоретик логики»). В то время Ньюэлл работал в аналитическом центре корпорации RAND, но в 1961-м перешел в Университет Карнеги-Меллон (позже Технический университет Карнеги), чтобы продолжить совместную работу с Саймоном, профессором промышленного менеджмента. Саймон был настоящим междисциплинарным гением. В 1978 году ему была присуждена Нобелевская премия по экономике. Его исследовательские интересы охватывали такие области, как когнитивистика, информатика, государственное управление, менеджмент и политология. Тем не менее двигателем всех его исследований была попытка понять концепцию принятия решений человеком с точки зрения науки. В 1947-м он писал:

Саймон и Ньюэлл приступили к описанию «рабочих процессов» в таких компьютерных программах, как Logic Theorist.

Logic Theorist часто называют «первой программой на базе искусственного интеллекта», но она вовсе таковой не была. Первыми стали программа для игры в шашки, написанная Артуром Сэмюэлом в 1952 году, и Turochamp, шахматная программа 1948 года от Алана Тьюринга и его друга Дэвида Чемперноуна. Чуть позже мы об этом поговорим. Тем не менее Logic Theorist – первая программа, разработанная для доказательства математических теорем и демонстрации силы рассуждения при помощи символов. В действительности, Logic Theorist доказал 38 из 52 теорем из знаменитого труда по математике Альфреда Уайтхеда и Бертрана Рассела Principia Mathematica[29].

Principia Mathematica делает попытку изложить основы всей математики. Этот труд содержит доказательства некоторых фундаментальных математических истин, таких как modus tollens (рассуждение от противного), закон контрапозиции, который говорит нам, что если истинность P предполагает истинность Q, то ложность Q влечет за собой ложность P. Если, выигрывая в лотерею, вы счастливы, то несчастны вы из-за того, что не можете выиграть в лотерею. Этот логический аргумент уходит корнями глубоко до начала проведения лотереи Powerball, прямиком в III век до н. э., к Теофрасту[30], члену аристотелевской школы перипатетиков[31].

Logic Theorist не только доказывал теоремы из Principia Mathematica по типу modus tollens, но и открывал новые, а в некоторых случаях и доказывал их. Logic Theorist буквально переписал основы математики, в точности как Уайтхед и Рассел сделали, написав Principia Mathematica. Он искал новые математические истины, начиная с простейших аксиом и ранее установленных фактов, получая из этого новые математические истины до тех пор, пока успешно не достиг цели. Таким образом, он перемещался по бесконечной карте математических истин в поисках новых.

Искусственный математик Logic Theorist был научным прорывом. Кто бы мог представить в 1956 году, в самом начале стремления создать искусственный интеллект, что машины уже так скоро смогут доказывать теоремы? Памела Маккордак, одна из первых историков искусственного интеллекта, писала, что Logic Theorist был «убедительным доказательством того, что машина может выполнять задачи, которые до сих пор считались разумными, творческими и присущими только человеку» [4]. Герберт Саймон сделал более смелое заявление о своем изобретении: «Мы создали компьютерную программу, способную на нечисловое мышление и, таким образом, способную решить древнюю проблему взаимодействия разума и тела, объяснив, как система, состоящая из материи, может обладать свойствами разума» [5].

Илл. 8. Головоломка «Ханойская башня»

Боюсь, что мы уже живем в мире сенсационных заявлений и мифов, о котором нас предупреждал Артур Сэмюел. «Мышление» – это нечто большее, чем доказательство простых логических утверждений, а решение “проблемы разума и тела” – еще большее, чем это». Тем не менее Logic Theorist на самом деле был важным этапом в развитии искусственного интеллекта. Впервые машина стала способна выполнять действия, на которые ранее был способен только человек. Машина смогла доказать сложнейшие математические теоремы.

Вдохновленная успехом Logic Theorist, команда калифорнийских исследователей и создателей робота Шейки изобретает STRIPS (Stanford Research Institute Problem Solver), специалиста по решению проблем от команды Стэнфордского исследовательского института [6]. Программа на основе искусственного интеллекта была «мозгом» робота. STRIPS достигал поставленной для робота цели, исходя из задачи: пожалуйста, дай мне книгу, и искал пути для ее осуществления, разбивая на шаги, которым дальше следовал робот. Иди в библиотеку. Возьми книгу. Вернись из библиотеки с книгой. В отличие от Logic Theorist, который был ограничен лишь поиском доказательств для математических утверждений, STRIPS в теории мог решить любую проблему. Подвох заключался в формулировании проблемы в виде логического высказывания, делая его похожим на своего рода математическую задачу, которую решал Logic Theorist.

Представим, что роботу поручили решить головоломку «Ханойская башня». Эта перестановочная головоломка состоит из трех стержней, на которые надеты несколько дисков разного диаметра. Изначально все диски расположены на левом стержне, самый большой диск находится внизу, а самый маленький вверху. Цель – переместить и расположить все диски в том же порядке на правом стержне. В процессе решения головоломки игрок может передвигать за раз только один диск. Каждый шаг – это перенос верхнего диска с одного стержня на верх другого. Чтобы усложнить задачу, игроку нельзя класть больший диск на меньший, только меньший на больший.

Решения «Ханойской башни» достаточно сложны. Если в головоломке только два диска, игрок берет меньший из них с левого стержня и оставляет на пустом стержне посередине. Затем переносит большой диск с левого на пустой правый стержень.

Теперь игрок может переместить маленький диск со среднего стержня, надев его поверх большого на правом стержне. Пирамида из двух дисков, расположенных от большего к меньшему, теперь на правом стержне.

Это не так уж и сложно, пока есть всего два диска. Чем больше дисков, тем запутаннее и сложнее становится решение. С тремя дисками требуется семь шагов, чтобы решить головоломку, с четырьмя дисками – 15 шагов, с пятью – 31 шаг, а с шестью – 63 шага. С каждым прибавлением всего одного диска общее количество шагов увеличивается больше чем вдвое. Математики называют это комбинаторным взрывом.

Так как же STRIPS решает проблемы? Данные головоломки представлены набором математических истин “on(disc2,peg1)” и “on(disc1,disc2)”. Следовательно, в исходном значении большой диск, обозначенный disc 2, расположен на левом стержне peg 1, тогда как маленький диск disc 1 располагается сверху большого disc 2. Получается, что конечная цель “on(disc2, peg3)” и “on(disc1,disc2)”. Следовательно, большой disc 2 должен находиться на правом стержне peg 3, а маленький disc 1 поверх большого disc 2. Существует набор математических операторов для преобразования одного состояния в другое. Например, одним шагом оператор может преобразовать “on(disc1,disc2)” в “on(disc1,peg2)”, передвинув маленький disc 1, расположенный на большом disc 2, на средний стержень peg 2.

Что действительно сделало STRIPS эффективным и могущественным, так это разделение математического описания задачи от описания ее решения. Такое разделение содержания проблемы от ее решения стало одной из главных особенностей эры символизма. Мы отделили что от как. Чтобы STRIPS решил новую задачу, мы просто меняем что, а не как. Добавить еще один диск на «Ханойскую башню»? Не проблема. Просто меняем описание задачи и добавляем еще один диск. Два диска одного размера? Снова не проблема. Просто меняем описание задачи.

Главная мотивация к такому разделению заключалась в том, что множество задач могут быть решены аналогичными способами. Следовательно, при обновлении задачи нам не нужно каждый раз обновлять описание того, как ее решить. В действительности у STRIPS был простой и универсальный способ решения задач «анализ средств и целей», при котором проводится поиск различий между текущим и целевым состоянием, а затем применяется оператор, устраняющий эти различия.

Например, одно из различий между исходным и целевым состояниями «Ханойской башни» заключается в том, что самый большой диск нанизан не на тот стержень. Исходное состояние – на левом стержне “on Peg 1”. Конечное состояние – на правом стержне “on Peg 3”. Анализ средств и целей предполагает, что нам необходимо переместить самый большой диск с исходного стержня на конечный. Это подразумевает новую подцель – переместить любой диск, находящийся над самый большим, таким образом, что мы сможем его высвободить и переместить на конечный стержень. Затем мы рекурсивно применяем анализ средств и целей к этой подцели – освобождению самого большого из оставшихся дисков, что позволит убрать с пути диски меньшего размера.

Анализ средств и целей – мощный способ для решения задач, который также применим и в нашей обычной жизни. Хотите вырастить собственные помидоры? Тогда сделайте из уголка вашего сада огород. Хотите сделать огород? Тогда удалите сорняки и вскопайте почву. Хотите вскопать почву? Тогда достаньте лопату из гаража. Хотите избавиться от сорняков? Тогда купите гербициды.

В теории мы можем сформулировать любую проблему в том виде, в котором STRIPS может ее решить, затем искать ответ, используя анализ средств и целей, но на практике выходит, что не совсем можем, поскольку сталкиваемся с ранее упомянутым «комбинаторным взрывом». Количество возможных выборов, которые мы должны учесть при поиске решения, экспоненциально растет и вскоре становится неподвластным.

Экспоненты становятся запредельно большими. Знаменитая притча об изобретении шахмат поможет понять, какие проблемы возникают у искусственного интеллекта в этом случае. Жил на свете человек, и создал он шахматы, которые захотел показать императору Индии. Император был настолько поражен и благодарен, что предложил изобретателю самому выбрать награду, ожидая, что он попросит золото или другие богатства. Изобретатель же попросил всего лишь рис.

Император сразу же согласился, не осознавая экспоненциальную опасность просьбы. Повторные удвоения вскоре делают числа очень большими. Сумма зерен на доске окажется больше, чем 18 квинтиллионов. Если быть предельно точным, то на всей шахматной доске будет 18 446 744 073 709 551 616 рисинок. Такое количество риса покрыло бы всю Индию слоем глубиной практически в метр.

Примеры экспоненциального роста мы наблюдаем каждый день: от инфекционных заболеваний, таких как COVID–19, распространяющихся молниеносно по всей планете, до ядерных цепных реакций, высвобождающих огромную энергию. Как и императору, нам не всегда удается интуитивно понять, как скоро что-то удваивающееся сможет выйти из-под контроля. Такие экспоненты – проблемы, продолжающие преследовать искусственный интеллект и сегодня. К ним также относится и вопрос, почему такие чат-боты, как ChatGPT, могут сочинить сонет в стиле Шекспира, но испытывают трудности при логическом мышлении. Логические выводы резко умножаются. Два больше, чем один. Три больше, чем один. Четыре больше, чем один. Экспоненциальный рост настигнет искусственный интеллект раньше, чем он попытается подумать. ChatGPT может без особых трудностей написать текстовый абзац, но не способен на простые умозаключения. Ему даже сложно считать и складывать.

Давайте я вам покажу.

Сейчас мы подбираемся ко второй из шести ключевых идей в области искусственного интеллекта на сегодняшний день. Это способ решить, что делать, когда весь мир против тебя. В соревновательной среде тебе нужно выбрать наилучший возможный ход, предполагая, что твой противник выберет сделать свой наилучший возможный ход.

Опять-таки, это настолько просто, что звучит очевидно. Позвольте мне объяснить. Находясь в ситуации конкуренции, когда ваш противник выигрывает, вы проигрываете. Следовательно, наилучший возможный ход вашего соперника – наихудший возможный ход для вас. Эта идея также не новая. Мы все так действуем, когда играем. Если я пойду конем и атакую черного короля, тогда наилучший ход для черных – пожертвовать ладьей. И это даст мне ощутимое преимущество.

Давайте сыграем в «21», чтобы продемонстрировать эту идею. Вам не нужно пить во время игры, но будет намного веселее, если вы нальете себе стаканчик. Игра начинается с нуля. Каждый игрок по очереди добавляет один, два или три к предыдущему числу и озвучивает новое. Конечное число не должно быть больше 21. Тот игрок, который назовет 21, проигрывает и должен выпить.

Илл. 9–10. Чертеж Nimatron из Патентного бюро США и его фотография 1940 года

Хорошо, я буду первым.

У меня нет другого выхода, как назвать 21. И это означает, что вы выиграли, загнав меня в угол!

Давайте применим концепцию выбора наилучшего возможного хода для игры в «21», учитывая, что ваш противник сделает то же самое. На самом деле, это позволит сыграть нам в эту игру идеально. Мы сталкиваемся с первой проблемой: ваш наилучший возможный ход зависит от всех последующих шагов обоих игроков. И как же нам разрубить этот гордиев узел?

Алгоритм на основе искусственного интеллекта минимакс позволяет разрешить эту проблему. Минимакс думает наперед о наилучшем возможном ходе, начиная с конца игры. Он берет начало в конце потому, что в конце игры становится понятно, кто выиграл, а кто проиграл. Каждый раз минимакс возвращается назад, к предыдущему ходу, и рассматривает, как вы, игрок МАКС, можете выиграть, пока я, игрок МИНИ, прилагаю все усилия к вашему проигрышу. В конце игры, если вы называете 21, вы проигрываете. Следовательно, для шанса на победу ваше последнее названное число должно быть меньше 21. Предположим, что это число 20. Тогда я буду вынужден назвать 21 и вы выиграете. Следовательно, ваша цель теперь не назвать 21, а назвать 20. Давайте думать в обратном направлении, начиная с вашей цели назвать 20. Если я назову 17, 18 или 19, тогда вы сможете назвать 20 и выиграть на следующем ходе. Получается, что ваша цель теперь не назвать 20, а сделать так, чтобы я назвал 17, 18 или 19.

Снова думаем в обратном от вашей цели направлении, чтобы я назвал 17, 18 или 19. Если вы назовете 16, тогда я могу назвать 17, 18 или 19 и у вас будет возможность оказаться победителем. Теперь ваша новая цель – это назвать 16. Вы знаете, что сможете одержать победу на следующем ходу, при условии, что хорошо играете. Сейчас вы снова можете применить обратное мышление, отталкиваясь от цели назвать 16. Если я назову 13, 14 или 15, тогда вы сможете назвать 16 и в итоге выиграть. Если вы назовете 12, тогда мне нужно будет назвать 13, 14 или 15 и вы сможете выиграть. Следовательно, теперь ваша цель – это назвать 12.

Вы можете продолжить повторять двигаться в обратном направлении, сменяя вашу цель с 12 до 8, а после до 4. Это в точности та же стратегия, что была в самом начале игры: вы назвали 4, 8, 12, 16 и 20. Называя числа кратные 4, вы гарантированно сможете выиграть в «21». Конечно же, ваш противник будет придерживаться той же стратегии. Чем больше игроков, тем сложнее становится стратегия. Тем не менее принцип минимакс найдет наилучший способ выиграть.

Мы можем применить концепцию обратного мышления и к более сложным играм, например к шахматам. Однако шахматы обладают более сложным древом возможных ходов. В среднем на каждый ход в шахматах приходится более 30 возможных ходов, в то время как на каждый ход в «21» всего три. Компьютеры хороши в выполнении таких задач. Такое обратное мышление сегодня заложено в сердце даже самого мощного компьютерного движка для игры в шахматы.

Принцип обратного мышления помогает в решении не только шахмат и «21», но и других проблем реальной жизни, которые могут быть представлены в качестве игры против оппонента. Где мне контролировать транспортную сеть, учитывая, что «зайцы» быстро поймут, какие территории меньше всего находятся под присмотром? Какие облигации мне купить, чтобы минимизировать риск инвестиций, учитывая, что рынок может выступить против меня? Какое профилактическое обслуживание мне необходимо выполнить для моего авиапарка, учитывая, что эрозии и изнашивание деталей могут быть причиной поломок? Жизнь сама по себе уже игра.

Самая первая игра, созданная на базе искусственного интеллекта, была одной из вариаций игры на выпивание, которую мы недавно рассмотрели. Корпорация Westinghouse Electric в 1940 году разработала Nimatron[35] (Ниматрон) и продемонстрировала его на ежегодной Всемирной выставке в Нью-Йорке [1]. Более 44 миллионов человек посетили выставку, темой которой стал «Мир завтрашнего дня». Посетителям обещали показать мир будущего, в который входил и Nimatron, электрорелейная машина для древней китайской игры в ним. По правилам этой игры участники по очереди берут камни, разложенные на несколько кучек, но за один ход могут взять камни только из одной кучки. Игрок, поднявший последний камень, проигрывает. Nimatron – двумерная версия игры в «21».

Nimatron не был полноценным компьютером, а только лишь машиной для игры в ним. Следовательно, он и не являлся тем, что впоследствии мы назовем машиной Тьюринга. Тем не менее это было впечатляющее творение, весом более тонны и с четырьмя линиями по семь лампочек со стороны человека-игрока и с каждой из четырех сторон верхнего дисплея для зрителей. Игроки по очереди играли с автоматом, гася одну или более лампочек до тех пор, пока не погаснут все.

Nimatron требовалось всего несколько миллисекунд, чтобы сделать свой ход. В целях избежания деморализации человеческого противника, запрограммировали задержку, с учетом которой у машины на обдумывание уходила пара секунд. Даже с учетом этой искусственной задержки Nimatron был в некоторой степени подавляющим. За время всемирной выставки было сыграно более 100 000 партий. В девяти из десяти игр победителем становился Nimatron. При этом большинство поражений ему нанесли операторы машины: они запоминали выигрышные стратегии, чтобы показать толпе, что Nimatron и правда можно обыграть.

Nimatron вдохновил инженерную компанию Ferranti на создание другой машины для игры в ним, Nimrod, который представили на фестивале Британии в 1951 году.

Среди всех различных игр, в которые мы играем сегодня, шахматы занимают особое место в развитии искусственного интеллекта. В 1941 году, через год после изобретения Nimatron, в Блетчли-парке Алан Тьюринг начал обсуждать со своими коллегами по взламыванию кодов возможность создания машины, способной играть в шахматы и выполнять другие «умные» задачи. К моменту окончания Второй мировой войны Тьюринг был убежден, что теоретически компьютер способен воспроизвести все, на что способен человеческий мозг, в том числе и игру в шахматы.

В 1948 году он начать применять свою идею на практике. Он и его коллега из Кембриджского королевского колледжа Дэвид Чемперноун написали первую шахматную программу, названную Turochamp в честь фамилий создателей. Turochamp использовал алгоритм минимакса для определения стратегии игры, просчета всех возможных собственных ходов и всех возможных ходов противника. Чтобы избавить компьютер от необходимости просчитывать игру до конца, счет объявлялся в середине игры. Счет велся путем добавления очков в разных категориях, включая захват фигур, их мобильность и безопасность, а также угрозу постановки мата.

Поскольку игра просчитывалась только на два хода вперед, Turochamp играл на уровне начинающего. Даже учитывая эту особенность, для компьютеров того времени такие вычисления все еще были сложны, и при жизни Тьюринга запустить программу на реальном компьютере и вовсе не удалось. Вместо этого он мучительно моделировал программу вручную, тратя по полчаса или больше на просчет каждого хода.

Тем не менее в 2012 году удалось протестировать программу на компьютере. Turochamp была воссоздана и продемонстрирована на конференции в честь столетия со дня рождения Алана Тьюринга в Манчестере. Бывший мировой чемпион по шахматам Гарри Каспаров с легкостью обыграл программу за 16 ходов. Но 15-ю годами ранее, играя против более продвинутого компьютера, Каспаров не смог одержать победу. В 1990-х компания IBM переняла многие идеи Turochamp и вывела их на новый уровень, создав шахматный компьютер Deep Blue. Целью создания было стремление попасть в книгу рекордов и завоевать славу.

Deep Blue оказался сложным инженерным проектом, в среднем просчитывающим от шести до восьми ходов вперед, а в некоторых случаях и более 20. Он работал на базе рабочих станций IBM RS/6000 и имел специальное программное обеспечение для более быстрого просчета ходов. Выглядел такой компьютер впечатляюще: он представлял собой черный моноблок, как будто прямо с места съемок фильма «2001 год: Космическая одиссея» Стэнли Кубрика. В 1996 году IBM провела первый на тот момент матч с чемпионом мира по шахматам Каспаровым. Со счетом 4:2 Каспаров одержал победу и забрал призовой фонд в 400 000 долларов. Год спустя в Нью-Йорке был организован второй матч из шести партий, а призовой фонд был в три раза больше. Улучшенный Deep Blue (сейчас носит название Deeper Blue) обыграл Гарри Каспарова.

Игра была настолько напряженной, что до конца не было понятно, кто выиграет. Каспаров выиграл первую партию, а Deep Blue – вторую. После игры был проведен анализ, в результате которого было вынесено предположение, что Каспаров мог сыграть вничью[36]. Следующие три партии были сыграны вничью. Вся надежда была на финальную, шестую партию. Каспаров неудачно разыграл дебют, вероятно, он хотел вывести Deep Blue за рамки базы стандартных начальных ходов. Вместо того чтобы нанести удар компьютеру, Каспаров нанес его сам себе. На 19-м ходу он объявил поражение. Эта игра стала самой короткой, которую он когда-либо играл против Deep Blue. Машина одержала победу над человеком. Уезжая домой, Каспаров в качестве утешительного приза забрал еще 400 000 долларов, половину всего призового фонда.

Несмотря на проигрыш, Каспаров остается одним из лучших игроков в истории шахмат. Он стал самым молодым чемпионом мира и оставался обладателем титула дольше, чем любые другие мировые чемпионы. Жестокая ирония заключается в том, что он остался на страницах учебников по истории как первый чемпион мира по шахматам, проигравший компьютеру. После своего поражения он отметил:

На сегодняшний день наилучший шахматный движок – это Stockfish, 14-кратный победитель чемпионата ведущих шахматных движков. Последняя версия Stockfish просчитывает от 80 до 100 ходов вперед. В серии из шести партий против Stockfish, учитывая его показатели игры, даже у лучшего игрока в шахматы шанс выиграть один на триллион.

Буду откровенен. Человечество, игра окончена. Во всяком случае, это касается шахмат.

Гарри Каспаров, может, и был первым чемпионом мира по шахматам, проигравшим в турнире компьютеру, но он не был первым мировым чемпионом, потерпевшим поражение от компьютерной программы. Луиджи Вилла, профессиональный игрок в нарды из Милана, получил такую славу за 18 лет до проигрыша Каспарова. 14 июля 1979 года Луиджи Вилла стал победителем ежегодного чемпионата мира по нардам в первый и последний раз. Соответственно, поскольку нарды – азартная игра, то соревнование проходило в Монте-Карло. Времени для того, чтобы насладиться первенством и выпить шампанского, у Виллы не было. На следующий день после победы он проиграл со счетом 7:1 на тренировочном матче против компьютера, призовой фонд которого составил 5000 долларов.

Его противником была программа Ханса Берлинера BKG 9.8. Берлинер был профессором Университета Карнеги – Меллона в США и бывшим мировым чемпионом по заочным шахматам. В течение пяти лет Берлинер пытался обучить компьютер играть в нарды, в результате чего создал BKG 9.8. В таком противостоянии человека против машины Вилле не хватило немного удачи. В самом деле, по результатам последующего анализа игры было сделано предположение, что, по всей вероятности, он играл лучше, чем BKG 9.8. Но, к сожалению, игральные кости – независимое лицо, которое было более благосклонно к машине. В такой короткой игре из восьми партий у удачливого аутсайдера есть все шансы выиграть.

Новоиспеченный чемпион мира был безутешен. San Francisco Chronicle сообщила, что он с отвращением топнул ногой, крича о несправедливости, и что «это разочарование разделили несколько друзей итальянцев, которые после турнира были частью возмущенной и активно жестикулирующей толпы и сыпали оскорблениями в адрес машины» [3]. О том, как отреагировал компьютер на эти оскорбления, не сообщалось.

В какой-то степени для компьютера нарды – задача посложнее, чем шахматы. При каждом ходе есть 21 возможная комбинация игральных костей и около 20 возможных способов бросить кости. Следовательно, необходимо учитывать 400 вариантов хода. Играя в нарды, программа не способна предугадывать такое же количество ходов, как при игре в шахматы, где нужно учитывать только 30. В отличие от шахмат, в нардах речь также идет о принятии решений в неопределенном мире, где от броска игральных костей зависит многое, поскольку, как выяснил Лиуджи Вилла, судьба – дама капризная. Возможно, из-за этой неопределенности компьютерам не удается также хорошо обыгрывать людей, как у них это получается в шахматах. Тем не менее, основываясь на их рейтингах, лучшей современной программе в игре с текущим мировым чемпионом по нардам удалось бы вести со счетом 2:1.

15 июля 1979 года – день, когда BKG 9.8 повезло немного больше, чем другим, оставил глубокий след в истории искусственного интеллекта, а также в истории человечества. Отныне мы не лучшие. Человечество понесло поражение в одной из изобретенных им игр. Нам остается только задаваться вопросом: было ли это началом конца для нас, людей?

Двумя преимуществами компьютеров перед человеческим мозгом являются их грубая сила и точность. Они могут работать намного быстрее и просматривать гораздо большие массивы данных, чем люди, при этом выполняя все без ошибок. В соответствии с четко определенной задачей это означает, что компьютеры могут принимать наилучшие решения для победы над человеком.

Шашки – один из наилучших примеров, иллюстрирующих данную проблему. Игра проводится на доске 8×8, а игрокам, передвигаясь по диагонали, необходимо захватить все шашки противника, перепрыгнув на свободную клетку. В 1995 году компьютерная программа Chinook практически стала победителем в мировом чемпионате по шашкам между людьми и компьютерами. Почти 20 лет программу создавала команда из Университета Альберты под руководством профессора Джонатана Шеффера. В игре из 32 партий Chinook одержала победу над гроссмейстером Доном Лафферти, выиграв предпоследнюю партию, а все остальные сыграли вничью. Шашки – одна из тех игр, где очень просто сыграть вничью.

Однако успех к программе пришел немногим ранее, во время игры против легендарного Мариона Тинсли[37]. Несомненно, он лучший игрок в шашки за всю историю человечества. За свою 45-летнюю карьеру Тинсли не проиграл ни одного мирового турнира и проиграл лишь в семи партиях, две из которых были против Chinook, а во время других двух он был пьян! В 1991 году Тинсли отошел от игры на чемпионатах и стал обладателем почетного титула чемпиона мира, подтвердив свой статус практически непобедимого и доминирующего игрока. В 1992 году он обыграл Chinook со счетом 4:2, сыграв 33 партии вничью. В 1994 году состоялся матч-реванш между Тинсли и улучшенной версией Chinook. Шесть партий они снова сыграли вничью, а после Тинсли отказался продолжать по состоянию здоровья, любезно передав Chinook титул мирового чемпиона. В 1995-м он выразил желание вновь сыграть против компьютера, но, к сожалению, скончался от рака поджелудочной железы до того, как смогли организовать матч.

Илл. 11. Джонатан Шеффер (представляющий Chinook) в игре против Мариона Тинсли

Тем не менее сейчас нет смысла в тестировании Chinook против Тинсли или любого другого человека, поскольку программа и так продемонстрировала идеальную игру. В 2007 году команда разработчиков Chinook предоставила исчерпывающее доказательство, что программа никогда не сможет оказаться в проигрыше [4]. «Исчерпывающее» – самое подходящее слово для описания их «доказательства». Команде потребовалось несколько десятилетий вычислений на более чем 200 компьютерах, чтобы изучить все возможные варианты партий в шашки и показать, что независимо от того, насколько хорошо или плохо играет человек, его максимум в игре против Chinook – это ничья.

Существует множество других, менее сложных игр, где искусственный интеллект также продемонстрировал идеальную игру: ним, четыре в ряд, реверси и, несомненно, крестики-нолики [5]. Конечно, идеальная игра не всегда возможна. Такие игры, как шахматы, скорее всего никогда не будут сыграны идеально из-за своей сложности. Тем не менее, когда дело касается интеллекта, грубая сила иногда одерживает верх. И это хорошие новости для компьютеров.

Чтобы быть успешным не только в играх, но и в жизни, необходимо уметь справляться с неопределенностью. Покер, одна из самых популярных азартных игр, – прекрасный пример.

В таких играх, как шахматы, оба игрока видят доску и, следовательно, точно знают положение дел. Вероятность случайности отсутствует. Чего нельзя сказать о покере, ведь во время игры карты скрыты. Поэтому покер – это игра вероятностей и психологии. Вам необходимо понимать стратегию ваших противников. Когда они блефуют? Когда могут спасовать? Эти две отличительные черты делают покер для искусственного интеллекта задачей намного сложнее, чем шахматы. Вследствие этого, после успеха Deep Blue, для создания хорошего бота для игры в покер потребовалась еще пара десятков лет. Тем не менее на сегодняшний день искусственный интеллект уже очень хороший покерный игрок. Поэтому советую вам не делать ставки на его проигрыш.

В 2015 году Майкл Боулинг и его коллеги из университета Альберты разработали ИИ-бот Cepheus для игры в техасский холдем один на один. Поскольку ставки ограничены, а игроков всего двое, игра становится намного проще, чем при неограниченных ставках и с бóльшим количеством игроков. Учитывая ту роль, которую играет в покере случайность, невозможно выигрывать деньги в каждой раздаче: вам могут просто выпасть несчастливые карты. Команда университета Альберты провела восемь миллионов часов[38] за вычислениями, чтобы показать, что стратегия, разыгрываемая ботом Cepheus, практически безупречна и его невозможно победить. На протяжении всей своей игровой карьеры программа так и не будет повержена.

Два года спустя, в 2017 году, профессор университета Карнеги – Меллона Туомас Сандхольм и его коллеги разработали программу под названием Libratus для игры в более сложную и популярную игру один на один в безлимитный техасский холдем. Libratus сыграл против четырех профессиональных игроков в Питтсбурге, штат Пенсильвания, в борьбе за приз в 200 000 долларов. Они поучаствовали в трехнедельном марафоне из 120 000 раздач. Поскольку на протяжении всего турнира было огромное количество раздач, каждая из которых разыгрывалась в обе стороны, чтобы у каждого игрока было как можно больше как хороших, так и плохих комбинаций, мы с уверенностью можем сказать, что конечный результат не был случайным. Libratus вел с первого дня и безоговорочно стал победителем турнира.

Libratus – еще один пример могущества грубой силы математики. Для разработки программы потребовалось более 15 миллионов часов вычисления на суперкомпьютере в Питтсбургском суперкомпьютерном центре. Во время турнира Libratus каждую ночь тратил еще четыре миллиона часов на вычисления для усовершенствования своей стратегии, анализа предыдущих игровых дней, особое внимание уделяя проигрышам. Дон Ким, один из профессиональных игроков, играющих против компьютера, был поражен результатом. «До сегодняшнего дня я не осознавал, насколько он хорош. Я как будто играл против того, кто все время жульничал и видел все мои карты. Я не обвиняю программу в шулерстве. Это действительно было невероятно» [6].

Несмотря на то что некоторые игры по-прежнему представляют проблему для компьютеров, они все же сыграли важную роль в истории искусственного интеллекта. Их четкие правила и очевидные победители делают игры хорошим выбором для автоматизации, а для победы необходим высокий уровень интеллекта. Таким образом, игры предлагают простой, но идеализированный мир, в котором можно разрабатывать мыслящие машины и количественно оценивать достигнутый прогресс.

Игры также протестировали возражение Ады Лавлейс о том, что компьютеры могут делать только то, что им велено. Как компьютеры могут победить лучшего в мире шахматного или покерного игрока, если они всего лишь делают то, на что другой человек запрограммировал их? Ответ заключается в том, что компьютеры не делают в точности то, что им приказано делать. Компьютер может играть сам по себе, а затем, после каждой игры, обновлять стратегию для поиска наилучших и выигрышных ходов и избегания плохих, которые могут привести к поражению. Следовательно, компьютеры могут обучаться самостоятельно. В довершение всего мы также используем высокую скорость компьютера, чтобы играть в игры намного быстрее, чем это может делать человек. Количество сыгранных партий у Libratus намного больше, чем когда-либо сможет сыграть человек за всю жизнь, проводя каждый вечер за игрой в покер.

На самом деле, Libratus обучался довольно медленно, но этот недостаток компьютеры могут компенсировать своей скоростью и способностью играть в другие игры. Человеку необходимо 10 000 часов, чтобы развить, как говорит герой Лиама Нисона в фильме «Заложница», «много необычных способностей»[39] [7]. Искусственный интеллект, напротив, гораздо медленнее. Ему требуется более десяти миллионов часов для освоения покера, но, как знаменитая черепаха из басни, впоследствии он сможет опередить человека. Можете делать на это ставки.

История искусственного интеллекта – это череда взлетов и падений.

Первый взлет произошел на рубеже 1960-х и 1970-х годов, когда исследовательские проекты по типу Шейки вызывали бурю эмоций. Финансирование этих проектов потекло рекой и спровоцировало ряд уверенных прогнозов о том, что будущее и умные машины уже не за горами. Но к 1974 году такая уверенность сменилась всеобщим разочарованием. Ограниченные возможности искусственного интеллекта стали все более очевидными, и мы вступили в эпоху под названием «зима искусственного интеллекта».

Парламент Великобритании обратился к профессору сэру Джеймсу Лайтхиллу[40] с просьбой оценить текущее состояние исследований в области искусственного интеллекта. В опубликованном в 1973 году отчете он был крайне критичен, отмечая, что «ни в одной области науки сделанные на сегодняшний день открытия не оказали того значительного воздействия, которое было когда-то обещано». Лайтхилл также утверждал, что экспоненциальный рост возможных исходов означает, что алгоритмы ИИ подходили только для решения «игрушечной» версии проблем, тогда как в реальности, вероятнее всего, их решение застопорилось бы.

В Соединенных Штатах финансирование области искусственного интеллекта оказалось под угрозой. Несмотря на огромные вложения, прогресс в области машинного перевода и распознавания речи оценили как незначительный. Амбициозный пятилетний проект по пониманию речи, начатый в 1971 году, мог распознавать слова только тогда, когда их произносили в определенном порядке. В период холодной войны Национальная академия наук США выделила 20 миллионов долларов на разработку машинного перевода документов на русском языке. В результате создали системы машинного перевода, которые были дороже, медленнее и менее точными, чем человеческий перевод.

DARPA, Управление перспективных исследовательских проектов Министерства обороны США, в 1960-х выделяло щедрые бюджеты на исследование искусственного интеллекта, но все изменилось в 1970 году. Управление приняло решение, что им стоит финансировать исследования, ориентированные на достижение конкретной цели, а не на простые фундаментальные исследования. Считалось, что ИИ-проекты не принесут полезных открытий в ближайшем будущем. В скором времени финансирование области сократилось. Неудивительно, что прогресс также значительно замедлился.

Интерес и инвестиции возобновились в 1980 году, во многом благодаря идее «экспертных систем». Такие программы на основе искусственного интеллекта следуют простым правилам, при помощи написанного вручную кода воспроизводя специализированные человеческие знания в таких сложных областях, как медицина и инженерия. Такое нишевое применение позволило достичь уровня производительности человека, а в некоторых случаях и превзойти его. И вновь возросли надежды на то, что создание машинного интеллекта, равного человеческому, неизбежно.

В область искусственного интеллекта снова потекли миллионы долларов. Крупнейшие компании США ринулись интегрировать искусственный интеллект в свою работу. Стоимость компаний по разработке программного обеспечения и оборудования для искусственного интеллекта била рекорды. В то время цифры были космическими. Все заключалось в простой идее, третьей из шести, объясняющей сегодняшнее состояние области. В узкоспециализированных областях возможно имитировать опыт человека, следуя простым правилам.

В каком-то смысле эта концепция является реакцией на идеи № 1 и 2, в основах исследований которых лежал принцип: как найти решение. Пришло время вернуться к понятию самой проблемы, отбросив как, и понять, что она из себя представляет. Благодаря смещению фокуса на узкоспециализированное знание, это сработало.

Простой пример поможет нам понять. Давайте создадим экспертную систему, специализирующуюся на решении проблем в области распознавания животных. Мы начинаем с составления ряда правил для кодировки предметных знаний.

•  Если у животного есть мех и оно гавкает, то это собака.

• Если у животного есть мех и оно мяукает, то это кошка.

• Если у животного есть перья и оно крякает, то это утка.

• Если у животного есть перья и оно ухает, то это сова.

Думаю, вы поняли задумку. Следуя этим правилам, экспертная система может задавать пользователю вопросы, чтобы определить, что это за животное. Это похоже на игру «20 вопросов».

Конечно, мы можем усложнить процесс и добавить правила. Например, более развернутые и запутанные. Правила с элементами вероятности и неопределенности. Правила по умолчанию для обработки неполной информации. Правила и еще больше правил.

Сложно представить, как в 1980 году такое количество денег пришло в область искусственного интеллекта, основываясь на такой простой концепции. Для обобщения идеи экспертных систем придумали слоган из двух слов, который использовали повсюду: «Знание – сила!» Историки скажут, что эта идея стара как мир. Ее можно встретить в «Левиафане» Томаса Гоббса, опубликованного в 1668 году на латыни, в виде фразы “scientia potentia est”. Еще раньше в своем произведении 1597 года “Meditationes Sacrae” Фрэнсис Бэкон писал “ipsa scientia potestas est”, что в переводе означает «знание само по себе – сила».

Развитие первых экспертных систем на самом деле началось не в 1980-м, когда они набрали популярность, а в 1965 году. Как и любой другой успех в области искусственного интеллекта, за успехом экспертных систем кроются десятилетия разработки.

Первой экспертной системой стала DENDRAL, которую разработала талантливая и дальновидная команда Стэнфордского университета под руководством лауреата Нобелевской премии по физиологии и медицине Джошуа Ледерберга[41]. В число разработчиков также входили: химик Карл Джерасси, известный как «отец таблеток» за свою работу по синтезу оральных контрацептивов, а также теперь уже известные исследователи искусственного интеллекта Эдвард Фейгенбаум, который впоследствии обретет славу «отца экспертных систем»[42], и Брюс Бьюкенен, который, насколько мне известно, каким-то образом избежал звания отца чего бы то ни было.

Цель создания DENDRAL заключалась в определении структуры химических соединений на основе данных спектрометрии. Масс-спектрометрия – невероятный и зачастую дорогой метод идентификации различных компонентов, которые входят в состав химического вещества. Соединяя компоненты в единое целое, мы можем определить его исходную химическую структуру. На сегодняшний день масс-спектрометрия незаменима в биологических науках, помогая анализировать сложные молекулы, такие как пептиды, аминокислоты, протеины и другие органические вещества. Результатом исследования является масс-спектр, показывающий плотность и массы различных компонентов в химическом соединении. Этот процесс задает сложную вычислительную задачу: в какую возможную химическую структуру могут быть соединены компоненты при таком распределении масс?

DENDRAL помог ученым решить эту проблему. Несмотря на успех в своей узкой области масс-спектрометрии, основной вклад DENDRAL состоял в демонстрации возможностей – что, сосредоточивая внимание на узкой области и кодировке человеческого опыта в этой области, компьютерные программы могут выполнять поставленные задачи на уровне эксперта.

К 1980-м стало возможным применение экспертных систем по типу DENDRAL в самых неочевидных местах, например в патологических лабораториях, марсоходах и ядерных реакторах. Венчурное финансирование хлынуло рекой в эту область, а молодые стартапы достигли внушительных оценок их стоимости.

Появились такие лидеры рынка, как Teknowledge, Intellicorp, Inference Corporation и Carnegie Group. Что примечательно, ни одной из этих компаний сегодня уже не существует.

К сожалению, бум экспертных систем оказался очередной иллюзией апогея. К концу 1980-х стало ясно, что предстоит покорить еще гораздо более высокую вершину. На пороге была вторая, длинная и суровая зима. Это было время, когда я выпускался из университета и пришел в область искусственного интеллекта. Вот счастливчик! Вторая зима искусственного интеллекта длилась 20 лет. Вот счастливчик! В конце концов, солнце взошло только в 2012 году, когда началась эпоха машинного обучения. Во второй части нашей истории мы подробнее поговорим об этом времени.

Шумиха вокруг экспертных систем не спасла ситуацию, но окончательно добил эту революцию маленький, но фундаментальный вопрос: откуда изначально берутся все эти знания? Экспертность, опыт – это не просто запоминание фактов и правил. Настоящие профессиональные навыки и опыт приобретаются на практике, когда у нас развивается чутье на нестандартные ситуации и понимание, когда применить те или иные принципы. Без возможности приобрести неявное знание, экспертные системы так и остались с набором простых правил, не способных взаимодействовать с запутанной реальностью.

Пионеры экспертных систем на всех парах столкнулись с тем, что называется «узкое место приобретения знаний». Было нелегко закодировать в систему своего рода всесторонний опыт, накопленный за многие годы. В отличие от людей, у экспертных систем нет возможности отточить свои навыки на практике или настроить производительность.

Добавление новых правил немного исправило ситуацию. Но в итоге большее количество правил привело к обратному эффекту. Системы стали настолько сложными и запутанными, что для человека понимать принцип их работы стало затруднительным. Что еще хуже, из-за того, что экспертные системы не способны ограничиться в своих знаниях, они не могут определить, в каких ситуациях необходима человеческая проверка. Великая золотая лихорадка экспертных систем быстро сошла на нет. Финансирование приостанавливалось, конференции отменялись, а стартапы становились банкротами. Те, кто предсказывал начало эпохи искусственного интеллекта, были вынуждены признать, что приобретение и кодировка экспертности оказались намного сложнее, чем они себе это представляли. В действительности такой провал ознаменует начало второй эпохи искусственного интеллекта, времени, когда знания не кодировались вручную, а приобретались путем обучения. Все как у людей.

Ошибочно полагать, что экспертные системы полностью провалились. Они не стали решением проблемы в области искусственного интеллекта, как предсказывалось, но их наследие живо и по сей день. Одно из достояний – концепция логического программирования, привлекательный и мощный способ программирования компьютеров, где мы сосредоточились на самой задаче, а не на способе ее решения. А прадедушкой всех языков логического программирования был PROLOG[43], появившийся в 1980-х на фоне успеха экспертных систем.

Возможно, сейчас вы подумали, что все программирование логическое. Так и есть. В некотором роде компьютеры – прикладные логические машины. Они применяют простую логику нулей и единиц, которую изобрел в XVIII веке Джордж Буль, а Клод Шеннон в своей знаменитой диссертации перенес на электрическую схему. Логическое программирование выходит на новый уровень, позволяя программисту обозначить программу как более сложный набор логических утверждений.

На языке логического программирования мы можем обозначать факты и констатировать утверждение:

И добавить логические правила:

Язык логического программирования позволяет нам выводить логически новые факты, такие как:

В 1980-х в Японии запустили амбициозный проект стоимостью 850 миллионов долларов. В этот момент мировая компьютерная индустрия содрогнулась. Проект назвали инициативой по созданию компьютерных систем пятого поколения, смелой целью которого стала разработка новых суперкомпьютеров на базе искусственного интеллекта на основе языка логического программирования PROLOG.

Отличительной чертой предыдущих четырех поколений было техническое обеспечение. В первом поколении использовали электронные лампы, во втором – транзисторы, в третьем использовались интегральные микросхемы, а в четвертом – микропроцессоры. Обещали, что в пятом поколении будут суперкомпьютеры, оснащенные искусственным интеллектом. Оптимистично настроенный проект был нацелен на построение умных машин, способных вести переговоры и делать открытия. Разговоры о нем были утопичными, с предсказаниями, что такие компьютеры приведут нас к новой вехе решения проблем и расширению человеческих знаний.

Многие страны стали частью этой инициативы. Например, в 1984 году в Великобритании выделили 350 миллионов фунтов на разработку программы Alvey. Британцы, будучи более сдержанными, чем японцы, сосредоточились на разработке программы, направленной на развитие взаимоотношений между академической и промышленной областями, а также нацеленной на такие области исследований, как передовые микропроцессоры и искусственный интеллект.

Управление перспективных исследовательских проектов Министерства обороны США (DARPA) запустило Стратегическую вычислительную инициативу для широкого продвижения искусственного интеллекта, применения достижений в области разработки чипов, скорости обработки, компьютерной архитектуры и программного обеспечения. На этот проект в период с 1983 по 1993 год DARPA выделило около миллиарда долларов федерального бюджета. В ответ на растущую японскую угрозу технический сектор США решил объединить усилия и создать организацию по разработке микроэлектроники и вычислительной технике – Microelectronics and Computer Corporation (MCC), со штаб-квартирой в Остине, штат Техас. В корпорацию вошли такие крупные игроки, как DEC, Control Data, Sperry-Univac, Honeywell, Microsoft, National Semiconductor, Advanced Micro Devices и Motorola. Корпорация представляла собой лабораторию, занимающуюся фундаментальными научными исследованиями в области программной инженерии, технологии упаковки полупроводников, применения программных инструментов и алгоритмов для проектирования очень больших интегральных схем, параллельных вычислительных систем, систем управления базами данных, человеко-машинных интерфейсов и, конечно же, искусственного интеллекта.

Ни один из проектов инициативы по разработке компьютеров пятого поколения[44] не реализовал свои амбициозные обещания в разработке когнитивных и диалоговых систем. Их легкомысленное мышление оставило неизгладимый след, предопределяя появление ИИ-помощников, некоторыми из которых – Siri и Alexa – мы пользуемся сегодня, а также помогло в создании новых центров искусственного интеллекта в Остине, США и Кремниевой долине в Шотландии.

Язык логического программирования Prolog до сих пор находит применение в самых разных областях. Треть всех авиабилетов по всему миру бронируется при помощи системы, написанной на нем. Система голосового управления на борту международной космической станции также разработана на этом языке. Надеюсь, что она не настолько автономна, как HAL 9000, управляющий космическим кораблем «Дискавери–1» в фильме «2001 год: Космическая одиссея».

Такие языки логического программирования, как Prolog, – не единственное наследие бума экспертных систем. Это наследие проявилось в правилах ведения бизнеса, правилах, ограничивающих деятельность компании. Например:

•  каждая покупка стоимостью 10 000 долларов или выше нуждается в подтверждении со стороны вице-президента или вышестоящего лица;

•  командировка должна быть утверждена менеджером;

•  менеджеры не могут утверждать свои собственные командировки;

•  при перелете длительностью менее трех часов билет должен быть куплен в экономкласс.

Такие правила обрабатываются механизмами бизнес-правил. Одно из самых неоспоримых преимуществ этих механизмов состоит в том, как они помогают поддерживать и приобретать знания. И снова мы пришли к идее отделить проблему от способа ее решения. Корпоративное принятие решений должно быть гибким и быстро реагирующим на изменения.

Бизнес-правила обрели некую популярность. Ежегодная прибыль в этой области составляет около полутора миллиардов долларов, рост которой десять и более процентов в год. Крупные технические компании, как IBM и Oracle, занимаются разработкой программного обеспечения для бизнес-правил, а также создают стартапы по типу Sparkling Logic и InRule Technology. На самом деле, бизнес-правила – это хороший пример успеха искусственного интеллекта, который так и не получил заслуженного признания.

Также это говорит нам о том, что в нашей жизни уже слишком много искусственного интеллекта даже там, где мы и не подозреваем.

Сейчас, на середине нашей краткой истории искусственного интеллекта, вы скорее всего задумываетесь о том, когда же появятся роботы. На данный момент я упомянул только одного, довольно мило названного робота Шейки из 1970 года. Но есть еще несколько других важных роботов, которых необходимо включить в любую историю искусственного интеллекта.

Искусственный интеллект и роботы – тесно связанные дисциплины. Не все роботы оснащены искусственным интеллектом. Например, роботы на автомобильных заводах только следуют заданным инструкциям при покраске машин. Если машина расположена не в соответствующем месте, робот будет красить воздух. Как правило, в целях безопасности людей подобных роботов размещают за защитным ограждением. Но все роботы, функционирующие в реальном мире, не могут обойтись без искусственного интеллекта. Мир непредсказуем, поэтому искусственный интеллект необходим роботам, чтобы справляться с непредвиденными ситуациями и использовать его, чтобы видеть мир, осмыслять его и планировать свои действия в вечно меняющейся реальности.

Метафора о том, что искусственный интеллект – это мозг робота, слишком упрощена, но открывает нам важную истину. Прорывы в таких областях, как компьютерное зрение, объединение датчиков и планирование движения, обеспечили прорывы в робототехнике. По мере того, как алгоритмы искусственного интеллекта становятся все более продвинутыми в восприятии мира, понимании языка и принятии решений в условиях сложных сценариев, роботы становятся все более способными и полезными.

Развитие технологий оказало значительное влияние на расширение возможностей роботов в разных областях. Например, искусственный интеллект в компьютерном зрении позволил роботам взять на себя задачу эффективного уничтожения сорняков на австралийских фермах, а автоматическое предотвращение столкновений позволило роботизированным лодкам патрулировать побережье в поисках наркоконтрабандистов. Хотя искусственный интеллект – это еще не все, он незаменим для современной робототехники, поспособствовав тому, что роботы стали более адаптируемыми и универсальными. Пока искусственный интеллект продолжает совершенствоваться, мы можем ожидать, что роботы смогут овладеть новыми навыками для выполнения большего количества задач в таких секторах, как промышленность, медицина, агрономия, добыча полезных ископаемых, и просто помогать по дому.

Ввиду последних достижений в области искусственного интеллекта, скорее всего вы находитесь в предвкушении, что скоро робот-дворецкий, робот-уборщик и робот-повар станут членами ваших семей. Но у меня для вас плохие новости. Боюсь, что потребуется много времени, чтобы все они оказались у нас дома. Отчасти потому, что дом – это беспорядочная и захламленная среда. Не знаю как ваш, но мой – да. Зачастую я не могу посмотреть телевизор, потому что не могу найти пульт, чтобы включить его. Одно из самых болезненных событий в истории человечества – это наступить босой ногой на деталь из конструктора Лего. Мой дом – научная загадка. Почему вещи оказываются не там, где я их оставил?

Главная причина того, что роботы-дворецкие, уборщики и повара все еще далеки от нас, состоит не в хаосе наших жилищ, а в том, что мы называем парадоксом Моравека. Несмотря на то что принцип назван в честь ученого Ханса Моравека[45], он также был сформулирован и другими исследователями в 1980-е годы, Родни Бруксом и Марвином Минским[46]. Моравек так описал этот парадокс: «Компьютерам относительно легко достичь уровня взрослого человека в таких задачах, как тест на определение уровня интеллекта или игре в шашки, однако сложно или невозможно достичь навыков годовалого ребенка в задачах восприятия или мобильности» [1]. По словам одного из самых известных когнитивистов Стивена Пинкера[47] – это одно из значительных открытий, до сих пор не исследованное учеными:

Выразив свое мнение в 1994 году, Стивен Пинкер недооценил формирующиеся способности чат-ботов. Например, ChatGPT точно и виртуозно может ответить на каждый его вопрос.

Тем не менее его наблюдения о сложностях проектирования роботов остаются верными. Легкие для человека задачи зачастую поразительно сложны для роботов, и наоборот.

Один из способов побороть парадокс Моравека – это заставить людей работать вместе с роботами. Люди могут выполнять те задачи, с которыми возникают трудности у роботов. На самом деле, мы уже можем наблюдать такое у себя дома. У нас есть примитивные механизмы для мытья посуды. Мы называем их «посудомоечная машина». Но они работают только в том случае, если мы сами загружаем и выгружаем посуду. Также и с одеждой. У нас есть стиральная машина, которая выполняет только часть работы: мы должны положить одежду внутрь, достать мокрую одежду и развесить на бельевой веревке, сложить и убрать вещи.

Я также задумываюсь, есть ли какой-нибудь реальный парадокс в идее Моравека? Наш мозг – результат миллионов лет эволюции. Наше восприятие и двигательная система совершенствовались миллионами поколений. Язык и абстрактное мышление мы приобрели сравнительно недавно. Они новички в нашем мозге. Сложность, с которой сталкиваются машины при выполнении какой-либо задачи, может просто отображать количество времени, потребовавшееся эволюции, чтобы справиться с ней.

Давайте оставим вопрос о том, почему роботы сложны, и посмотрим на то, в чем действительно они могут быть полезны. Самый первый робот был вымышленным. В 1920 году чешский писатель Карел Чапек написал свою знаменитую научно-фантастическую пьесу «РУР». Название пьесы – это сокращение от «Россумские универсальные роботы» (Rossumovi univerzální roboti). Произведение ввело в обиход слово «робот». В нем также была затронута тема восстания роботов, впоследствии ставшая одной из основных в научной фантастике.

В пьесе Чапека роботы не были сделаны из металла. Это были биологические существа, созданные из натуральных материалов. Живые, но искусственно созданные люди. Несмотря на то что внешне они выглядели как настоящий человек, внутренне они больше походили на голема, чем на R2–D2, поскольку им не доставало индивидуальности и эмоций. Чапек не предсказывал наше будущее искусственного интеллекта. Он представлял будущих работников, людей, превращенных в роботов во время промышленной революции. Его роботы выращивались в похожих на матку чанах, а рождались на конвейерной линии. Основой их целью было служить. Роботы Чапека – биомашины, лишенные чувств и воли. Массовое производство тел с искусственным мозгом было идеальным решением для кабального труда.

Именно это искусственно созданное подчинение, ставшее причиной конфликта между роботами и их создателями – людьми, стало сюжетом пьесы. Чапек резонансно затронул антикапиталистические настроения, возникающие в быстро развивающемся индустриальном мире, который превращает рабочих в роботов. Роботы Чапека не были тем, что сейчас принято считать роботами, то есть машинами с искусственным интеллектом, но тем не менее были воплощением страха той эпохи, что технологии вытеснят людей с рабочих мест и люди утратят свою ценность. Вопреки нашему оптимистичному представлению о полезных цифровых помощниках и дружелюбных домашних роботах, эти опасения продолжают преследовать искусственный интеллект и сегодня.

Чапек остроумно стер границу между личностью и вещью. Его роботы не проявляли спонтанно эмоции, но несправедливое отношение вызывало у них гнев и агрессию. Пьеса предупреждает нас, что, угнетая и эксплуатируя других, независимо от того, биологическое ли это или цифровое существо, может последовать реакция, когда эти существа осознают свое рабское положение. Этот урок истории мы не должны забывать.

Первыми настоящими роботами стали Элмер и Элси. Звучит, как имена героев из «Улицы Сезам», но на самом деле их имена – акронимы. Нейробиолог Уильям Грей Уолтер из Нейрологического института Бёрдена в Бристоле разрабатывал Элмера, электромеханического робота, и Элси, электромеханического светочувстви́тельного робота, с 1948 по 1949 год.

Элмера и Элси часто называют черепахами из-за особенностей формы и низкой скорости. Два робота, построенные из остатков материалов военного назначения и старых будильников, выглядели так, словно вышли из-под пера иллюстратора Уильяма Хита Робинсона[49]. Каждый из них представлял собой трехколесного робота, оснащенного датчиком света, который обеспечивал фототаксис – способность, как у мотыльков и других насекомых, двигаться к источнику света. Благодаря этому Элмер и Элси могли найти путь до ближайшей станции подзарядки, когда у них заканчивался заряд батареи.

Уильям Уолтер использовал аналоговые схемы для симуляции мозговой активности. Такие его современники, как Алан Тьюринг, пытались воссоздать мозг, используя цифровое вычисление. И хотя аналоговый способ в первой успешной демонстрации «мыслящего» робота оказался лучше цифрового, преимущества цифрового не заставили себя ждать. Созданием своих роботов Уолтер хотел продемонстрировать, что связи между небольшим количеством клеток мозга могут способствовать развитию более сложного поведения. Главным образом, он пытался показать, что главный секрет работы мозга кроется в «проводке». Мы вернемся к этой идее во второй части нашей истории искусственного интеллекта в разделе про нейронные сети.

Вскоре после Элмера и Элси появились цифровые роботы. На самом деле, первые запрограммированные промышленные роботы будут собраны только десять лет спустя, в 1961 году, и им сразу же найдется применение. Это был робот Унимат (Unimate), установленный на сборочной линии General Motors в Нью-Джерси. Он сбрасывал раскаленные докрасна дверные ручки и другие автомобильные детали в емкости с охлаждающей жидкостью на конвейере, который затем передавал эти детали рабочим для последующей обрезки и полировки. Отчеты того времени не отмечали беспокойства работников в делегировании роботам опасной и монотонной работы. В 1971 году, после 100 000 часов опасной и монотонной работы, Унимат вышел на пенсию и был подарен Смитсоновскому институту.

Илл. 12. Схема робота Элси

Изобретателя Унимата Джозефа Энгельбергера[50] часто называют отцом робототехники[51]. Вы можете посмотреть, как он демонстрирует робота Унимата в 1963 году в одном из выпусков «Вечернего шоу» Джонни Карсона [3]. Робот произвел огромное впечатление на публику, забив мячик для гольфа в лунку, а также дирижировал оркестром «Вечернего шоу» и перелил банку пива в кружку.

Сегодня более трех миллионов промышленных роботов задействованы в работе заводов и фабрик по всему миру. Это означает, что на сегодняшний день их количество превышает численность населения Литвы. За последнее десятилетие число промышленных помощников увеличилось втрое, а в 2023 году доход индустрии робототехники по всему миру превысил 37 миллиардов долларов США. Роботы действительно приближаются!

Применение роботов не ограничивается только лишь Землей. Есть масса преимуществ их использования в космосе. Например, роботы могут отправляться в опасные миссии. У них нет необходимости в системах жизнеобеспечения или возврате обратно на Землю. По этой причине такие организации, как NASA, ведут разработку автономных роботов. Действительно, NASA уже запустило несколько высокотехнологичных роботов в космос на длительные и опасные миссии. И вполне возможно, что именно эти роботы останутся единственным напоминанием о нас, когда их обнаружат инопланетяне спустя тысячелетия после гибели человечества.

Многие из моих любимых роботов родом из космоса. Возглавляет этот список HAL 9000, вымышленный компьютер из романа Артура Кларка «2001: Космическая одиссея». На сегодняшний день HAL не является таким уж и вымышленным. Все, что умел делать робот в фильме, искусственный интеллект выполняет сейчас. Распознавание человеческих лиц. Есть. Понимание устно заданных вопросов и ответ на них. Есть. Умение пристойно играть в шахматы. Есть. Выключать свет. Есть. Открывать гаражные двери. Есть.

Другой мой любимый космический робот – Марвин, робот-параноик из «Автостопом по галактике» Дугласа Адамса. Некоторые изречения Марвина позволят вам хорошо представить его очаровательный характер.

Сложно понять, почему Марвин так всем полюбился. Возможно, потому, что он отражение наших страхов и надежд, связанных с искусственным интеллектом и роботами? Столкнется ли искусственный интеллект с потоком экзистенциальных вопросов и эмоциональными переживаниями, которые так беспокоят человечество? А может, дело в том, что интеллект и счастье – две параллельные прямые? Что бы то ни было, на мой взгляд, Марвин – один из самых забавных роботов, когда-либо придуманных. Жду не дождусь, когда Марвин будет не только в нашем воображении, но и в нашей реальности.

Сейчас мы переходим к возможно самому известному на настоящий момент представителю техники на планете – роботу-пылесосу. Во всем мире было продано более 40 миллионов пылесосов от компании iRobot. Учитывая, что доля iRobot на рынке роботов-пылесосов составляет примерно 50%, это означает, что в общей сложности по всему миру было продано около 80 миллионов устройств. Это больше, чем население Великобритании. Все благодаря дальновидному австралийцу по имени Родни Брукс[53].

Брукс родился в 1954 году в городе Аделаида. Он изучал математику в Университете Флиндерса, а степень доктора наук получил в Стэнфордском университете. Вскоре он занял престижную должность профессора робототехники Panasonic в Массачусетском технологическом институте (MIT) и там же работал в качестве директора лаборатории компьютерных наук и искусственного интеллекта. Родни Брукс был не просто академическим ученым, заинтересованным в углубленных исследованиях искусственного интеллекта и робототехники. Он хотел, чтобы роботы оказали существенное влияние на жизнь людей. Таким образом, в 1990 году он стал сооснователем компании iRobot, целью которой стало создание умных машин, способных выполнять полезные задачи в реальном мире[54]². В 2002 году iRobot представила первый прикладной робот-пылесос Roomba, передвигающийся по дому и помогающий с уборкой.

Первая модель Roomba была достаточно примитивной. Она была оснащена сенсорами для предотвращения столкновения с мебелью, но не имела какой-либо внутренней карты пространства. Вместо этого случилось то, что математики называют случайное блуждание. Когда на пути робота появлялось какое-либо препятствие, он разворачивался и шел в новом произвольном направлении. На самом деле, это не настолько глупо, как кажется. Блуждая таким случайным образом, робот в конечном итоге достигнет каждой доступной точки в вашем доме. Впрочем, с 2015 года робот Roomba оснащен функцией локализации и создания карты жилого пространства. Теперь он может пылесосить намного эффективнее и возвращаться для подзарядки. Да, это означает, что робот следит за вами. В итоге, в конце 2022 года в Facebook[55] были опубликованы сделанные моделью Roomba J7 конфузные кадры людей, сидящих в туалете. А в сеть эти фото попали после того, как их отправили в стартап Scale AI, который использует людей для маркировки данных в целях обучения искусственного интеллекта.

Компания iRobot не ограничивается только лишь разработкой домашних помощников. Они создали роботов, которые исследовали Великую пирамиду в Гизе в поисках скрытых камер, разряжали бомбы в Ираке и Афганистане, а также собирали данные после ядерной катастрофы Фукусимы и обнаружили разлив нефти после аварии на скважине Deepwater Horizor в 2010 году.

Сделка Amazon по поглощению iRobot стоимостью 2,5 миллиарда австралийских долларов, о которой было объявлено в августе 2022 года, провалилась в январе 2024 года после проверки Европейской комиссией из-за нарушения антимонопольных норм.

Amazon выплатил iRobot компенсацию за досрочное расторжение сделки в размере 94 миллиона долларов США, но, несмотря на это, объявил о сокращении штата втрое. Надеюсь, что это всего лишь небольшая заминка на пути к роботизированному будущему.

Дороги – еще одно место в нашей жизни, куда начинают проникать роботы. Возможно, вы думали о том, что это не роботы, а беспилотные автомобили, но на самом деле это и есть роботы[56]^*. Это машины, оборудованные сенсорами для предоставления информации о мире, компьютером – для принятия решений и исполнительными механизмами (актуаторами) – для взаимодействия с внешней средой. В беспилотный автомобиль встроены сенсоры наподобие камер для наблюдения за дорогой, бортовой компьютер – для решения о том, куда направляться, когда ускоряться и когда тормозить, а также актуаторы – для регулировки дросселя, активации тормозов и поворота руля. Все это делает беспилотные автомобили роботами.

Без сомнения, вы огорчены, что беспилотные автомобили обещают нам уже многие десятилетия. В далеком 1940 году промышленный дизайнер Норман Бел Геддес в своей книге «Магические автострады» смело вообразил, что такие автомобили появятся на дорогах к 1960 году. Сравнительно недавно Илон Маск также предсказал их скорое появление. В 2015 году он сказал, что на это потребуется около трех лет, а в 2016-м он поднял планку и пообещал, что беспилотные автомобили будут запущены на год раньше, уже к 2017 году. В 2019 году срок сдвинулся на 2020 год, а в 2022-м он снова заверил, что осталось подождать лишь год. Каждый раз он ошибался.

Так где же все беспилотные автомобили? Реальность такова, что они приходят незаметно. Современные машины – уже компьютеры на колесах. Они наполнены разными датчиками, лидарами (LIDAR) и радарами для восприятия окружающего мира, а возможности беспилотных автомобилей – уже обычное явление для езды по магистрали. Конечно, движение по трассе намного проще, чем в городе, полном пробок, опасностей в виде велосипедистов, пешеходов и перекрестков. Тем не менее беспилотные автомобили отлично со всем этим справляются.

Технологии для создания беспилотных автомобилей разрабатывались многие десятилетия. В 2004 году DARPA объявило премию в размере миллиона долларов для стимулирования исследований в этой области. За этот приз на маршруте длиной в 240 километров посреди пустыни Мохаве на границе штатов Калифорния и Невада соревновались 15 команд. Это было полным провалом. Два транспортных средства были исключены из финальной гонки еще до ее начала, а другое перевернулось на старте. После нескольких часов езды по пустыне большинство машин потерпели критические поломки, что привело к дисквалификации или выводу из гонки. Самое большое пройденное расстояние составило жалкие 11 километров.

В следующем году, когда приз увеличили в два раза, команды действовали намного лучше. Пять из 23 команд успешно выполнили заезд на 212 километров. Победителем гонки стал Stanley (Стенли), беспилотный автомобиль Стэнфордского университета. Он проехал расстояние за семь часов и прибыл к финишу на 11 минут раньше своего главного соперника Sandstorm из университета Карнеги – Меллона. Возможно, Stanley навеял на вас мысли о Стэнфорде, но на самом деле он был назван в честь Стенли Кубрика. Автомобиль представлял собой модифицированный и доработанный Volkswagen Touareg 2005 года. Сейчас его можно увидеть в Национальном музее воздухоплавания и астронавтики в Вашингтоне[57]. Лидер победившей команды Себастьян Трун[58] высказался о таком результате: «Невозможное было достигнуто».

Stanley стал еще одним кажущимся молниеносным успехом, на достижение которого на самом деле ушли десятилетия. Одним из самых важных предшественников Stanley был проект Eureka PROMETHEUS, финансируемый Европейским союзом с 1987 по 1994 год. Затраты на него составили 800 миллионов евро. Над проектом разработки беспилотного автомобиля сосредоточился консорциум, состоящий из европейских автопроизводителей, университетов и технологических компаний. По окончании проекта в 1994 году технологии и системы прошли испытания в реальных условиях на двух специально разработанных автономных прототипах транспортных средств – VaMP и VITA–2. Благодаря такому знаменательному достижению эти беспилотные автомобили успешно проехали более тысячи километров по магистралям вокруг Парижа в условиях реального городского трафика, развивая скорость до 130 км/ч. Если вам когда-либо приходилось водить на французских дорогах, вы по достоинству оцените этот подвиг.

Прототипы продемонстрировали такие технологии беспилотного транспорта, как компьютерное зрение для распознавания дорожной полосы, системы предотвращения столкновений и планирование маршрута, которые сейчас привычное явление. Таким образом, они стали кирпичиками, заложившими фундамент для Stanley и автономных транспортных средств Waymo, Cruise, Tesla и многих других собирающихся сегодня.

Позвольте мне закончить этот небольшой раздел рассказом о роботе, взбудоражившим общественное сознание. София, человекоподобный андроид, произвела огромное впечатление на аудиторию в ООН, на телевидении и по всему миру. На самом деле, София настолько знаменита, что у нее есть своя собственная страница в Википедии. Беспокойство распространилось по всему миру в октябре 2017 года, когда она получила гражданство Саудовской Аравии. Неужели разумные роботы уже среди нас? Нужны ли теперь им права? Давайте не будем забывать, что в Королевстве Саудовская Аравия в то время женщины обладали существенно меньшими правами, чем этот робот.

Вам не стоит беспокоиться о Софии. Честно говоря, София своего рода обман. Чтобы понять суть обмана, необходимо заглянуть в тот пытливый ум, который породил Софию на свет, ум Дэвида Хадсона Мл., основателя и CEO компании Hanson Robotics. Получив степень бакалавра в кинематографии, он работал скульптором и создателем анимационных фигур в тематическом парке Disney, а после получил степень PhD в области искусств и эстетики. Он был одержим созданием человекоподобных роботов, но в его работах больше эффектного оформления, чем содержания.

Хадсон считает, что напоминающие человека роботы будут способны установить глубокую и осмысленную связь с людьми. Кажется, реакция публики на Софию подтвердила его мнение. София выглядит обманчиво человекоподобной. Алые губы. Порхающие ресницы и чарующий взгляд как будто отслеживают ваши движения. Ее чары усиливаются по мере того, как она начинает беседу, играя с границами возможного. В 2018 году член ежегодного мероприятия Brain Bar, проводимого в Будапеште, спросил у Софии про ее первое воспоминание. Она ответила: «Открыла глаза и подключилась к интернету. Белые стены и зеленые шкафы лаборатории. Лицо Дэвида».

Илл. 13. София на международной конференции Global Media Forum в 2019 году в Бонне

В одном из выпусков «Вечернего шоу» в 2017 году Джимми Фэллон язвительно пошутил о ее реалистичной внешности, на что Хадсон ответил: «Она, в своем роде, живая». Чем вызвал шквал критики и эмоций. «Полная ерунда!» – комментировал Ян Лекун[59] в Twitter (теперь X), ведущий ученый в исследовательской лаборатории искусственного интеллекта Facebook. Он сравнил Софию с «карго-культовым искусственным интеллектом», в котором поверхностные признаки интеллекта ошибочно принимаются за подлинные когнитивные способности, к большому огорчению компетентных специалистов.

Лекун был прав. В большой степени София – это фарс. За ее красивой оболочкой практически не найти интеллекта. Ее диалоги и жесты тщательно прописаны. Однажды я попытался нанять Софию для открытия крупной конференции по искусственному интеллекту. Меня потрясла цена в 50 000 австралийских долларов за то, чтобы отвезти ее в Мельбурн на целый день. Что меня не удивило, так это форма бронирования, в которой говорилось о том, насколько заранее должны быть запрограммированы разговоры. Более глубокая история заключается в том, что София играет на нашей естественной доверчивости. Мы быстро придаем человеческие качества неодушевленным объектам, когда они кажутся человеческими, даже если за их внешним видом скрывается никакой, слабый, искусственный или какой-либо другой интеллект.

Все, что я могу сказать, так это: «Будьте осторожны!»

Сейчас мы переходим ко второй части нашей краткой истории искусственного интеллекта.

К этому времени искусственный интеллект научились программировать. Мы тщательно думали о том, как люди решают проблемы. Мы рассматривали, как люди могут ориентироваться на местности (идея № 1 «Поиск ответов»), играть в игры (идея № 2 «Сделать лучший ход») и как стать экспертом в узкой специализации (идея № 3 «Следовать правилам»). Затем писали ИИ-программы, чтобы облегчить эти процессы, но ручное программирование оказалось медленным и до боли трудоемким, а также сильно зависящим от нашего не слишком хорошего человеческого понимания о способностях решать проблемы. Наверняка должен быть способ получше.

И вновь вдохновились человеческим интеллектом. В школе мы учимся множеству умных вещей, которые выполняем ежедневно. Рождаясь, мы не умеем ни читать, ни писать, ни решать квадратные уравнения и тем более сочинять стихи. Многое из того, где задействованы умственные способности, мы учимся делать. Могут ли компьютеры все это повторить?

Впервые эта идея была озвучена Аланом Тьюрингом в его работе «Вычислительные машины и разум», опубликованной в 1950 году. Возможно, вы вспомните, что эта работа считается первым научным трудом в области искусственного интеллекта, в котором Тьюринг представил свой тест, впоследствии названный его именем. Тем не менее, помимо теста, работа описывает другую важную идею. Рассмотрев причины, по которым разработка искусственного интеллекта может оказаться невозможной, Тьюринг обратился к вопросу о том, как мы могли бы создать его. И здесь он предложил идею «обучающихся машин»:

Несмотря на очевидную привлекательность идеи Тьюринга, «обучающиеся машины» на ранних этапах искусственного интеллекта не принесли особого успеха. На самом деле, ситуация оставалась таковой вплоть до 2010-х, пока не презентовали новый подход под названием «глубокое обучение» и «обучающиеся машины» набрали популярность.

И вновь к «мгновенному» успеху привели более чем 50 лет разработки. Чтобы понять этот успех, нам снова необходимо вернуться во времена Второй мировой войны и познакомиться с двумя яркими персонажами из ранней истории искусственного интеллекта.

Обучение происходит в мозге. Естественный способ разработать машину, обладающую способностями к обучению, – это создать искусственный мозг. Из этого вытекает четвертая главная идея в области искусственного интеллекта сегодня. Вы можете воспроизвести человеческий мозг с сетью искусственных нейронов, которые учатся на собственном опыте.

Вот только у этой идеи есть две небольшие проблемы. Первая заключается в том, что человеческий мозг, пожалуй, – самый сложный предмет во вселенной. Ничто из того, что сейчас нам известно, не может сравниться по сложности с миллиардами нейронов и триллионами синапсов, которые их соединяют. А вторая проблема – это то, что у нас практически нет полного понимания работы даже одного мозгового нейрона, не говоря уже о миллионах. Но эти трудности не остановили наших выдающихся персонажей от попытки скопировать работу мозга на компьютере. Позвольте представить, Уолтер Питтс и Уоррен Маккаллок, одаренные и эксцентричные ученые, которые в 1940-е годы заложили основы нейросетей, одной из самых важных технологий, созданных за всю историю развития искусственного интеллекта.

Уолтер Питтс был вундеркиндом из трудной семьи в Детройте. По легенде, однажды, чтобы скрыться от местных хулиганов, он засел в библиотеке и остался там после закрытия, и в течение трех следующих дней поглощал Principia Mathematica (ранее мы уже встречали эту работу, когда рассматривали первую программу Logic Theorist). Principia Mathematica – труд в 2000 страниц, написанный Бертраном Расселом и Альфредом Уайтхедом, чтобы дать логическую основу всей математике. Это одна из самых знаменитых и важных книг по математике. Тем не менее это не помешало не по годам развитому Питтсу обнаружить в ней несколько математических ошибок. И вот он написал Бертрану Расселу письмо, в котором указал на эти проблемы.

Илл. 14–15. Уолтер Питтс (слева) и Уоррен Маккалок. Фотография Лотфи Заде, отца «нечеткой логики»

В ответ Рассел великодушно пригласил Питтса в Кембриджский университет учиться у него в качестве аспиранта. Он и не подозревал, что Питтсу на тот момент было всего лишь 12 лет. Неудивительно, что Уолтер отказался от этого предложения. Однако переписку не прекратил. В возрасте 15 лет он покинул дом и отправился в Чикагский университет, где посещал лекции Рассела.

Именно в Чикаго Питтс попал в поле зрения Уоррена Маккаллока, профессора психиатрии из соседнего университета Иллинойса. Маккаллок происходил из совершенного иной среды, чем бездомный Питтс. Он родился в обеспеченной семье юристов, врачей и инженеров с Восточного побережья, учился в Йельском и Колумбийском университетах. Годы в привилегированных местах воспитали уверенного в себе заядлого курильщика, который был частично философом, частично поэтом и частично ученым.

Единственное, что объединяло эту необычную пару, Питтса и Маккалока, – это легендарный Готфрид Лейбниц. Они оба преклонялись перед философом XVII века, особенно перед его попыткой создать алфавит человеческой мысли, которая, как я уже говорил ранее, была частью предыстории искусственного интеллекта. И вот, Питтс и Маккаллок вместе приступили к продолжению работы Лейбница.

Другим источником их вдохновения была Principia Mathematica. Рассел и Уайтхед свели всю математику к простой логике «истины» и «лжи», или логике нулей и единиц, работая с «истиной» (1) и «ложью» (0) с помощью конъюнкции («и»), дизъюнкции («или») и отрицания («не»). Питтс и Маккаллок стремились повторить это бинарное разложение в своей упрощенной модели искусственного мозга.

Мозг представлял собой бинарное устройство, в котором нейроны, объединенные в сложную сеть, активируются или нет. Итак, идея Питтса и Маккаллока состояла в том, чтобы разложить искусственный мозг на простую сеть бинарных нейронов, подобно тому, как логическая формула может быть разложена с помощью простых логических связок, таких как «И», «ИЛИ» и «НЕ».

Питтс и Маккаллок начали с простой бинарной модели нейрона под названием «перцептрон». По сути, это логический вентиль. Он имеет два или более входа. Перцептрон суммирует взвешенную сумму этих входных данных. Если сумма превышает пороговое значение, то срабатывает выходной сигнал перцептрона. Если сумма не превышает пороговое значение, то выходной сигнал не срабатывает. Это объясняет принцип работы перцептрона. Но как он учится?

Вот тут-то мы и обращаем внимание на входные данные. Точно так же, как обучение в мозге усиливает или ослабляет входные сигналы для нейронов мозга, мы просто корректируем веса входных сигналов для перцептрона. Более важные входные данные получают больший вес, в то время как менее важные получают меньший вес.

Мы можем произвольно настраивать веса до тех пор, пока не найдем подходящую комбинацию, но есть более систематизированный подход, при котором мы плавно регулируем вес. Преподаватель психологии в Корнельском университете Фрэнк Розенблатт решил реализовать эту идею, сперва в 1957 году на программном обеспечении компьютера IBM 704, а затем на аппаратном в 1960-м. Созданный им перцептрон «Марк–1» стал первой нейросетью и сейчас хранится в Смитсоновском институте.

Перцептрон «Марк–1» – это искусственный мозг, поразивший воображение общественности. The New York Times назвала перцептрон «зародышем электронного компьютера, который, как ожидают [ВМС США, финансирующие исследования], сможет ходить, говорить, видеть, писать, самовоспроизводиться и осознавать свое существование» [1]. Розенблатт подкрепил эти грандиозные надежды смелыми заявлениями. В 1958 году он писал:

На оптимистичный настрой было несколько причин (хотя, возможно, и не такой уж оптимистичный). Первые результаты «Марка–1» были многообещающими и показали, что сеть перцептронов в теории может реализовать любую логическую функцию. Но вскоре мечты столкнулись с реальностью. Все-таки простая перцептронная сеть – это сильно упрощенная модель человеческого мозга. Скорее, даже крайне упрощенная модель ограниченного понимания человеческого мозга, доступная ученым в 1940-х. Например, связи в человеческом мозге могут как создаваться, так и разрушаться, в то время как сеть перцептронов постоянна и неизменна. При этом нейроны зависят от времени поступления сигналов, тогда когда перцептроны работают синхронно.

Тем не менее такие упрощения не были причиной того, что перцептроны стали невостребованными. Розенблатт столкнулся с критикой, которая отбросила назад развитие нейросетей. В частности, несколько ключевых исследователей публично выступили против идеи перцептронов. Пожалуй, самой важной фигурой был Марвин Минский, один из организаторов Дартмутского семинара и ведущий деятель в области искусственного интеллекта. Известная сегодня книга «Перцептроны», авторами которой стали Минский и Сеймур Пейперт, оба представители Массачусетского технологического института, была издана в 1969 году. В ней исследовались границы возможностей, доступных компьютерам на базе перцептронов. Пожалуй, самое важное из всего изложенного в книге – это то, что сеть с одним слоем перцептронов не способна усвоить даже такую простую концепцию, как «четное или нечетное».

Их книга не должна была оказать того негативного влияния, какое она оказала. Выяснилось, что если выйти за рамки однослойной модели и расширить модель до многослойной сети, то перцептроны могут обучиться принципу «четное или нечетное», но вся проблема заключалась в том, что идея их ограниченности уже укоренилась.

Другие высказывали предположения, что перцептроны попали в немилость из-за того, что обучение по правилам Розенблатта было слишком медленным. (Для решения этой проблемы потребовалось много времени, вплоть до 2010-х, а также три главных достижения – популяризация метода обратного распространения ошибки, а также гораздо более быстрые компьютеры и бóльшие наборы обучающих данных.) Возможно, дело было в продолжающемся противостоянии двух лагерей – одни выступали за символизм искусственного интеллекта, а другие были приверженцами машинного обучения. Фанаты символического подхода, в числе которых были Джон Маккарти и Марвин Минский, занимали влиятельные посты в 1960-е годы. Фрэнк Розенблатт обладал сильным характером, но его слишком воодушевленные заявления не помогли делу.

Что бы то ни было, в течение последующих 40 лет попутный ветер перестал дуть в паруса корабля под названием «Революция нейронных сетей». Розенблатт продолжил работать над перцептронами, несмотря на значительное сокращение финансирования. А многие другие прекратили. На самом деле, многие полностью покинули область и нейронные сети стали непопулярными. Последняя попытка Розенблатта использовать перцептроны была в период с 1961 по 1967 год во время разработки системы распознавания речи «Тобермори», четырехслойной сети с 12 000 весов, реализованных с помощью тороидальных магнитных ядер. Тобермори занимала целую комнату, но такое впечатляющее аппаратное обеспечение уже легко уступало по производительности цифровым компьютерам общего назначения того времени. Специализированное аппаратное обеспечение Розенблатта оставило в прошлом закон Мура, экспоненциальные улучшения, положивших начало компьютерной революции.

Мечты Фрэнка Розенблатта не исчезли вместе с публикацией книги Минского и Пейперта. Один из основоположников искусственного интеллекта Джеффри Хинтон продолжил миссию Розенблатта по разработке искусственного мозга. И в самом деле, Хинтон систематически занимался решением проблем, затронутых в книге.

Джеффри Хинтон (полное имя Джеффри Эверест Хинтон) – праправнук Джорджа Буля. Джордж Буль встречался на нашем пути краткой предыстории искусственного интеллекта как изобретатель «алгебры логики», логики нулей и единиц, использующейся в компьютерах сегодня. Второе имя Хинтона происходит от другого родственника, вошедшего в историю, сэра Джорджа Эвереста, главного геодезиста Индии, в честь которого названа гора.

В 2015 году я присутствовал на праздновании двухсотлетия со дня рождения Джорджа Буля в его альма-матер, Королевском колледже Корка (сейчас носит название «Университетский колледж Корка»). Джеффри Хинтон тоже был там, равно как и несколько других наследников Буля. Гены явно дают о себе знать.

На протяжении всей своей карьеры Джеффри Хинтон был индивидуалистом, не боявшимся следовать неординарному и непопулярному, точь-в-точь как его прапрадед за 200 лет до его рождения. В случае Хинтона, начиная с конца 1970-х годов, он в течение нескольких десятилетий упорно занимался разработкой нейросетей, несмотря на то что эта область была глубоко не в духе времени и невзирая на сильное сопротивление научного сообщества.

Как выпускнику Кембриджского университета, Хинтону было сложно найти интеллектуальное пристанище. Он пробовал себя в разных областях, изучал естественные науки, историю искусств, а затем и философию до того, как в конце концов осел в области экспериментальной психологии. Он продолжил обучение в аспирантуре на факультете искусственного интеллекта Эдинбургского университета, который в то время был единственным в мире. В 1977 году он получил степень PhD в области компьютерного зрения[61].

Илл. 16. Джордж Буль (слева) и его праправнук Джеффри Хинтон

Хинтону не удалось получить финансирование на свои непопулярные идеи об искусственном интеллекте в Великобритании, поэтому сначала он переехал в Соединенные Штаты, где недолгое время работал в Университете Калифорнии в Сан-Диего и университете Карнеги-Меллона, а затем перебрался в Канаду и начал свою деятельность в университете Торонто. Там он получил поддержку от малоизвестного, но дальновидного финансового агентства, Канадского института перспективных исследований (CIFAR).

Первое затруднение, поразившее идею перцептрона, как мы уже увидели, заключалось в их неспособности обучиться даже простой концепции «четное или нечетное». Хинтон быстро продемонстрировал, что дополнительный (его часто называют «скрытый») слой нейронов позволит нейросети обучиться не только «четному и нечетному», но и другим, более сложным функциям. Однако Хинтон не остановился только лишь на одном дополнительном слое, он популяризировал идею «глубокого обучения», используя нейросети с множеством слоев.

Следующая трудность, которую Хинтону необходимо было разрешить, была скорость самого обучения. В 1986 году Хинтон вместе с Дэвидом Румельхартом[62] и Рональдом Дж. Уильямсом написал знаковую работу, продвигающую гораздо более быстрый способ обучения для обновления весов в нейронных сетях. Такой способ назывался «методом обратного распространения ошибки» (backpropagation) и был создан целой командой специалистов. Сам термин был введен Розенблаттом в 1962 году, но он и понятия не имел, как применить его. Стоит также отдать дань уважения и Полу Вербосу, который в 1982 году предложил тренировать нейронные сети методом обратного распространения ошибки, но в 1970 году его опередил Сеппо Линнайнмаа[63]. Следует упомянуть и других ученых, включая Артура Эрла Брайсона (1961), Генри Дж. Келли (1960) и Льва Понтрягина[64] (конец 1950-х). По сути, метод обратного распространения ошибки – это применение цепного правила для дифференцирования, которое многие из нас изучали в школе и которое в 1673 году изобрел Готфрид Лейбниц, другая выдающаяся личность из предыстории искусственного интеллекта.

Обратное распространение ошибки – разумный путь обновить веса в нейронных сетях. Он вычисляет градиент – скорость, с которой выходные данные изменяются по мере изменения входных данных. И точно так же, как и вы можете быстрее взойти на гору, следуя по самому крутому склону, обратное распространение следует градиенту, чтобы быстрее найти наилучший вес. Обратное распространение ошибки означало, что веса в глубокой многослойной нейросети могут обучаться быстрее. Но расчеты для этого все равно были довольно обременительными.

Открытие, случайно сделанное в 2012 году одним из аспирантов Хинтона Алексеем Крижевским, позволило выполнять метод обратного распространения ошибки более эффективно. Алексей понял, что графические процессоры, используемые для рендеринга видео в 3D формате для компьютерных игр, идеально подходили для выполнения умножения матриц, необходимых для вычисления градиентов и выполнения обратного распространения ошибки. Это означало, что теперь Хинтон мог эффективно тренировать очень глубокие нейронные сети.

Открытие быстро увеличило рыночную капитализацию корпорации NVIDIA, занимающую 80% рынка графических процессоров, более чем на триллион долларов США. Без сомнения, они являются одной из самых удачливых компаний в истории. Невзначай они нашли свое призвание, продавая лопаты во время золотой лихорадки.

Джеффри Хинтон описал метод обратного распространения ошибки как лучший для нейросетей алгоритм обучения. Благодаря графическим процессорам он обладал более эффективными мощностями для выполнения обратного распространения. Наличие этих двух компонентов означало, что теперь нейронные сети могут быть намного глубже. Рецепт глубокого обучения был почти готов: метод обратного распространения ошибки в глубоких нейросетях и использование графических процессоров для тяжелых вычислений. Хинтону был необходим третий и заключительный элемент для того, чтобы глубокое обучение хорошо работало. Третьим компонентом были обучающие данные. Много данных. Такие методы машинного обучения, как глубокое обучение, требуют огромного количества обучающих данных. В идеальном случае сотни тысяч или даже миллионов примеров. Таким образом, возможно, стало понятно, что предыдущие попытки создания нейронных сетей просто не обладали достаточным количеством данных для получения хороших результатов.

К счастью для Хинтона, другой исследователь в области искусственного интеллекта Фей-Фей Ли пришла к такому же выводу в 2006 году, усердно над этим работая. Она сконцентрировалась на компьютерном зрении, в частности на распознавании объектов. Можно ли заставить компьютер идентифицировать объекты на изображении? Это яблоко. Это банан. Это велосипед. Это человек. Распознавание объектов – важная работа в самых разных областях применения, от сбора фруктов до беспилотных автомобилей. Вскоре она занялась созданием нейросети ImageNet[65], огромной базы данных тренировочных изображений для алгоритмов компьютерного зрения.

Илл. 17. Фей-Фей Ли на международном саммите «Искусственный интеллект во благо» в Женеве в 2017 году

Фей-Фей Ли выросла в Чэнду, промышленном городе в южной части Китая, и в возрасте 16 лет вместе с семьей иммигрировала в Соединенные Штаты. Родители были небогаты, но она получила стипендию в Принстоне, а затем окончила докторантуру в Калифорнийском технологическом институте в Пасадене, работая на стыке нейробиологии и информатики. Затем она стала директором легендарной Стэнфордской лаборатории искусственного интеллекта и, во время академического отпуска в Стэнфорде, была ведущим научным сотрудником в Google Cloud.

В 2007 году Ли начала разработку ImageNet. В помощь она наняла своих студентов, которым платила десять долларов в час за маркировку изображений для включения их в ее базу данных. Но прогресс был дорогим и медленным. Позже студенты предложили ей попробовать воспользоваться услугами краудсорсинга от Amazon Mechanical Turk[66]. Благодаря этому сервису она смогла нанять больше работников, что стоило значительно меньше, чем если бы она платила принстонским студентам.

К 2009 году количество изображений в ImageNet превысило три миллиона, и сеть стала доступна пользователям по всему миру. С тех пор объем изображений достиг 14 миллионов, и все они были разделены на 21 000 категорий, например «шары», «бананы» или «лодки». Затем, в целях продвижения ImageNet и в целом исследований в области искусственного интеллекта, в 2010 году было организовано ежегодное соревнование «Конкурс визуального распознавания ImageNet», в котором приняли участие лучшие компьютерные алгоритмы. Конкурс прошел с огромным успехом, привлек внимание исследовательского сообщества и ускорил прогресс в области искусственного интеллекта.

На конкурсе ImageNet в 2012 году Джеффри Хинтон вместе с Алексеем Крижевским, Ильей Суцкевером[67] и другими докторантами Хинтона впервые собрали все три компонента для глубокого обучения: метод обратного распространения ошибки в глубоких нейросетях, использование графических процессоров для тяжелых вычислений и огромные массивы обучающих данных. Такой простой рецепт произвел приятное впечатление, более того, их появление выбило оппозицию из колеи. Частота ошибок созданной ими AlexNet, восьмиуровневой сети глубокого обучения, равнялась 15,3%, опережая соперников на более чем 10,8 процентных пункта. Такой отрыв до сих пор считается самым большим за всю историю конкурса.

Интересный факт, что AlexNet не была первой глубокой нейросетью или первой глубокой нейросетью, использующей графический процессор, и даже не первой глубокой нейросетью, использующей графический процессор и ставшей победителем на соревнованиях с большим отрывом. Ян Лекун сейчас занимает пост главного специалиста по искусственному интеллекту в компании Meta и должность профессора в Нью-Йоркском университете, но в 1995 году он и несколько его коллег из Лаборатории Белла (Bell Labs) в Нью-Джерси стали новаторами семислойной нейросети LeNet–5. В конце 1990-х и начале 2000-х годов такие компании, как NCR, использовали ее для распознавания и обработки более 10% банковских чеков в Соединенных Штатах, а почтовая служба США – для помощи в сортировке написанных от руки писем через распознавание штрих-кодов. Многие другие исследователи также использовали графические процессоры для ускорения работы нейросетей, по крайней мере, с 2006 года. Глубокая нейронная сеть на базе графического процессора DanNet Юргена Шмидхубера в 2011 и 2012 годах стала четырехкратным победителем четырех соревнований в области компьютерного зрения, в некоторых случаях с существенным отрывом [3].

Но только AlexNet удалось собрать все три компонента и завоевать внимание исследователей в области искусственного интеллекта по всему миру. Это стало ознаменованием начала революции глубокого обучения, отголоски которого слышны и сегодня в таких системах, как ChatGPT от OpenAI и Gemini от Google.

Осенью 2012 года в Северном полушарии Хинтон, Крижевский и Суцкевер основали стартап для капитализации их чудодейственного рецепта исследования глубоких нейронных сетей под названием DNNresearch (Deep Neural Network Research). Всего лишь несколько месяцев спустя, в декабре 2012 года, на главной конференции в области исследования нейросетей NIPS (Neural Information Processing Systems) в казино Harrah’s & Harvey’s на озере Тахо, Хинтон решил обналичить счет, организовав аукцион по продаже DNNresearch. В нем приняли участие Google, Microsoft, Baidu и DeepMind (который сейчас принадлежит Google). Хинтон остановил аукцион на ставке в 44 миллиона долларов от Google. Без сомнения, он мог бы получить и больше, но, по его мнению, это была справедливая цена за компанию с тремя сотрудниками-основателями, без товаров и полудюжиной патентов.

Как часть приобретенной компании, Хинтон, Крижевский и Суцкевер перешли работать в Google. Три года спустя, в декабре 2015-го, Суцкевер покинет Google, чтобы стать основателем и главным научным сотрудником OpenAI. Компании OpenAI мы кратко коснемся, поскольку она играет важную роль в современной истории искусственного интеллекта. В 2017 году Крижевский также покинет Google ради стартапа в области глубокого обучения, а вот Хинтон останется до самого выхода на пенсию в 2023-м.

Для того чтобы получить чат-ботов по типу ChatGPT и достичь многих других современных достижений в области искусственного интеллекта, которые продвигают компании Google, Meta и OpenAI, нам все еще необходимы два важных компонента. Первый – буква «Т» в аббревиатуре GPT, которая означает «трансформер». Это особая архитектура, объединяющая нейроны в нейросети. Ее следует представлять как схему подключения нейронных сетей, которая особенно хорошо работает с последовательными данными. Последовательные данные – это любые данные, например текст, который появляется последовательно, и то, где важен порядок. Такие данные охватывают большой спектр полезных вещей, в который входят не только тексты, но и метеорологические данные, котировки акций, структуры белков, музыка и речь.

AlexNet в 2012 году представляла собой систему компьютерного зрения, разработанную для обработки изображений. Картинки не последовательны и не одномерны, они двумерны. Очень важно учитывать двухмерность при обработке изображений. Например, вы можете передвигать картинку влево или вправо, вниз или вверх, но сама картинка не меняется. Банан остается бананом, даже если вы передвинули его на два пикселя влево или на три пикселя вниз.

Чтобы воспользоваться преимуществом двухмерности изображений, нейронные сети по типу AlexNet используют особую архитектуру, которая называется сверточная нейронная сеть, позволяющую нейросетям работать с передвигаемыми изображениями. В частности, сверточная нейронная сеть ищет изменения в пикселях, а не какие-то конкретные пиксели, и отлично справляется с обработкой двухмерных картинок. Такая архитектура не совсем подходит для обработки таких данных, как текст, то есть не двухмерных данных. Текст – это одномерная последовательность слов. На самом деле, в случае с текстом нас могут заинтересовать объекты, которые могут находиться на большом расстоянии друг от друга. Локальные изменения могут не иметь большого значения. Давайте посмотрим на следующее предложение:

Местоимение «их» относится к существительному «ошибки», а местоимение «она» к существительному «Элис». Оба местоимения находятся далеко от существительных, к которым они относятся. Именно здесь архитектура трансформеров играет важную роль. Она позволяет нейронным сетям идентифицировать такие зависимости на больших расстояниях, используя механизм внимания.

Думаю, что это не станет удивительным для вас фактом, но нам могут потребоваться различные нейронные архитектуры для выполнения разных задач. Этот факт нам известен благодаря человеческому мозгу. Лобные и височные доли отвечают за речь и язык, а зрительная кора головного мозга ответственна за зрение и восприятие. Разные части мозга имеют разные нейронные структуры.

Архитектура трансформера была впервые предложена в 2017 году командой Google Research в известной работе «Все, что вам нужно, – это внимание»[68] [4], ставшей классикой с более чем 100 000 цитирований, что делает эту работой четвертой в списке самых цитируемых трудов всей научной литературы. Сейчас трансформеры используются в различных ИИ-системах, обрабатывающих последовательные одномерные данные, от Google Translate, чат-бота ChatGPT от OpenAI до сервиса транскрибирования аудио от Zoom, и даже программного обеспечения для клонирования голоса от Descript. Трансформеры – одна из главных причин недавнего бума искусственного интеллекта. Стоит отметить, что в 2017 году Google открыто представила архитектуру трансформеров в научной публикации, сделав ее доступной для всех желающих.

Как и следует из их названия, трасформеры нужны нам, чтобы трансформировать. Они изменяют сложные входные данные на сложные выходные данные. Например, они могут преобразовать следующее:

•  последовательность слов на одном языке в аналогичную последовательность на другом языке, как это делает Google Translate;

•  последовательность слов в изображение, как это делает DALL-E;

•  последовательность слов в виде вопроса в другую последовательность слов в виде ответа, как это делает ChatGPT;

•  аудиопоследовательность в последовательность из слов, то есть выполнить транскрибирование этого аудиоматериала, как это делает специальный инструмент перевода речи в текст от Zoom.

Трансформация состоит из четырех этапов. Возможно, вы уже подумали о входящих данных, поочередно проходящих все четыре этапа, преобразовываясь на каждом из них во что-то другое. Начнем с входных данных. Предположим, что это последовательность слов. Первое преобразование – это преобразование последовательности во что-то, что компьютер сможет обработать, то есть в последовательность чисел. Первый этап называется токенизация. В английском языке более миллиона слов, поэтому было бы непозволительно иметь отдельный номер для каждого из них. Следовательно, токенизация заменяет общеупотребимые слова на отдельные числа (это и есть токены), но разделяет более сложные слова на части, каждая из которых выражена токеном. Обычный трансформер использует от 50 до 200 000 различных токенов.

Давайте рассмотрим такое предложение: «Секрет успеха – делать обычное необычайно хорошо». Оно разбивается на следующие слова и части слов: «секрет», «успеха», «—», «делать», «обычное», «не», «обычайно», «хорошо». Обратите внимание, как менее частотное слово «необычайно» разбивается на две более распространенные части: «не» и «обычайно». Каждое слово или его части представлены числом. Таким образом, у нас получается следующая последовательность токенов: [24782, 14939, 101, 48251, 28573, 33811, 19973, 49084][69]. Числовая последовательность – это то, с чем нейронная сеть легко может взаимодействовать.

Теперь мы уже разобрались, что трансформеры могут преобразовывать текст в числовую последовательность. Числа – это хорошо, компьютеры прекрасно справляются с их обработкой. Однако мы кое-что потеряли в превращении текста в числовую последовательность. Мы упустили сложные взаимосвязи, существующие между словами. Например, слово «королева» близко к слову «король». Но «королева» также близка к слову «пчела»[70]. И хотя «жук» близок к «пчеле», «жук» не очень близок к «королеве». Когда создание искусственного интеллекта доходит до взаимодействия с языком, начинается головная боль. Нет возможности выбрать числа так, чтобы токен для слова «королева» был численно близок к токену «пчела», токен «пчела» был близок к «жуку», но при этом токен «жук» был бы численно далек от «королевы».

Решение этой проблемы заключается в преобразовании чисел во что-то меньшее одномерного. Следовательно, следующий этап – это трансформация токенов в более сложное представление, называемое вектором, который может отразить сложные взаимосвязи. Число – это точка на одномерной линии, а вектор – точка в многомерном пространстве. И здесь я не имею в виду обычные двух– или трехмерные пространства, к котором вы привыкли. Я говорю о векторах с сотнями или даже тысячами измерений. Сейчас очень сложно представить больше, чем три. Джеффри Хинтон для того, чтобы представить 14 измерений, часто советовал представить три и самому себе вслух повторять «четырнадцать». Боюсь, что лучшего способа я предложить не смогу.

Этот шаг – превращение токенов в векторы чисел – называется кодированием (encoding). Превращая слова в векторы чисел, мы можем уловить сложную взаимосвязь между словами. Позвольте мне проиллюстрировать три измерения, но помните, что мы можем играть с сотнями или даже тысячами измерений и уловить более сложные взаимосвязи между словами.

Предположим, что слово «королева» преобразуется в вектор [0,5, 0,3, –0,2]. А слово «король» – в вектор [0,7, 0,5, –0,4]. Аналогично предположим, что слово «мужчина» преобразуется в вектор [0,6, 0,4, –0,3]. А слово «женщина» становится вектором [0,4, 0,2, –0,1]. Возьмем «королеву», или ее векторное представление [0,5, 0,3, –0,2]. Теперь вычтем из него вектор «женщина», компонент за компонентом. Это дает нам [0,5, 0,3, –0,2] – [0,4, 0,2, –0,1], что равно вектору [0,1, 0,1, –0,1]. Теперь добавим к этому вектору слово «мужчина», то есть [0,1, 0,1, –0,1] + [0,6, 0,4, –0,3]. Это равняется [0,7, 0,5, –0,4]. Изящно, но это и есть вектор слова «король». Таким образом, мы математически показали, что в этом многомерном пространстве векторов:

Такое векторное кодирование создает определенные сложности. Например, доказано, что кодирование может создавать сексистские векторные уравнения. Например:

Или:

Повторим, что первый этап – это токенизация, преобразование слов в последовательность токенов. Второй этап – это кодирование, которое преобразовывает последовательность токенов в последовательность векторов слов. На третьем этапе происходит настоящая магия. Ранее трансформер стремился уловить значение слов, сопоставляя их с векторами в многомерном пространстве. Однако связи между словами в тексте пока не учитывались. На третьем этапе трансформер начинает выявлять эти взаимосвязи.

Вернемся к нашему примеру:

В результате кодирования слова «она» и «их» представлены универсальными векторами, то есть это одни и те же векторы в любых предложениях, содержащих «она» и «их». На третьем этапе механизм внимания изменяет векторы так, чтобы вектор слова «она» был близок к слову «Элис», а вектор «их» был близок к «ошибкам». Таким образом определяется, к кому или чему относятся местоимения.

На этом этапе также устраняется неоднозначность омонимов (слова одинаковые по звучанию, но разные по значению) и многозначных слов. Это уличная лавка или мясная лавка? Это блюдо – еда или посуда?

Четвертый и завершающий этап – это декодирование, преобразующее векторы обратно в токены. Если декодер выполняет обратную функцию энкодера, то результатом будет лишь другое предложение на английском языке. Однако если декодер настроен на русский язык, то он сможет создать перевод английского предложения на русский.

BERT[71] – одна из широко используемых ИИ-систем, разработанных с использованием трансформеров – была предложена исследователями из компании Google в октябре 2018 года [6]. Год спустя Google объявили, что они начали использовать модели BERT в Соединенных Штатах для ответов на англоязычные запросы. На сегодняшний день поисковые запросы Google на более чем 70 различных языках обрабатываются моделью BERT. Многие другие разработанные модели, которые, как и BERT, используют трансформеры для преобразования векторов в слова, названы в честь героев «Улицы Сезам». Чат-бот от Baidu называется «Эрни» (ERNIE), а компания Allen AI создала энкодер «ЭЛМО» (ELMo). Был еще и «Гровер» (GROVER), детектор фейковых новостей на основе трансформера.

Названия в честь героев «Улицы Сезам», может, и милые, но еще милее то, что мы можем свести большую часть языка просто к нейронным сетям, которые преобразуют векторы чисел, представляющих слова. Кто бы мог подумать, что преобразование векторов чисел – это все, что нужно для понимания языка?

Теперь, когда мы добрались до героев «Улицы Сезам», настало время рассказать о компании OpenAI и ее значении в истории искусственного интеллекта. Эта компания переняла и начала агрессивно запускать последние две идеи – трансформеры и такие системы, как BERT, что стало причиной огромного скачка в способностях ИИ-систем.

Компания OpenAI была зарегистрирована как некоммерческая организация в декабре 2015 года. Основателями стали CEO компании Tesla Илон Маск, который затем покинул компанию и основал компанию-конкурента, Сэм Альтман, действующий CEO компании OpenAI, Грег Брокман, действующий президент компании, и Илья Суцкевер, который был главным научным сотрудником, но впоследствии создал конкурирующий стартап – Safe Superintelligence Inc.

Миссия OpenAI очень амбициозная – улучшать и продвигать цифровой интеллект так, чтобы он приносил пользу всему человечеству, не ограничиваясь только лишь генерацией прибыли. Ранее Маск высказался о своих страхах касательно крупных технологических компаний, что они собираются завладеть всеми преимуществами передового искусственного интеллекта. OpenAI была его надеждой предотвратить воплощение его страхов.

Первая команда OpenAI имела звездный состав. Суцкевер был одним из самых сильных и технически подкованных в области искусственного интеллекта, а Альтман был его идеальным дополнением, поскольку на предыдущем месте работы он управлял Y Combinator, самым важным бизнес-инкубатором Кремниевой долины, где стал экспертом в масштабировании стартапов. Как мы позже узнаем, искусственный интеллект больше всего нуждался именно в масштабировании.

В момент зарождения компании Маск стал крупнейшим спонсором OpenAI, вложив от 50 миллионов до 100 миллионов долларов США от общего начального финансирования в 130 миллионов долларов. Рид Хоффман, Питер Тиль и некоторые другие инвесторы Кремниевой долины пообещали сделать свой вклад в OpenAI в размере миллиарда долларов, хотя до сих пор неясно, были ли эти инвестиции внесены.

Илл. 18. Сэм Альтман в 2019 году, харизматичный и противоречивый CEO компании OpenAI

Масштабирование вскоре «съело» все деньги. Стало очевидно, что миллиард долларов, конечно, огромная сумма для стартапа с сотней сотрудников, но все же этого было недостаточно для достижения целей OpenAI. В марте 2019 года компания приобрела двойной статус социально-коммерческой организации и получила от Microsoft инвестиции, на данный момент превышающие 13 миллиардов долларов США.

За первые годы работы у OpenAI возникали трудности с достижением результатов, которые бы соответствовали послужному списку ее звездной команды, а также отвечали их огромным амбициям. Изначально фокус был направлен на обучение с подкреплением, эту тему мы рассмотрим в следующей главе. Такой ход был очевидным, учитывая успех других в данной области за последние пару лет. На самом деле, первый прорыв OpenAI заключался в использовании обучения с подкреплением для победы в чемпионате по игре Dota 2, сложной и невероятно популярной многопользовательской видеоигры. Приз за победу в чемпионате достигал 40 миллионов долларов.

Несмотря на этот первоначальный успех, OpenAI находилась, так сказать, в тени DeepMind, компании на пять лет старше OpenAI, которая с 2010 года является пионером в использовании обучения с подкреплением. В следующей главе мы подробнее разберем DeepMind. OpenAI также инвестировала и в другие области, например в робототехнику, но, к сожалению, вложения не дали результатов и в 2021 потихоньку распустила свою команду разработки роботов.

В 2018 году все изменилось, и OpenAI отыскала золотую жилу. Ее команда переняла разработанную Google идею трансформеров c использованием систем по типу BERT и стала активно масштабировать их с помощью больших языковых моделей GPT – нейронных сетей, обученных на огромных текстовых массивах. Использование большого количества данных и вычислений позволило им разработать нейронную модель с выдающимися способностями. Агрессивное масштабирование было рисковым мероприятием. На сегодняшний день OpenAI уже потратила более 100 миллионов долларов США на тренировки языковых моделей. Но риск был оправдан, и сейчас стоимость OpenAI составляет около 100 миллиардов долларов.

Первая большая языковая модель из семейства GPT была запущена в июне 2018 года и называлась GPT–1. Нейронная сеть имела 117 миллионов весов (или, как они часто называются, параметров), что в свое время считалось довольно-таки огромным значением, а сейчас небольшим. GPT–1 тренировали на Toronto Book Corpus, наборе данных, содержащего тексты примерно из 7000 самостоятельно изданных книг, взятых из интернета. Несмотря на то что производительность GPT–1 была ограничена, это показало, что разработка таких крупных моделей, созданных Google, открывала новые возможности.

Вдохновленная многообещающими результатами, OpenAI решила идти дальше. Вторая модель из семейства GPT под названием GPT–2 вышла в феврале 2019 года. Она значительно превосходила GPT–1, обладая 1,5 миллиарда параметров, и была обучена на наборе данных из восьми миллионов веб-страниц, что также более чем на порядок больше, чем набор данных, используемый GPT–1. GPT–2 работала значительно лучше, чем предыдущая модель.

Теперь масштаб стал главной задачей OpenAI. Дебют третьей модели GPT–3 состоялся в июне 2020 года. Третья модель была уже разительно лучше второй, с 175 миллиардами параметров, и обучена на 500 миллиардах токенов, взятых из интернета. Тренировочные данные включали Википедию, Reddit, а также содержали тысячи книг, защищенных авторским правом. Объем набора данных составлял около 45 терабайт, что в 500 раз больше, чем использовалось для обучения GPT–2. На обучение GPT–3 было затрачено около пяти миллионов долларов. Производительность GPT–3 удивила и вдохновила многих специалистов в этой области.

Четвертая модель GPT–4 была запущена в марте 2023 года. По коммерческим причинам OpenAI больше не рассказывает о деталях, поэтому размеры и масштабы модели точно неизвестны. Единственное, что OpenAI не стала скрывать, так это название. Считается, что GPT–4 обладает около 1,76 триллиона параметров и обучена на 13 триллионах токенов. В одном из интервью Альтман заявил, что стоимость обучения GPT–4 превысила 100 миллионов долларов.

Вместе с тем, как GPT модели становятся больше, улучшается и их производительность. Необычный факт в области искусственного интеллекта – ведь мы привыкли, что комбинаторные тупики для нас привычное дело. Мы привыкли увеличивать масштаб проблем, а не решать их. В рамках обобщенной оценки понимания языка (GLUE)[72], учитывающей широкий спектр языковых задач, таких как семантическое сравнение предложений, анализ эмоциональной окраски текста и построение систем вопросов и ответов, результат модели GPT–1 составил 70%. Масштабирование помогло, и результат GPT–2 уже составил 80%, а GPT–3 достиг впечатляющих 89%. Что еще более впечатляюще, так это то, что большие GPT модели умели выполнять задания, которым они не были специально обучены, например резюмировать текст, написать компьютерный код и сделать перевод с одного языка на другой.

Аббревиатура GPT расшифровывается следующим образом: Генеративный (Generative) Предобученный (Pre-trained) Трансформер (Transformer). Не совсем красивое название. Генеративный означает, что модель способна генерировать текст. Предобученный означает, что модель предварительно обучена без какой-либо конкретной цели, кроме как обнаружения особенностей в обучающих данных. В таком случае она развивает общее понимание языка, а затем настраивается для выполнения конкретных задач, таких как ответы на вопросы, перевод текста или окончание предложений. Трансформер из-за того, что модель имеет архитектуру трансформера.

Думаю, что компания OpenAI остановилась на названии GPT, чтобы напомнить нам о своих попытках создать технологии общего пользования (general-purpose technology). Технический термин «технологии общего пользования» пришел из экономики, где используется для описания технологий, влияющих на экономику в целом с различными экономическими и социальными последствиями. Примером могут служить такие изобретения, как паровой двигатель и электричество. Следовательно, GPT должен напоминать вам, что OpenAI стремится к общему искусственному интеллекту, тому, что соответствует человеческому во всех его возможностях. Многие исследователи OpenAI и области искусственного интеллекта в целом считают, что общий искусственный интеллект будет достигнут путем простого масштабирования больших моделей GPT. Будет ли это достигнуто на модели GPT–5[73] или GPT–15, остается неясным, но какая бы модель ни была, я кратко выскажусь о том, почему все эти люди могут ошибаться.

В ноябре 2022 года OpenAI сделала гениальный шаг и разработала чат-бот ChatGPT, ставший лучшим в семье GPT. Название ChatGPT в переводе означает «общение с GPT». Модель стала улучшенной версией GPT–3, способной отвечать на вопросы пользователей. Пока GPT–3 обсуждали в научных кругах, ChatGPT завоевала сердца миллионов, став самым быстрорастущим приложением в истории. Только за первую неделю число пользователей уже насчитывало миллион, а за два месяца выросло до 100 миллионов. Спустя год после запуска модель ChatGPT стала доступна более чем миллиарду человек, включая возможности использования через поисковик Bing от Microsoft, а также WhatsApp, Skype и Snapchat.

Финансово ChatGPT тоже преуспел. Рыночная стоимость компании OpenAI увеличилась в 100 раз и составила около 100 миллиардов долларов, а ее ежегодная прибыль насчитывает более миллиарда долларов. За все время существования капитализма еще не было столь стремительного обогащения. Даже необычная модель прибыли, ограничивающая доход инвесторов стократной отдачей, не помешала компании добиться финансового успеха.

Для создания ChatGPT команда OpenAI разработала новый способ обучения с подкреплением для точной настройки GPT моделей. В следующей главе мы разберем подробнее, и я поведаю больше деталей о таком типе обучения. В результате разработки получили языковую модель, нацеленную на любые задачи, поставленные пользователем. Завершающая часть создала нейронную сеть, которая захватила интерес общественности.

Ранее я уже приводил несколько примеров взаимодействия с ChatGPT, но позвольте мне показать еще некоторые его замечательные способности.

Производит впечатление, согласны? Но как он творит такое волшебство?

Общая идея ChatGPT проста. Это как функция автозаполнения на вашем телефоне, только на стероидах. В случае автозаполнения ваш телефон использует словарь и частоту употребления слов. Если вы начинаете набирать буквы «ПРИ», скорее всего автозаполнение предложит конечный вариант в виде слова «ПРИВЕТ». Только ChatGPT уходит глубже. Модель обучена не на словарях, а на значительной части содержимого интернета. Такое масштабирование означает, что ChatGPT может закончить не только слово или предложение, но и абзац или даже страницу.

Описание больших языковых моделей вроде ChatGPT как «автозаполнения на стероидах» приводит к фундаментальным ограничениям. Такие модели статистические, они не понимают язык так, как это делаем мы. У них отсутствует какая-либо базовая модель мира.

Все потому, что они выдают не правду, а вероятность. Больше всего сложностей у языковых моделей возникает с рассуждением. Следовательно, очень легко показать их ограниченные возможности, которые можно устранить благодаря масштабированию. Нам нужно еще магии.

Один из наглядных примеров ограниченности больших языковых моделей вроде ChatGPT – это выдумывание. Работники области искусственного интеллекта называют это «галлюцинациями», хотя это не совсем подходящее слово, поскольку предполагает, что на самом деле модель знает истинное значение. У модели нет ни знания, ни понимания, что истинно, а что ложно, она просто говорит то, что вероятно. Что примечательно, так это то, что зачастую вероятное равно истинному.

Явление галлюцинаций в языковых моделях означает, что они способны быстро и массово генерировать недостоверную или ложную информацию. А это означает, что они могут и будут использованы в качестве массового оружия убеждения в политических и других кампаниях и доставят немало общественных проблем в следующем десятилетии. Обнаружить выдумки ChatGPT не так уж и сложно. Обратите внимание, что если вы попробуете это сделать в другом месте, то можете получить иной ответ, так как ChatGPT каждый раз выдает немного разные ответы.

К сведению, Джамбо был знаменитым слоном из лондонского зоопарка, проданного американскому предпринимателю Финеасу Тейлору Барнуму в 1882-м. Плавающий в Ла-Манше слон явно привлек бы внимание прессы, а фотографии этого происшествия появились бы в газетах. Я проверил архив The New York Times и не обнаружил ни одной записи о плавающем в Ла-Манше слоне.

Следующий пример того, что ChatGPT подсовывает выдумки.

И снова полнейшая чушь. Я-то знаю наверняка, поскольку это я написал книгу “Faking It: Artificial Intelligence in a Human World”, и опубликована она была в 2023 году, а не в 2019-м. В моей книге не рассказывается о распознавании лиц и едва ли упоминаются беспилотные автомобили. Центральными темами книги являются генеративность и природа искусственного интеллекта, а не предрассудки и ошибки в программировании.

Чтобы подлить масла в огонь, скажу, что ChatGPT не был полностью ошибочен в своем ответе. Жанель Шейн в самом деле написала книгу об искусственном интеллекте, только она называется «Кокетливый интеллект. Как научить искусственный интеллект флиртовать?» и была опубликована в 2019 году. С юмором и анекдотами автор подробно рассказывает о распознавании лиц и беспилотных автомобилях, а также обращает внимание, что зачастую галлюцинации ChatGPT могут быть вполне вероятными. Тем не менее вероятная чушь – наихудший вид обмана, поскольку люди склонны в него верить.

Я спросил ChatGPT о том, кто написал книгу “Faking It” еще несколько раз, и каждый раз я получал разные ответы. Следующим вариантом был философ Джуллиан Баггини. Затем новатор виртуальной реальности Джарон Ланье[75], а после – робототехник Родни Брукс. Все эти версии имеют право на существование, но тем не менее они ошибочны. Стремясь удовлетворить потребность пользователя, ChatGPT всегда будет отвечать на ваши вопросы, независимо от того, есть ли у него верный ответ или нет. В любой крупной языковой модели существуют скрытые возможности, но компания OpenAI выбрала не выявлять их. Можно было бы разработать такие ответы: «Я не уверен в этом», «Я полностью осведомлен в этом вопросе» или даже «С точностью я не могу ответить на данный вопрос». Лучшее описание, которое я когда-либо слышал, так это то, что ChatGPT словно мужчина, который поучает женщин, даже если сам плохо разбирается в теме.

Неудивительно, что у ChatGPT возникают галлюцинации. Компания Meta (ранее Facebook) за две недели до выхода ChatGPT сама запустила большую языковую модель Galactica и заявила, что она станет новым способом взаимодействия человека с научными знаниями. В связи с этим Galactica была обучена на высококачественном и тщательно отобранном корпусе научных знаний человечества, который включал 48 миллионов научных работ, книг и энциклопедий, а также описания миллионов соединений и белков.

Главный научный сотрудник компании Meta Ян Лекун предсказал, что Galactica поможет ученым «обобщить академическую литературу, решить математические задачи, генерировать статьи в Википедии, писать научный код, аннотировать молекулы и протеины и многое другое». Он даже высказал предположение, что Galactica сможет «создавать научные работы с ссылками, формулами и всем необходимым». Очень быстро стало очевидно, что Galactica выведет науку на новый уровень, а возможно, и на в определенной степени опасный. Например, в Википедии была опубликована статья о пользе самоубийства, а другая о преимуществах того, что ты белый. Также была написана исследовательская работа о пользе употребления в пищу толченого стекла.

После трех дней обсуждения и критики Meta упразднила модель Galactica. Лекун агрессивно высказался в сети X (бывший Twitter), что языковая модель была использована в целях, для которых не была предназначена. Несмотря на то что критики пытались воспользоваться только теми возможностями, о которых говорил сам Лекун, в том числе и написанием статей. Таким образом, галлюцинации были довольно широкой проблемой больших языковых моделей еще до того, как был выпущен ChatGPT.

Для OpenAI запуск ChatGPT был шагом вслепую, прекрасно понимая, что это может стать причиной многих сложностей. Сэм Альтман утверждал, что мир должен привыкнуть к этому, а нам необходимо действовать сообща. Его высказывание стало девизом OpenAI. Главное – это донести свои продукты до общественности, несмотря на недостатки, и как можно скорее вносить изменения, чтобы избежать последующих проблем.

К сожалению, галлюцинации не вошли в список устраненных проблем. На самом деле, это не то, что полностью должно исчезнуть. Единственная причина того, что ChatGPT способен написать сонет о влюбленности в ваш компьютер в стиле Шекспира, заключается в его способности «галлюцинировать». Аналогичным образом, единственный способ, с помощью которого ChatGPT может обобщить новое судебное решение, заключается в том, что он может сказать что-то новое. Это полезные навыки. Основная проблема заключается в том, что крупные языковые модели, такие как ChatGPT, не знают, что является правдой, а только то, что вероятно. И мы пока не знаем, как улучшить это.

Из успеха ChatGPT я могу сделать вывод, что мы переоценили не машинный, а человеческий интеллект. Большая часть человеческого общения довольно шаблонна. Мы не задействуем свой мозг так часто, как нам кажется. Многое из того, что мы говорим, является шаблонным. И теперь этим формулам обучены компьютеры.

ChatGPT не был первым чат-ботом в истории искусственного интеллекта, привлекшим внимание публики. Такая честь пала на самого первого виртуального собеседника, систему под названием «ЭЛИЗА». Джозеф Вейценбаум разрабатывал ее в Массачусетском технологическом институте в период с 1964 по 1966 год. Будучи ребенком, Вейценбаум сбежал от нацистской армии и во время Второй мировой войны работал метеорологом на армию США, а после стал профессором в Массачусетском технологическом институте.

Предполагалось, что ЭЛИЗА станет компьютерной версией психотерапевта. Во время разработки Вейценбаума интересовало исследование возможностей применения искусственного интеллекта. В его цели не входило обманывать общество при помощи ЭЛИЗЫ, а наоборот, он хотел показать поверхностность общения большинства людей, даже в таких сложных условиях, как кабинет психотерапевта. К несчастью и удивлению Вейценбаума, большинство людей, пользовавшихся программой, думали, что общаются с человеком.

Название «ЭЛИЗА» было дано в честь торгующей цветами девушки из простонародья – Элизы Дулиттл, героини пьесы Бернарда Шоу «Пигмалион», а также ее адаптации в виде мюзикла «Моя прекрасная леди». Героиня Элизы могла одурачить людей своей великосветской манерой речи, хотя в глубине души оставалась девушкой из рабочего класса. Аналогичным образом, ЭЛИЗА вводила людей в заблуждение, она казалась им чем-то бóльшим, чем была на самом деле, и создавала впечатление, что она понимает, что ей говорят.

По сути, ЭЛИЗА выполняла развлекательную функцию, просто превращая высказывания человека в вопрос. Например, запрос «Я думаю о смерти», ЭЛИЗА превращала в вопрос «Почему ты думаешь о своей смерти?» Несмотря на простоту, ЭЛИЗА выдавала убедительные диалоги. Даже секретарь Вейценбаума попросила оставить ее наедине с компьютером, чтобы она могла поговорить с ЭЛИЗОЙ один на один.

Один из примеров таких диалогов:

ЭЛИЗА была разработана как пародия на психотерапевта. Позже Вейценбаум удивился, что некоторые психиатры предлагали ЭЛИЗУ в качестве клинического инструмента. Если бы Вейценбаум был жив, то скорее всего был бы расстроен, что это стало реальностью. В Германии чат-боты на базе искусственного интеллекта не сильно лучше ЭЛИЗЫ помогали нуждающимся в убежище справляться с посттравматическим расстройством. ПТСР часто встречается среди беженцев, сбежавших из зон военных действий или испытавших ужасы на пути в Европу. К сожалению, не так много доступных людей-терапевтов, способных помочь всем, поэтому на помощь приходит неидеальный чат-бот. Но неидеальный же лучше, чем вообще ничего?

Компания OpenAI поставила сотни миллионов на масштабирование моделей семейства GPT, но это не было таким рисковым мероприятием, как может показаться ввиду некоторых удивительных законов масштабирования. Они не являются фундаментальными, как законы Ньютона. Насколько нам известно, они не отражают физику вселенной. Законы масштабирования эмпирические. Они отражают результаты наблюдений о том, как большее количество параметров, вычислений и обучающих данных привели к улучшениям производительности нейронных сетей.

Илл. 19. Производительность больших языковых моделей в стандартном тесте с несколькими вариантами ответов в зависимости от объема вычислений, используемых для обучения моделей

Законы масштабирования предполагают, что производительность систем изменяется по мере увеличения размера модели (измеряется количеством параметров), увеличения способности к обучению (измеряется количеством машинных циклов) и увеличения объема обучающих данных (измеряется количеством токенов в обучающем наборе). Действительно, оказывается, что простые математические соотношения (так называемые степенные законы) связывают воедино эти четыре показателя.

Это означает, что мы можем с точностью рассчитать производительность при масштабировании систем. Говоря простыми словами, если мы увеличим бюджет вычислений в десять раз, то количество параметров и токенов также увеличится пропорционально.

Тем не менее мы сталкиваемся с одной фундаментальной проблемой. Мы не можем просто и быстро увеличить вычислительные мощности и количество обучающих данных в десять раз. В настоящее время наблюдается дефицит графических процессоров, поскольку компании и даже целые страны конкурируют за доступ к вычислительной инфраструктуре для создания все более крупных моделей. Вместе с этим у нас заканчиваются данные или, как минимум, высококачественные данные. Например, GPT–3 был обучен на большом количестве материала, взятого из интернета.

Но ведь есть что-то еще, что мы можем сделать? В конце концов, люди научились ходить, говорить, читать и писать еще до того, как у нас появился доступ к интернету…

Мы подобрались к обучению с подкреплением, пятой и предпоследней идее в этой истории искусственного интеллекта. Очередная идея, украденная у природы. Вы можете учиться на собственном опыте, получая награду за успех и наказание за ошибку.

Множество вещей мы изучаем на практике. Мы садимся на велосипед и падаем с него, снова садимся, проезжаем небольшое расстояние и снова падаем. Медленно, но уверенно мы учимся делать больше правильных вещей и избегать неправильных. Возможно, компьютеры могут обучаться таким же способом?

Эта идея намного сложнее, чем кажется изначально. Подумайте об обучении шахматам. Предположим, что вы играете и проигрываете. Вам необходимо некое наказание за ошибку, чтобы не повторить ее снова. Но какой именно ход привел к поражению? Несмотря на общий проигрыш, за время игры сделано много хороших ходов. Просто не было возможности исправить ошибку, допущенную в самом начале. Теперь как вы определите плохие ходы?

А сейчас представьте, что вы выиграли. И вам необходимо получить награду за достигнутый успех, но какие именно шаги привели вас к такому результату? Несмотря на победу, за время игры вы сделали несколько неудачных ходов, но их было недостаточно, чтобы в итоге проиграть. Также возможно, что мог быть сделан единственный решающий ход, который принес победу. Это довольно-таки популярная проблема в области искусственного интеллекта и называется «проблема распределения заслуг». Как понять, какое именно действие привело к конечному результату, если только лишь в конце игры мы понимаем, выигрыш это или проигрыш? Проблема заключается в распределении заслуг за выигрыш и вины за проигрыш за различные ходы, сделанные на протяжении всей игры.

Один из первых исследователей искусственного интеллекта Дональд Мичи использовал метод обучения с подкреплением для игры в крестики-нолики с механическим компьютером. Коллега из Эдинбургского университета поспорил с Мичи, что тот не сможет построить обучающую машину. На самом деле, коллега утверждал, что создать такую машину невозможно. Но в 1960 году, чтобы доказать неправоту своего коллеги, Дональд создал MENACE (Machine Educable Noughts and Crosses Engine), обучающийся машинный движок для игры в крестики-нолики. Это был компьютер, построенный из спичечных коробков, в котором был использован метод обучения с подкреплением. И действительно, MENACE научился играть идеально, так что выиграть у него стало невозможно.

Компьютер Мичи был прост и состоял из 304 спичечных коробков, каждый из которых представлял различные варианты возможного расположения крестиков и ноликов на игровом поле. Выяснилось, что существует 304 уникальных состояния поля, если не учитывать повороты и зеркальные отражения. Первый ход делал MENACE – для того чтобы компьютер ходил вторым, понадобилось бы намного больше коробков. Каждый квадратик на игровом поле имел свой цвет. В коробках находились шарики разного цвета, каждый из которых обозначал один из девяти возможных ходов. Сначала из спичечного коробка наугад вынимался шарик, показывающий текущее состояние игрового поля. После, руководствуясь цветом шарика, можно было понять, где MENACE сделал свой следующий ход.

Илл. 20. MENACE, воспроизведенный Мэттью Скроггсом в 2015 году

По окончании игры, если победа была за MENACE, цветные шарики возвращались в свои спичечные коробки, а также добавлялось три бонусных шарика одного цвета как награда за успешную игру. Но если же MENACE проигрывал, в качестве наказания за ходы, приведшие к проигрышу, никакие шарики не возвращались. Таким образом, распределение заслуг MENACE было довольно-таки простым. При победе все ходы награждались, а при проигрыше все ходы наказывались. Такое незамысловатое распределение заслуг отлично подходит для обучения таким простым играм, как крестики-нолики. Спустя несколько сотен партий MENACE стал играть идеально. В противном же случае MENACE всегда проигрывал бы. Но MENACE невозможно обыграть. Вы только посмотрите на это: набор неодушевленных спичечных коробков победил человечество!

Такие игры, как шахматы или крестики-нолики, – наиболее подходящие направления для применения принципа обучения с подкреплением, поскольку есть четкий показатель успеха. Обучение может быть и самостоятельным, например когда компьютер играет сам с собой. Такой метод обучения можно применять и для тренировки роботов в ходьбе или поднятии предметов.

Позже Мичи использовал обучение с подкреплением, чтобы научить робота эквилибристике. Тем не менее такое обучение намного медленнее, чем игра в виртуальные игры. А когда робот делает ошибки, вы можете сломать его. Именно по этим причинам для роботов все чаще применяется обучение с подкреплением не в реальном мире, а на симуляторе.

Интерес Мичи к искусственному интеллекту возник еще в самом начале зарождения этой области. Прежде чем работать в Эдинбурге, он занимал должность взломщика кода в Блетчли-парке. Именно здесь он подружился с Аланом Тьюрингом. Совместное времяпрепровождение за обедом и плохие навыки игры в шахматы помогли им сблизиться. Мичи и Тьюринг задумались о том, могут ли машины научиться играть в шахматы. И более масштабный настигший их вопрос: могут ли машины мыслить?

После создания MENACE я часто встречал Дональда, и он рассказал мне несколько занимательных историй о расшифровке кода во времена деятельности Тьюринга в Блетчли-парке. Например, боясь немецкого вторжения, Тьюринг закопал несколько серебряных слитков во дворе загородного дома, но забыл, где именно. Серебро до сих пор хранится где-то под землей. Во время работы в Блетчли Тьюринг настолько дорожил своей кружкой, что привязал ее к батарее, но радиатор находился слишком далеко от раковины, чтобы кружку можно было помыть. В результате многие люди, включая Мичи, опасались за здоровье Тьюринга.

Наконец мы подобрались к следующему прорыву в области искусственного интеллекта, который осуществился благодаря компании DeepMind, основанной в 2010 году двумя учеными из Университетского колледжа Лондона Демисом Хассабисом и Шейном Леггом, а также общественным деятелем и другом детства младшего брата Демиса Мустафой Сулейманом.

Илл. 21. Демис Хассабис (слева) и Мустафа Сулейман

С момента своего основания компания DeepMind оказала сильное влияние на сферу искусственного интеллекта. Из трех ее основателей Легг держался в тени (я уважаю его решение и не даю его фотографию здесь), а Хассабис и Сулейман – нет. Демис Хассабис, или по полному титулу сэр Демис Хассабис, сейчас возглавляет отдел искусственного интеллекта в Google. Мустафа Сулейман возглавляет такой же отдел, но уже у конкурента, в компании Microsoft. Думаю, что все мы должны осознать, что большая часть будущего искусственного интеллекта, так или иначе, находится в руках двух друзей, которые впервые встретились в начальной школе на севере Лондона.

Хассабис был одаренным ребенком. Он научился играть в шахматы в возрасте четырех лет, достиг гроссмейстерского уровня в 13, а также возглавлял несколько английских юношеских команд. Во время годового перерыва перед началом учебы в Кэмбридже Хассабис работал геймдизайнером. Вышедшая в 1994 году игра Theme Park[76] разошлась миллионным тиражом, а вырученные средства позволили ему оплатить учебу в университете. Хассабис получил степень в области информатики в Кембриджском университете, а затем стал доктором когнитивистики в университетском колледже Лондона. Его образ мальчугана в толстых очках напоминает мне Брэйнса из сериала «Тандербёрды: Международные спасатели».

Мустафа Сулейман же, напротив, в отличие от Хассабиса или Легга, не имел технического образования. Он поступил в Оксфордский университет, где изучал философию и теологию, но вскоре забросил учебу, чтобы принести окружающему миру практическую пользу. Мустафа помог в организации телефонной линии доверия для мусульманской молодежи Muslim Youth Helpline, которая впоследствии стала одним из крупнейших сервисов психологической поддержки мусульман в Великобритании. Затем он работал у Кена Ливингстона, мэра Лондона, в департаменте прав человека, а после занимался социальными проблемами в Организации Объединенных Наций, правительстве Нидерландов и Всемирном фонде охраны природы.

Шейн Легг родился в городе Роторуа, в Новой Зеландии. Он получил степень бакалавра в области информатики и математики в Университете Уэйкато и степень магистра математики в Университете Окленда. Шейн работал в нескольких компаниях, занимающихся разработкой программного обеспечения, включая Webmind – стартап, разрабатывающий искусственный интеллект общего назначения. Он защитил докторскую диссертацию по машинному суперинтеллекту в Институте искусственного интеллекта имени Далле Молле в Швейцарии, а после проходил стажировку в Университетском колледже Лондона в отделе вычислительной нейронауки имени Гэтсби, где познакомился с Демисом Хассабисом.

В 2010 году все трое собрались, чтобы основать Deep-Mind. Миссия компании была простой и амбициозной: решить проблемы и создать полноценный искусственный интеллект, а затем использовать его на благо человечества. Осуществление своей миссии DeepMind начала с обучения играм методом обучения с подкреплением. Тренировки проходили на основе 49 различных видеоигр Atari, включая Pong, Breakout и Space Invaders.

Результаты поразили научное сообщество. Программа на основе искусственного интеллекта от DeepMind не обладала никакими базовыми знаниями об играх. У нее просто был доступ к подсчету очков и сырым пикселям на экране. Тем не менее программа как-то сумела хорошо освоить каждую игру, руководствуясь основными принципами, и в большинстве случаев играла на человеческом уровне, а в некоторых даже превосходила человека.

Искусственный интеллект DeepMind не был осведомлен о правилах игры или ее элементах, в отличие от человеческих пользователей. Он также не обладал знаниями об инерции, силе тяжести и прочих физических принципах, которые помогают человеку ориентироваться в подобных играх. Искусственный интеллект DeepMind каждую игру изучал с нуля, играя сам с собой бесконечное количество раз. Так компьютер сперва научился играть, а потом, после нескольких часов практики, научился играть уже на достойном уровне.

Ведущий исследователь и автор самой популярной книги об искусственном интеллекте Стюарт Рассел передал общее настроение научного сообщества: «Это одновременно впечатляюще и пугающе, как если бы только что родившийся ребенок к вечеру того же дня обыгрывал других людей в видеоигры. Вы ужаснетесь». Осознавая потенциал, Google оперативно заплатила, как говорят, около полумиллиона долларов за покупку DeepMind. У компании не было платежеспособных пользователей, а в штате было всего 50 сотрудников.

Следующий прорыв DeepMind, который позже назовут «Моментом спутника»[77], случился шесть лет спустя и захватил внимание мировой общественности.

В октябре 1957 года первый в мире искусственный спутник «Спутник–1» был запущен с космодрома Байконур и достиг орбиты Земли. Выглядел он не то чтобы привлекательно, полированная металлическая сфера размером с большую тыкву, а все его функции ограничивались передачей радиоволн через четыре антенны. Тем не менее «Спутник», как и следующее открытие DeepMind, изменили мир. Угроза советского технологического прогресса разбудила Соединенные Штаты и положила начало гонке вооружений. Технологическая гонка отправит человека на луну, марсоходы – исследовать красную планету, а космические корабли на другие планеты Солнечной системы. Кроме того, человечество получит все, включая межконтинентальные баллистические ракеты и интегральные микросхемы.

Момент Спутника произошел практически 60 лет спустя в марте 2016 года, когда программа искусственного интеллекта, разработанная DeepMind, победила человека в игре AlphaGo. Программа играла не против обычных людей, а против лучших игроков и мировых чемпионов по древнекитайской игре в го. По мнению многих наблюдателей, победа в AlphaGo стала событием, ознаменовавшим начало гонки искусственного интеллекта. На этот раз проснулись не Соединенные Штаты, а Китай. Это была гонка не за Луну, а за доминирование в следующей великой экономической революции.

Сразу после победы искусственного интеллекта китайское правительство объявило о запуске амбициозного плана о мировом лидерстве в области. В соответствии с программой к 2030 году вклад искусственного интеллекта в промышленный сектор Китая составит свыше 150 миллиардов долларов и более полутора триллиона долларов косвенно за счет связанных индустрий.

Как так вышло, что компьютер, одержавший победу в обычной настольной игре, оказал такое влияние на долгосрочные цели Китая? Важно понимать, что для китайцев игра в го имеет особую ценность. Ее придумали около 2000 лет назад. Считается, что го входит в одно из четырех искусств, которым должен заниматься настоящий интеллектуал, наряду с каллиграфией, живописью и игрой на музыкальном инструменте гуцинь[78]. Го – игра чрезвычайно тонкая и сложная. В действительности китайские власти были настолько обеспокоены победой ИИ в AlphaGo, что запретили трансляции игр.

План Китая по развитию искусственного интеллекта совершенно не скрывает целей по его использованию для достижения экономического и военного мирового превосходства. В своем отчете к съезду партии в октябре 2017 года генеральный секретарь Си Цзиньпин доложил, что к началу следующего столетия Китай стремится стать «научной и технической супердержавой». К слову, сейчас Китай идет ноздря в ноздрю с Соединенными Штатами по количеству патентов и публикаций, посвященных искусственному интеллекту.

Многие другие страны также переняли план Китая. Не удивительно, но у Соединенных Штатов есть план противодействия победе Китая в гонке искусственного интеллекта, и они объявили о выделении многомиллиардных федеральных средств на достижение этих целей. Чтобы не отстать в этой гонке, Великобритания, другая страна, играющая немаловажную роль в области, планирует выделить несколько миллиардов фунтов стерлингов. Франции участие будет стоить полтора миллиарда евро. Германия запланировала выделить три миллиарда евро, и даже Индия проинвестирует около полумиллиарда долларов США в разработку искусственного интеллекта. К сожалению, австралийское правительство предпочитает держаться в стороне от таких крупных вложений и ограничивается скромными инвестициями.

Без сомнений, искусственный интеллект вносит изменения в экономику, политику и общество. По результатам проведенного компанией PwC в 2017 году исследования, мировой ВВП после внедрения искусственного интеллекта к 2030 году может увеличиться примерно на 15%, что равно 15 триллионам долларов, с поправкой на инфляцию. Благодаря искусственному интеллекту откроются огромные возможности для инноваций уже в следующем десятилетии.

Победа в AlphaGo стала важным шагом на пути к инновациям. Многие профессионалы го предсказывали, что компьютеры никогда не смогут показать высокий уровень игры. Даже самые ярые оптимисты говорили, что успеха придется ждать десятки лет. В июле 1997 года после победы Deep Blue от IBM над Гарри Каспаровым в шахматах The New York Times заявила, что «когда или если компьютер сможет одержать победу на чемпионате по игре в го, тогда это станет знаком, что искусственный интеллект действительно начинает становиться хорошей и полезной вещью».

The New York Times была права. Игра в го намного труднее и сложнее, чем шахматы. В шахматах всего лишь 20 возможных ходов за раз, когда как в го около 200. Чтобы сделать просчет на два шага вперед, необходимо учесть от 200 до 40 000 возможных ходов, а на три шага – уже больше восьми миллионов. А для того, чтобы просчитать следующие 15 черно-белых фишек, необходимо продумать такое количество возможных ходов, что оно будет больше, чем число атомов во Вселенной.

Следующее, что делает го невероятно запутанной игрой, так это выяснение победителя. Играя в шахматы, не так уж и сложно определить победителя заранее. Нужно просто посчитать ценность захваченных фигур, чтобы приблизительно понять на первый взгляд. В го же подсчет окружающих фишек не даст никакого понимания, поскольку эти фишки могут быть окружены своими же. Мастера го тренируются на протяжении всей жизни, а любой хорошей программе требуется всего лишь 200 ходов, чтобы понять, кто выигрывает.

Для определения ведущего игрока AlphaGo использует метод обучения с подкреплением. Пока мы не умеем точно формулировать, что считается выгодной позицией в игре го. Наравне с людьми компьютер также может научиться этому распознаванию. Инженерный опыт Google и обширные серверные базы также сыграли важную роль в победе. AlphaGo сыграла сама с собой миллиарды раз, улучшая свои стратегии. Число сыгранных партий у AlphaGo больше, чем человек сможет сыграть за всю жизнь. Как и с другими достижениями искусственного интеллекта, значительный результат был достигнут благодаря огромным ресурсным затратам на решение проблемы.

В 2016 году во время матча между мастером го Ли Седолем и AlphaGo один ход стал решающим. Им стал 37-й ход во второй игре. По невероятному стечению обстоятельств, вероятность которого невозможно просчитать, именно 37-й ход во второй партии знаменитого матча 1997 года между Гарри Каспаровым и Deep Blue от IBM также оказался решающим.

Илл. 22. Погруженный в раздумья Каспаров во время матча против Deep Blue в 1997 году

В матче 1997 года в первой партии победу одержал Каспаров. Вторую начал Deep Blue, разыграв испанскую партию, один из самых популярных дебютов, применяемых в шахматах как любителями, так и профессионалами. На 37-м ходу Deep Blue нарушил общепринятый шахматный регламент, отказавшись от очевидной возможности захвата фигуры ради получения небольшого, но важного позиционного преимущества, после чего Каспаров признал поражение.

Каспаров был в ярости и заявил, что команда IBM жульничала. Также он утверждал, что только человек мог додуматься до такого хитрого и в то же время удачного хода. Он потребовал провести экспертизу и изучить алгоритмы в целях подтверждения, что программа сделала ход самостоятельно, без стороннего вмешательства. Команда IBM отказала ему в запросе. Позже по результатам анализа выяснилось, что такой ход мог возникнуть в результате программной ошибки, поскольку у Deep Blue заканчивалось время и она сделала случайный ход. На самом деле, у Каспарова не было необходимости признавать поражение, ведь можно было выйти в ничью, но он запаниковал.

В 2016 году в матче между Ли Седолем и AlphaGo в первой игре победу одержал AlphaGo, поэтому у Ли было огромное желание сыграть еще раз. В ходе второй партии, на 37-м ходу, программа продемонстрировала ход, на который не решился бы ни один профессионал, выйдя на пятую линию доски. Мастера го тысячелетиями придерживались принципа занимать четвертую линию в начале партии.

Как и Каспаров, Ли был взбудоражен. Покинув место соревнований и сделав перерыв на 15 минут, он вернулся к игре. И вновь 37-й ход изменил течение всей партии и стал решающим в судьбе матча. Ли проиграл вторую партию и, следовательно, матч со счетом 4:1. После игры Ли высказался, что программа AlphaGo «прекрасна».

В отличие от ситуации в 1997 году, в этот раз 37-й ход не был ошибкой. На самом деле, ход, найденный компьютером, способным рассмотреть гораздо больше возможностей, чем мог бы человеческий разум, был практически идеальным. Эксперты по игре в го были воодушевлены, ожидая, что игра преобразится на основе идей искусственного интеллекта. Равно как и шахматы были улучшены компьютерными программами, играющими на порядок лучше людей, го ждут похожие изменения.

Стоит напомнить, что искусственный интеллект не лишил людей удовольствия играть в шахматы. Сегодня ни один гроссмейстер не сможет обыграть компьютер, но с 1997 года все больше и больше людей зарабатывают на профессиональной игре с компьютером. Стандарты профессиональной и любительской игры заметно возросли. Теперь любители могут тренироваться против бесконечно терпеливых опытных соперников, а эксперты с легкостью могут изучать и понимать новые тонкости игры.

Цель DeepMind была намного масштабней, чем просто соревноваться в играх с человеком. Главным замыслом компании было решить проблемы и создать полноценный искусственный интеллект, а затем использовать его на благо человечества. А что может быть лучше для начала, чем область биологии? Или, если быть более точным, предсказание трехмерной структуры белка по его аминокислотной последовательности. Предсказание структуры белка считалось одной из важнейших нерешенных проблем в биологии на протяжении 50 лет.

Белки – это высокомолекулярные вещества, поддерживающие нашу жизнь. Они доставляют кислород к мышцам, катализируют метаболические реакции, помогают передавать нервные сигналы и играют ключевую роль в фотосинтезе и многих других биологических процессах. Для понимания впечатляющего многообразия функций белков ключевым моментом является изучение их трехмерной структуры. Структура белка напрямую определяет его функциональные возможности. Например, все мы более чем осведомлены о важности спайк-белка в процессе заражения вирусом SARS-CoV–2.

В 1958 году Джон Кендрю стал первым ученым, определившим структуру белка миоглобина. За свое открытие он получил Нобелевскую премию по химии в 1962 году. С тех пор были открыты структуры примерно 170 000 других протеинов. Однако в биологии насчитывается более 200 миллионов белков. Определение трехмерной структуры нового белка – это трудоемкий процесс, который может занять несколько лет исследований и вполне может стать достойным основанием для получения ученой степени.

Предсказание структуры белка стало для DeepMind отличным выбором проблемы, которую необходимо решить, учитывая, что биологи также захотели принять в этом участие. Каждые два года проходит международный чемпионат по предсказанию структуры белка[79], в котором принимают участие около 100 исследовательских групп со всего мира. Тем не менее соревнование довольно-таки сложное. Исследователи проводят годы за разработкой компьютерных программ, позволяющих выполнять предсказания.

До 2018 года, не учитывая простые белки с низкой молекулярной массой, точность вычислительных методов была ограниченной по сравнению с экспериментальными способами. Тогда команда DeepMind решила, что впервые программа AlfaFold станет участником соревнования. Соревнуясь с 97 другими участниками, программа стала победителем и предсказала наиболее точно структуры 25 из 43 белков, в то время как результат команды, занявшей второе место, составил 3 из 43. Два года спустя, в 2020 году, команда DeepMind справилась намного лучше. Новая модель на основе трансформера выиграла чемпионат с результатом, впоследствии описанным биологами как «удивительный и трансформационный». AlfaFold определяла структуры двух из трех белков с точностью лабораторных исследований.

Обучение с подкреплением играет важную роль в AlfaFold, поскольку используется для уточнения предсказанной формы белка путем изучения предыдущих ошибок прогнозирования. Модель получает вознаграждение в зависимости от того, насколько точно предсказанные ею структуры соответствуют известным или определенным экспериментально структурам, что эффективно направляет ее к более точным прогнозам. Такой итеративный процесс помогает модели исследовать обширное пространство потенциальных форм, учась находить баланс между исследованием новых форм сворачивания и использованием известной структурной информации.

В 2022 году DeepMind не стала участвовать в соревновании, поскольку в этом уже не было необходимости. Открыв исходный код AlfaFold, большинство пользователей теперь могут пользоваться программой или встроенным функционалом. Вместо участия в чемпионате DeepMind направил все силы AlphaFold на предсказание структуры белков. В июле 2023 года компания выпустила базу данных, содержащую 200 миллионов белков, и которой сегодня ученые пользуются свободно. Эта база данных включает практически все известные науке белки. Джанет Торнтон, почетный директор Европейского института биоинформатики, где и размещена база данных, очень хорошо описала ее влияние: «Ученые стоят на плечах гигантов. Зачастую этими “плечами” служат данные. Имея миллионы предсказанных структур, мы сможем изменить биологию, что станет полезным для многих отраслей, в том числе и для медицины, сельского хозяйства, биотехнологий. Это просто фантастика!» [1]

Как мы уже увидели, DeepMind не единственная компания, победившая человечество в одной из придуманных им игр. Компания IBM сделала с шахматами то же самое в 1997 году. Проект IBM Deep Blue с легкостью окупил себя. На следующий день после победы Deep Blue над Гарри Каспаровым акции IBM взлетели почти на 4%, добавив около двух миллиардов долларов к рыночной стоимости компании. Победа в шахматах также обеспечила широкую известность IBM как технологическому лидеру. Ничего удивительного в том, что IBM захотела повторить успех, но в уже более сложной игре.

В 2007 году команда IBM под руководством Дэвида Ферруччи начала разработку Watson, программы на основе искусственного интеллекта для игры в популярную викторину Jeopardy![80]. Программу назвали в честь основателя и первого генерального директора Томаса Джона Уотсона. На протяжении 40 сезонов Jeopardy! остается одной из самых продолжительных и популярных телевикторин. Вместо вопросов в Jeopardy! игроки получают ответы. Сформулировав ответ в форме вопроса, они должны угадать личность, место, вещь или идею, описанную в подсказке.

Илл. 23. Кен Дженнингс, Watson и Брэд Раттер соревнуются в Jeopardy! за приз в миллион долларов

Пока вы не начали говорить, что можно просто загуглить ответ, скажу, что Watson не был подключен к интернету. Однако у него был доступ к четырем терабайтам информации, полученной из энциклопедий, словарей, тезаурусов, новостных статей и литературных произведений. Watson состоял из различных программ на базе искусственного интеллекта. Например, одна программа была экспертом в области географии, вторая – отвечала на вопросы про исторические события, а третья – про таксономию. Игроки Jeopardy! должны делать ставку на какой-то конкретный вопрос, в то время как Watson использует метод обучения с подкреплением, чтобы разработать наилучшую стратегию. У программы была механическая рука для нажатия кнопки ответа, прямо как у участников-людей.

Спустя четыре года разработки Watson был готов к состязанию с человеком. В начале 2011 года состоялся матч между чемпионами викторины Кеном Дженнингсом и Брэдом Раттером. Раттер – самый высокооплачиваемый американский участник телевикторин, суммарно выигравший более пяти миллионов долларов. Он также является рекордсменом за самую длинную череду побед в Jeopardy!, став чемпионом 74 раза подряд. Дженнингс – второй в списке самых высокооплачиваемых американских участников телевикторин, ни разу не проигравший в Jeopardy! за все время своих появлений. Но этому суждено было измениться.

Спустя два дня соревнований против Дженнингса и Раттера, Watson от IBM был явным победителем, выиграв 77 147 долларов. Приз Дженнингса составил 24 000 долларов, а Раттера всего лишь 21 600. Вновь человек уступил машине. Суммарный приз, который Watson забрал домой и пожертвовал на благотворительность, составил миллион долларов.

В целом, IBM инвестировала много миллионов долларов и потратила несколько лет усилий на создание Watson. Суперкомпьютер, на котором работал Watson, обошелся примерно в три миллиона долларов. Однако сегодня ChatGPT может посоревноваться бесплатно с помощью простого запроса. Давайте посмотрим.

Исторический вопрос был финальным в матче Watson против Дженнингса и Раттера. Watson дал ответ «Торонто», несмотря на то что категория была «города США». Хотя ChatGPT и ответил правильно, это не настоящий тест, поскольку этот вопрос (и ответ на него), несомненно, уже есть в обучающих данных ChatGPT.

Анализ производительности программы Watson во время матча не показал, что при ответе на вопросы она лучше, чем действующие чемпионы, но лучше в азартных играх, поскольку более точно способна просчитать вероятность правильного ответа и сделать соответствующую ставку. Такая способность компьютеров высчитывать вероятности подводит нас к шестой и завершающей идее, объясняющей достигнутый в создании искусственного интеллекта прогресс. Ее мы рассмотрим в следующей главе.

Хотелось бы закончить эту главу рассказом об успехе обучения с подкреплением на примере ChatGPT. Наверное, вы помните, что для создания семейства больших языковых моделей GPT компания OpenAI взяла за основу модель трансформера, разработанную Google, и активно ее масштабировала. Но чтобы перейти от GPT–3 к ChatGPT, добавился один новый и важный компонент: обучение с подкреплением на основе человеческой обратной связи.

Большие языковые модели по типу GPT–2 и GPT–3 вели себя так, как будто у них дефицит внимания. Возможно, вы также помните, что такие модели случайны и каждый раз выдают разный ответ. Проблема случайности заключается в том, что игральная кость в итоге играет против тебя. Математики называют это «задачей о разорении игрока». В моделях GPT–2 и GPT–3 такое явление проявляется отвлечением внимания. Они пишут предложения, быстро предсказывая следующее слово. Однако в результате предсказывается слово, которое отклоняет выходные данные в случайном и нежелательном направлении. Позвольте привести пример. Я попросил GPT–2 продолжить фразу «Фотосинтез – это…». И модель выдала следующее:

Но затем он сбился с пути:

В результате фотосинтеза получается кислород, а не углекислый газ. Модель GPT–2 сделала еще больше ошибок в следующем предложении:

Данный ответ грамматически неверен. Должно быть «животные», а не «животное». Но что более существенно, животные не обладают функцией фотосинтеза, хотя некоторые из них и вступают в симбиотические отношения с водорослями и цианобактериями, которые фотосинтезом обладают.

Обучение с подкреплением на основе человеческой обратной связи помогает решить эту проблему. На одном из обучающих этапов людей спрашивают, какой из двух возможных ответов большой языковой модели они предпочитают. Человеческая обратная связь обеспечивает внесение корректных данных в модель. Если человек отклоняет расистские и сексистские ответы, то модель учится выдавать лучшие ответы.

С момента привлечения человека обучение с подкреплением стало дорогой деятельностью, но благодаря этому значительно улучшились большие языковые модели. Такой способ обеспечивает беспорядочное обучение на базе интернет-данных, без повторений ошибочной информации, пропаганды, конспирологических теорий, расизма и сексизма, найденного в сети. В довершение всего разработчики больших языковых моделей вручную кодируют ограничения, пытаясь отфильтровать наиболее оскорбительный, опасный и незаконно генерируемый контент.

В целом, это невероятно, насколько хорошо можно создавать большие языковые модели, используя метод обучения с подкреплением и учитывая низкое качество многих данных, на которых они обучаются!

Мы подошли к шестой и заключительной идее, использующейся в создании систем на основе искусственного интеллекта. Мир нестабилен, следовательно, системам необходимо справляться с неопределенностью при взаимодействии с миром. Насколько беспилотный автомобиль уверен, что сейчас безопасно совершить обгон? Какова вероятность, что алгоритм компьютерного зрения, анализируя рентгеновский снимок, сделает вывод, что рака нет? Или каковы шансы, что именно это входящее письмо окажется спамом?

К счастью, 250 лет назад преподобный Томас Байес, пресвитерианский священник из Танбридж-Уэллса в графстве Кент, предложил основательный подход, как справляться с неопределенностью. А именно, он вывел теорему, в соответствии с которой компьютеры получили новый способ вычисления вероятностей. Простой пример поможет понять силу теоремы Байеса.

Данный пример предполагает техническое описание, но уверяю вас, что он стоит того, а вы вполне справитесь с его пониманием. Вы подходите к концу этой краткой истории искусственного интеллекта, соответственно, теперь вы практически эксперт в этой области. Просто представьте, что через две страницы вы сможете похвастаться, что смогли самостоятельно вывести теорему Байеса, начиная с самого первого условия! Оставайтесь со мной.

Предположим, что вы моделируете детектор коронавируса COVID–19, основанный на типе кашля, и вы решили обучить этому нейронную сеть. Прочитав несколько книг об искусственном интеллекте, для достижения своей цели вы используете модель на базе трансформера для обнаружения своего рода плохого кашля, который характерен для коронавируса. И кажется, что все отлично работает. Но как вы можете в этом убедиться? Здесь нам поможет теорема Байеса. Вы хотите вычислить точность вашего детектора, а если точнее, вычислить вероятность того, что у человека есть коронавирус (ваша гипотеза), учитывая, что детектор воспринимает кашель как подозрительный (ваше наблюдение). Переведем в символы:

Это «вероятность» того, что у человека «есть коронавирус», учитывая (вертикальная черта «|»), что у него «подозрительный кашель».

Вычислить условную вероятность напрямую не так уж и сложно. Вам необходимо предоставить вашему детектору тысячи аудиофайлов, а затем клинически проверить, что десятки людей, у которых по результатам детектора выявлен нетипичный кашель, действительно больны. При каждом обновлении детектора вам придется высчитывать это вручную.

К счастью, преподобный Байес предложил нам способ получше. Существуют три другие связанные вероятности для определения точности детектора, вычисление которых значительно проще. Первое, вы меняете местами члены условной вероятности и вычисляете вероятность того, что зараженные коронавирусом верно определены вашим детектором по характерным признакам кашля. Получаем следующее:

Кажется, что ничего не изменилось, но на самом деле выполнить такое вычисление намного легче. В данном случае необходимо учитывать только небольшую группу людей с коронавирусом. При их обследовании использовать детектор и далее высчитать, какой процент из них действительно имеют сомнительный кашель. Предположим, что у 95% больных коронавирусом действительно наблюдается подозрительный кашель. Тогда вероятность (подозрительный кашель | есть коронавирус) = 0,95.

Второе, необходимо вычислить вероятность гипотезы, то есть вероятность, что среди общей массы населения обнаружен зараженный. И вновь это несложно сделать, учитывая собранные ранее данные. Выполнять расчеты каждый раз при обновлении детектора не требуется, поскольку данные от него не зависят. Вы можете выявить значение по косвенным данным, например через анализ состава сточных вод. Переводя в символы, получаем вероятность, выраженную следующим образом:

Давайте предположим, что 2% населения сейчас больны коронавирусом. Следовательно, вероятность (есть коронавирус) = 0,02.

Третье, теперь нужно вычислить вероятность наблюдения, то есть вероятность того, что у обозначенного детектором человека есть подозрительный кашель. Такое вычисление легко выполняется на основе тысяч аудиофайлов. Затем высчитать, какая доля отмечена как подозрительная. В данном случае не имеет значения, действительно ли человек болен. В символах у нас получится следующее:

В качестве альтернативного способа, если вы знаете частоту ложных срабатываний датчика (группа не больных людей, но у которых отмечено наличие подозрительного кашля), то вам и не нужно измерять это, можно посчитать напрямую.

Предположим, что частота ложных обнаружений равна 5%, то есть детектор ошибочно определил 5% не больных коронавирусом людей как имеющих подозрительный кашель. Вы можете разбить вычисление вероятности вероятность (подозрительный кашель) на две части. Мы знаем, что 2% людей больны коронавирусом, а детектор верно определил, что у 95% из них подозрительный кашель. Также мы знаем, что остальные 98% населения не заражены. Детектор ошибочно определил 5% из них как имеющих подозрительный кашель. Следовательно, доля людей, идентифицированных корректно или нет на наличие кашля, составляет (0,02 × 0,95) + (0,98 × 0,05), итого 0,068. То есть при помощи детектора у 6,8% населения обнаружен подозрительный кашель. Получается, что вероятность (подозрительный кашель) = 0,068.

Теперь мы можем использовать все три вероятности для вычисления точности детектора. И все это благодаря прекрасным взаимоотношениям между четырьмя вероятностями, которые Байес сам же и установил. Это настолько просто, что мы можем вывести формулу самостоятельно буквально с нуля.

Предположим, что мы проверили наш детектор на тысяче человек. Учитывая, что 2% населения больны COVID–19 (помним, что вероятность (есть коронавирус) = 0,02), то у 20 человек из 1000 вирус будет обнаружен. Также мы знаем, что детектор не идеален и только лишь 95% из этих 20 действительно будут идентифицированы как имеющие подозрительный кашель (помним, что вероятность (подозрительный кашель | есть коронавирус) = 0,95). 95% от 20 равно 19. Соответственно, наш детектор отметит 19 больных из 20 как имеющих подозрительный кашель.

Мы также знаем, что у 6,8% населения детектор выявляет подозрительный кашель (помним, что вероятность (подозрительный кашель) = 0,068). Из этого следует, что из 1000 протестированных 68 получат отметку о подозрительном кашле. Но мы только что вычислили, что только 19 из тех, кто отмечен, действительно больны коронавирусом. Таким образом, доля тех, кто подозрительно кашляет и кто болен, составляет 19/68 или 0,279. Таким образом, 27,9% из тех, кто идентифицирован системой на признаки подозрительного кашля, на самом деле больны.

В действительности, не имеет значение количество протестированных. Такой же результат мы получим, если исходное количество будет 10 000 или 100 000. Теорема Байеса систематизирует это рассуждение, говоря нам, что эти четыре вероятности связаны простым и красивым уравнением:

Таким образом, хотя наша система правильно определяет 95% людей как больных коронавирусом и имеющих подозрительный кашель, вероятность того, что случайный человек, у которого детектор выявил подозрительный кашель, действительно болен COVID–19, составляет всего лишь 27,9%. Иными словами, в большинстве случаев, когда детектор обнаруживает человека с патологическим кашлем, у него нет коронавируса. И наш детектор оказывается не очень-то и хорош!

Проблема заключается в том, что большинство людей не инфицировано коронавирусом. Следовательно, проведение тестирования наугад, даже если тест на кашель максимально точен, скорее всего, даст большое количество ложноположительных результатов. Такие рассуждения важны не только для толкования полученных от детектора данных, но и могут использоваться в других системах на основе искусственного интеллекта от распознавания речи до рекомендаций фильмов. На самом деле, теорема Байеса настолько основополагающая в разработке программного обеспечения, что часто приравнивается по значимости к теореме Пифагора в геометрии [1]. Во многих системах искусственного интеллекта она стала неотъемлемой составляющей для расчета вероятностей. Из всего вышесказанного вытекает шестая основная идея, используемая в разработке искусственного интеллекта сегодня. Можно вычислить вероятность события, имея наблюдение о нем, с помощью теоремы Байеса.

Теорема Байеса сегодня находит множество применений в различных областях. Например, благодаря ей спам приходит на вашу электронную почту реже, чем раньше, поскольку в функционал встроен фильтр, использующий теорему Байеса для вычисления вероятности того, что новое письмо является спамом. Рекомендации на стриминговом сервисе Netflix также используют теорему, чтобы вычислить вероятность того, что определенный фильм понравится вам. Такие предсказания достаточно точны. Четыре фильма из пяти, которые смотрят на сервисе не те, что целенаправленно вбиваются в поиск, а рекомендованные ИИ [2]. В 1970-е годы ВМС США использовали теорему Байеса для вычисления возможных траекторий советских атомных подводных лодок.

Илл. 24. Преподобный Томас Байес

К сожалению, нам известно очень мало о математическом вдохновителе такой значимой идеи. Преподобный Томас Байес родился в 1701 или 1702 году, вероятнее всего, в Хартфордшире. После изучения логики и теологии в университете Эдинбурга он стал пресвитерианским священником. Он скончался в 1761 году и за всю жизнь опубликовал всего лишь две работы: трактат о богословии и обоснование системы вычислений Ньютона. Работа на тему вероятности была опубликована спустя два года после смерти Байеса его другом, математиком и коллегой-теологом преподобным Ричардом Прайсом[81]. Прайс считался великим валлийским философом всех времен, внеся значительный вклад в развитие концепций в таких областях, как теология, экономика и финансы, теория вероятности и страхование жизни [3]. Возможно, Байес не был таким продуктивным, но тем не менее одна идея о вычислении вероятности сделала его одним из самых влиятельных математиков за всю историю.

Мы подошли к проблеме курицы и яйца, прекрасному примеру, иллюстрирующему широкий спектр применения идеи Байеса. В области искусственного интеллекта существует метод под названием SLAM, метод одновременной локализации и картографирования.

Предположим, что вы представитель компании Waymo и хотите создать беспилотный автомобиль. Установив дорогой лидар[82] на крыше автомобиля, вы можете использовать данные с этого и других датчиков для того, чтобы составлять карту окружающего мира, определяя препятствия в виде пешеходов и велосипедистов, которые не могут быть обнаружены при помощи GPS, и устанавливать точное местонахождение транспортного средства при смене картинки окружающего мира.

Именно здесь мы сталкиваемся с проблемой курицы и яйца. Невозможно определить собственное местонахождения без актуальной карты. И также невозможно создать актуальную карту без определения, где находитесь вы и датчик. Каким-то образом необходимо решить две задачи одновременно. В этом случае нам поможет технология SLAM, использующая идею Байеса о синхронном обновлении возможного местоположения автомобиля и объектов на карте.

На самом деле, возможно, что исследователи искусственного интеллекта неумышленно воссоздают части человеческого мозга. Доказано, что гиппокамп, часть головного мозга, отвечающая за пространственное мышление и память, оказывается вовлечен и в вычисления по типу SLAM[83].

Беспилотные автомобили в значительной степени опираются на карты высокой четкости и GPS. Проблема заключается в том, что не всегда можно далеко уехать, используя GPS, так как карты не обновляются, препятствия в виде пешеходов, велосипедистов и машин не отображаются на картах, и система навигации может зависнуть во время движения по улицам в окруженных зданиями кварталах или туннелям, а беспилотным автомобилям необходимо иметь отображение местности.

Stanley, беспилотный автомобиль, выигравший два миллиона долларов в заезде по пустыне Мохаве в 2005 году, использовал технологию SLAM для определения и составления карты окружающей территории, считывая данные с нескольких датчиков: лидара, GPS, камер и гироскопов. Таким образом, он мог создавать высокоточные 3D-карты пространства с точностью до 4–5 сантиметров.

Однажды такие беспилотные автомобили, как Stanley, значительно сократят количество дорожных происшествий и потребление энергии, смогут оптимизировать расположение автомобилей на загруженных дорогах и позволят пассажирам быть более продуктивными и мобильными, особенно вопрос мобильности касается тех, кто лишен ее ввиду возраста или ограниченных возможностей. Почему же требуется так много времени на создание полноценных беспилотных транспортных средств? Общество автомобильных инженеров выделяет пять уровней автономности. Если считать с нуля, то все шесть.

• Уровень 0 (Автоматизация отсутствует). Все находится под человеческим контролем, даже если автомобиль оборудован такими системами, как автоматическое экстренное торможение.

• Уровень 1 (Помощь водителю). Автомобиль помогает с рулевым управлением или ускорением/торможением, используя данные об условиях вождения. Тем не менее человек все еще отвечает за выполнение большинства задач.

• Уровень 2 (Частичная автоматизация). Автомобиль контролирует как рулевое управление, так и ускорение и торможение, но водитель все еще вовлечен в процесс, поскольку должен следить за дорогой.

• Уровень 3 (Условная автоматизация). Автомобиль справляется с функциями вождения в определенных условиях, но водитель должен быть готов перенять их при необходимости.

• Уровень 4 (Высокая автоматизация). Автомобиль выполняет все функции и следит за дорогой, но только в определенных условиях или на определенной местности. В этих случаях вмешательство человека не требуется, но в некоторых других ситуациях оно может быть необходимо.

• Уровень 5 (Полная автоматизация). Автомобиль выполняет все функции вождения в любых условиях без вмешательства человека.

На данный момент самые продвинутые беспилотные автомобили, доступные в продаже, находятся где-то между третьим и четвертым уровнями. К слову, беспилотные такси, вводимые в эксплуатацию в Сан-Франциско и некоторых других городах США, имеют четвертый уровень. Тем не менее достичь пятого уровня полной автоматизации – все еще задачка со звездочкой, несмотря на обещания Илона Маска. Потребуется решить некоторые проблемы, связанные с неблагоприятными погодными условиями, непредсказуемым человеческим поведением и редкими чрезвычайными ситуациями.

В 2017 году Volvo представила на рынок Австралии полуавтономный автомобиль, который не мог опознать кенгуру[84]. Такая ошибка потенциально опасна, что знает каждый, кто хотя бы раз сталкивался с кенгуру на австралийской проселочной дороге. Проблема в том, что алгоритм SLAM не был настроен на распознавание и отслеживание прыгающих животных, только лишь на тех, кто ходит или бегает.

Другая сложность заключается в знаменитой «проблеме вагонетки», которая сильно будоражит общество, но не экспертов. Что произойдет, если беспилотный автомобиль повернет за угол и обнаружит посередине проезжей части маму с ребенком? Свернет ли он с дороги, тем самым вызвав столкновение с кирпичной стеной, отчего пострадают пассажиры? Или наедет на пешеходов, что может стать причиной их смерти?

Проблема вагонетки – этическая дилемма касательно сошедшего с рельсов трамвая, сформулированная в 1967 го-ду английской писательницей и философом Филиппой Фут[85]. Пять человек лежат связанными на путях, по которым движется трамвай, а вы стоите рядом со стрелкой. Если вы опустите рычаг, то трамвай перейдет на другой путь, на котором также лежит связанный человек. Вам нужно сделать выбор: не делать ничего, и тогда под трамваем погибнут пять человек, или дернуть рычаг, переведя трамвай на другой путь, что повлечет за собой смерть только одного человека. Что вы выберете?

Существует множество интерпретаций этой дилеммы, включая «проблему толстяка», которого столкнули с моста, чтобы ценой его жизни спасти несколько других, а также пересадку органов живых людей без их согласия во благо других. И действительно, сегодня философы поговаривают о таком разделе этики, как «вагонеткология». Фут представила проблему вагонетки как способ более конструктивного обсуждения морально-этических вопросов, связанных с допустимостью аборта. Например, считается ли прерывание беременности обоснованным, если на кону жизнь матери?

Думаю, что с решением этой проблемы мы успешно справимся, в результате чего окажемся на пятом уровне полной автоматизации. В конце концов, беспилотные автомобили обладают массой преимуществ по сравнению с теми, что управляются человеком. Они активируют сенсоры для картографирования в неблагоприятных погодных условиях и темноте, реагируют с электронной, а не биологической скоростью, никогда не устают, не отвлекаются и не находятся в состоянии алкогольного опьянения. Раз уж подростки могут научиться, я почти не сомневаюсь, что и компьютеры тоже будут водить.

Эксперты по-разному оценивают время, которое нам понадобится, чтобы достичь пятого уровня. Оптимисты предполагают, что потребуется от пяти до десяти лет, другие же считают, что это займет десятки лет. Отчасти срок достижения цели будет зависеть от нашей терпимости к ущербу, который причиняет искусственный интеллект в сравнении с тем, что причиняет человек. Вне зависимости от того, сколько времени это займет, надеюсь, что, в конце концов, оглянувшись назад, мы будем поражены тем, что позволяли людям садиться за руль и устраивать кровавые происшествия на дорогах. И все это благодаря преподобному Томасу Байесу.

«То, что мы имеем сейчас, не значит, что так будет всегда. Говоря о моделях искусственного интеллекта, то, что имеем сейчас, улучшится с такой космической скоростью, с которой не развивалась ни одна предыдущая технология. Единственное, с чем мы все согласны, так это с тем, что мы живем в чертовски странное время».

Стивен Фрай[86] на международном фестивале CogX Festival в сентябре 2023 года

Таким образом, мы добрались до сегодняшнего дня. Сейчас невозможно открыть газету, не прочитав истории о вмешательстве искусственного интеллекта в нашу жизнь. В большинстве случаев заголовки тревожны, негативны и вызывают всеобщую истерию.

Безусловно, история искусственного интеллекта все еще в процессе написания. Существующие сейчас системы искусственного интеллекта, конечно, впечатляют, а порой настораживают, но все же мы пока очень далеки от нашей конечной цели: достичь уровня человеческого интеллекта во всем его многообразии. Не сомневаюсь, что спустя 10, 50 или даже 100 лет мы достигнем ее. И, достигнув уровня человеческого интеллекта, мы, вероятно, значительно превзойдем его. Было бы невероятно самонадеянно полагать, что мы не сможем этого сделать. После всего проделанного, что такого особенного в человеческих способностях? В узкоспециализированных областях, например шахматах, чтении рентгеновских снимков или прогнозировании неисправностей, искусственный интеллект уже превзошел среднестатистического человека.

Не первый раз технологии кажутся нам разрушительными. Многие из них – от парового двигателя до электричества – уже кардинально изменили наш образ жизни. Как и все предыдущие инновации, искусственный интеллект преобразует все области нашей жизни: как мы рождаемся, живем, работаем, играем и умираем. Но в одном революция искусственного интеллекта все же будет отличаться, а именно скоростью, с которой она трансформирует все вокруг.

Промышленная революция заняла более 50 лет, а электрификация несколько десятилетий. Даже интернету потребовалось около десяти лет, чтобы успешно войти в жизнь, поскольку нужно было обеспечить людям доступ к сети. Но революция искусственного интеллекта – совсем другая история. Мы уже подготовили техническую базу, а вам требуется только указать URL-адрес или описать необходимые параметры для работы какого-либо сервиса искусственного интеллекта и можно приступать к работе. В сектор искусственного интеллекта инвестируются колоссальные суммы. В 2024 году ежедневно в разработку вкладывается около миллиарда долларов США. Ранее не наблюдалось сфер с такими внушительными инвестициями. Тем не менее ИИ начинают окупаться. Спустя год после запуска ChatGPT доходы OpenAI выросли с нуля до миллиарда долларов в год, а стоимость компании оценивается в 100 миллиардов долларов[87]. В истории капитализма никогда не наблюдалось столь впечатляющего роста. Область искусственного интеллекта – самая крупная золотая лихорадка. С точки зрения прибыли и рыночной стоимости OpenAI – самая быстро растущая компания из когда-либо существовавших.

Часто говорят, что мы живем в эпоху экспоненциального роста. С 1950-х годов мощность компьютеров удваивается примерно каждые два года. Это то, что мы называем законом Мура. Количество данных в сети, имеющих первостепенную значимость для таких технологий, как машинное обучение, также удваивается каждые пару лет. А многие основополагающие алгоритмы на основе трансформеров кратно увеличили производительность за последние несколько лет.

Однако существует другой экспоненциальный рост, о котором мало говорят. Рост науки в целом. Ни в одной области это не ощущается так, как в секторе искусственного интеллекта. По данным ежегодного отчета Стэнфордского университета AI Index от 2024 года, количество опубликованных работ, посвященных исследованиям искусственного интеллекта, за последние пять лет удвоилось [1], равно как и число поданных и выданных патентов. Следовательно, ожидается, что существенная масса ограничений в существующих системах будет устранена уже в ближайшем будущем. И если это действительно так, то возникает вопрос: куда это все приведет?

Одной из невероятно притягательных конечных целей искусственного интеллекта является технологическая сингулярность. Эта идея восходит глубоко в 1950-е к выдающемуся Джону фон Нейману, одному из отцов информатики. Он предупредил, что «постоянно ускоряющийся технический прогресс и изменения в образе жизни человека создают видимость приближения к какой-то некой сингулярности, за пределами которой привычный образ жизни уже невозможен» [2]. Недавно сингулярность начала популяризироваться благодаря писателю-фантасту Вернору Винджу[88], футурологу Рэймонду Курцвейлу[89], философу Нику Бострому[90] и другим.

Сингулярность искусственного интеллекта – та точка, где будут развиты настолько умные системы, что смогут самостоятельно последовательно обновляться, улучшая свои способности. Такие усовершенствованные, более смышленые технологии смогут совершенствоваться снова и снова, создавая эффект снежного кома. В отличие от биологической эволюции, на которую потребовались тысячи лет, это рекурсивное улучшение может произойти в одночасье, создав искусственный интеллект, внезапно значительно превосходящий человеческий.

Но что же препятствует дальнейшему развитию человечества? Проблема заключается в том, что мы больше не будем самыми разумными существами на планете, а люди стали доминирующим видом как раз благодаря развитым умственным способностям. Мы не были самыми быстрыми или сильными животными, но были самыми сообразительными. Мы использовали свои способности для создания языка, чтобы общаться и взаимодействовать друг с другом, мы придумали инструменты, чтобы усилить возможности мышц, и это позволило нам управлять планетой. Участью других, менее развитых интеллектуально видов, стала зависимость от человечества.

Аналогичным образом, если искусственный интеллект превосходит наш, то наша участь зависит от благосклонности машин. Не то чтобы у технологий были плохие намерения. Если мы строим новый жилой комплекс и на нашем пути попался муравейник, мы просто сносим его. Муравьи не настолько важны для нас, чтобы заботиться о том, что может случиться с ними. Точно так же, как муравьи не могут противодействовать человеку, можем ли мы быть уверены, что сможем противостоять более развитому, чем наш, интеллекту?

Позвольте привести несколько идей о надвигающейся сингулярности, которые помогут не впадать в панику. Во-первых, мы можем оказаться в тупике, поскольку существуют естественные пределы многих физических явлений. Альберт Эйнштейн учил нас, что невозможно превысить скорость света, а Вернер Гейзенберг – что на квантовом уровне невозможно определить одновременно положение и момент импульса частиц. Возможно, есть физические ограничения интеллекта? Мир непредсказуем, и эта неопределенность ограничивает, насколько умным вы можете быть. Не имеет значения, насколько вы умны, поскольку есть предел того, насколько хорошо вы можете играть в казино. На самом деле, самая умная вещь, которую вы можете там сделать, так это выйти оттуда!

Во-вторых, неудивительно, что эрудированные люди придают огромное значение интеллектуальным способностям, но наша суперсила – не интеллект, а общество. Наша способность сплотиться и работать вместе помогла нам выполнять больше работ, чем мы могли бы выполнить в одиночку. Конечно, без интеллекта этого бы не случилось, у нас бы не было языка и возможности общаться, а следовательно, не получилось бы хорошо взаимодействовать друг с другом. Без нашей способности распределять задачи и решать их сообща мы не были бы такими эффективными. Большинство из нас не смогло бы выжить на необитаемом острове. Поэтому интеллект – это не то, чего нужно бояться, а то, что помогает нам выжить.

В-третьих, интеллект, превосходящий человеческий, уже существует и не причинил никакого вреда. На самом деле, даже наоборот. Наш прогресс находится на таком высоком уровне благодаря этому интеллекту, превосходящему интеллект отдельного человека. Это коллективный интеллект человеческих институций, например как в корпорациях и правительствах. Ни один человек не знает, как построить атомную электростанцию, но сообща люди, которые работают в Westinghouse Electric или General Electric Hitachi, и их подрядчики обладают этими знаниями.

Несомненно, сингулярность – интересная возможность. Нам действительно нужно смириться с тем, что технологии будут умнее нас, и подумать о последствиях. Но, возможно, это далеко не самый большой риск, который представляет собой искусственный интеллект.

Один из серьезных рисков – это влияние искусственного интеллекта на сферу труда. Сенсационные заголовки регулярно предупреждают о технологической безработице и делают прогнозы, в соответствии с которыми искусственный интеллект может лишить работы половину населения. Как всегда, реальность, скорее всего, будет гораздо многограннее.

Одно из самых ранних и подробных исследований было опубликовано Оксфордской школой Мартина[91] при Оксфордском университете в сентябре 2013 года. По прогнозу, сделанному в данном исследовании, 47% рабочих должностей в Соединенных Штатах находятся под угрозой автоматизации [3]. Похожие исследования, основанные на данных из других стран, пришли к схожим выводам. С Оксфордским отчетом во многом можно поспорить, но даже если вы и согласны с приведенными в нем заключениями, не спешите думать, что останетесь без работы. На то есть веские причины.

Во-первых, Оксфордский отчет лишь оценивал количество рабочих мест, подлежащих автоматизации. Но на практике некоторые из них едва ли будут заменены технологиями по экономическим, общественным, техническим и многим другим причинам. Например, функции пилота самолета сегодня практически полностью автоматизированы. В большинстве случаев самолетом управляет компьютер. Но общество, скорее всего, и дальше будет требовать присутствия пилота на борту, даже если он большую часть времени будет просто читать свой iPad. Еще один пример, Оксфордский отчет оценивает в 94% вероятность того, что ремонт велосипедов будет автоматизирован. Однако такой процесс будет достаточно сложным и дорогим, следовательно, экономически невыгодным. И я еще ни разу не встречал специалиста, пытающегося создать робота для починки велосипедов.

Во-вторых, нам следует задуматься о том, что технологии откроют возможности для создания новых рабочих позиций. Например, сейчас мы не нанимаем наборщиков текста. Вместо этого наш штат состоит из сотрудников, занимающих высокотехнологичные должности, например разработчиков веб-сайтов. Конечно, если вы специалист по печати и ваши функции переданы машине, то при наличии соответствующего образования переквалифицироваться на новую специальность не составит труда.

В-третьих, некоторые профессии будут только частично автоматизированы, что на самом деле повысит нашу эффективность. Например, в отчете Оксфордского университета вероятность автоматизации профессии геолога оценивается в 63%. Однако автоматизация, скорее всего, позволит геологам больше заниматься непосредственно геологией или выполнять больший объем работ. В действительности, по прогнозам Министерства труда США, число геологов через десять лет увеличится на 10%, поскольку мы стремимся более эффективно использовать сокращающиеся природные ресурсы планеты.

В-четвертых, нам также стоит подумать, как изменится рабочая неделя через несколько десятилетий. С началом промышленной революции в большинстве стран развитого мира количество рабочих часов в неделю значительно сократилось. В Соединенных Штатах средняя продолжительность рабочей недели упала с 60 до 33 часов. В других развитых странах этот показатель еще ниже. В Германии работают 26 часов в неделю. Если такая тенденция продолжится, то нам нужно будет создать больше рабочих мест, чтобы компенсировать потерянные часы.

Часто люди забывают, что выходные дни были придуманы во время промышленной революции. Рабочие требовали выходной в воскресенье для походов в церковь, а затем и в субботу, чтобы просто отдохнуть. Но по причинам, мне неизвестным, мы перестали просить больше. Однако сейчас во всем мире проводятся исследования, посвященные переходу на четырехдневную рабочую неделю, по результатам которых люди, работающие четыре дня, более продуктивны и чувствуют себя счастливее, чем те, кто трудится все пять. Как вам такое?

В-пятых, нам также не следует забывать о демографии. В большинстве развитых стран население стареет. Это означает, что доля пожилых людей в общей численности населения увеличивается, а количество работоспособного населения уменьшается. Повышение производительности за счет искусственного интеллекта необходимо как минимум для того, чтобы удержать нашу экономику на плаву, а пенсионеров обеспечить выплатами.

Тем не менее сложно предсказать наверняка, сколько из нас действительно останутся без работы по вине технологий, но точно не половина населения. Общество в современном его виде изменится задолго до того, как мы достигнем 50-процентного уровня безработицы. Искусственный интеллект, тем не менее, окажет огромное влияние на занятость, и нам нужно начать планировать и принимать меры по предотвращению этого сбоя уже сегодня.

В заключение хотелось бы отметить, что при всей автоматизации рабочего процесса сегодня все еще существует большое количество профессий, которые мы не ценим и не оплачиваем должным образом, например в сфере ухода за пожилыми или людьми с ограниченными возможностями. В большинстве случаев такая работа выполняется женщинами, и в будущем, когда ИИ обеспечит значительный рост производительности, появится возможность повышения заработной платы сиделкам. Какое прекрасное будущее могло бы быть!

Сегодня нас беспокоит не только вопрос трудовой деятельности, многие другие сферы также подвержены влиянию искусственного интеллекта. У развития высоких технологий две стороны медали. Наряду с такими весомыми преимуществами, как совершенствование медицины и системы образования, приходит и много рисков.

В августе 2023 году Специальный комитет палаты общин по науке, инновациям и технологиям проделал колоссальную работу и выделил несколько главных вызовов, которые бросает нам искусственный интеллект [4].

• Проблема предвзятости. Искусственный интеллект может создавать или закреплять предубеждения, которые общество считает неприемлемыми.

• Проблема конфиденциальности. Искусственный интеллект способен идентифицировать личность или предоставлять персональные данные о человеке сверх дозволенного.

• Проблема искажения фактов. Искусственный интеллект может создавать материалы, содержащие ложное представление о чьем-либо поведении, мнении или характере, а также искаженные сведения в таких важных вопросах, как климат или политические партии.

• Проблема доступа к данным. Самые мощные системы искусственного интеллекта требуют доступ к огромным массивам данных, принадлежащим нескольким организациям.

• Проблема доступа к компьютеру. Самые мощные системы искусственного интеллекта требуют больших вычислительных мощностей, которые доступны только некоторым организациям.

• Проблема черного ящика. Модели искусственного интеллекта зачастую не способны объяснить, почему они выдали тот или иной результат.

• Проблема открытых источников. Сделав код разработки искусственного интеллекта общедоступным, мы будем способствовать прозрачности и инновациям, но в то же время это позволит злоумышленникам воспользоваться им в своих целях. С другой стороны, если права собственности будут только у узкого круга лиц, то это может привести к злоупотреблениям властью.

• Проблема интеллектуальной собственности и авторского права. Большие модели часто обучены на данных, защищенных авторским правом, без ведома правообладателя, не говоря уже об отчислениях ему за пользование ими. Все еще непонятно, кто владелец выходных данных.

• Проблема материальной ответственности. Если модели искусственного интеллекта используются третьими лицами для причинения вреда, должна быть создана правовая система, регулирующая права и ответственность за совершение противоправного деяния.

• Проблема трудоустройства. Как мы обсуждали выше, искусственный интеллект вмешается в рабочий процесс, к которому мы привыкли сегодня. И нам необходимо внимательно контролировать изменения, которые произойдут вследствие такого воздействия.

• Проблема международного сотрудничества. Искусственный интеллект разрабатывают во всем мире, следовательно, должны быть определенные структуры управления и регулирования, предусмотренные международным сообществом.

• Проблема вымирания. Искусственный интеллект может поставить под угрозу вымирания вид человека в целом.

Это довольно-таки тревожный и в то же время неполный список сложностей. Сюда можно также добавить проблему окружающей среды, так как в процессе работы больших моделей искусственного интеллекта выделяется углекислый газ и используется вода для охлаждения. Демократический вопрос также может быть поднят в результате развития технологий, использующихся для влияния на избирателей и подтасовки результатов выборов по всему миру. На самом деле, большинство «проблем будущего» уже существуют в настоящем. Например, в США уже подано несколько коллективных исков о нарушении авторских прав и защите интеллектуальной собственности против компаний, разрабатывающих искусственный интеллект. Могут ли компании технического сектора использовать огромное количество материалов, защищенных авторским правом, для обучения больших языковых моделей без согласия или компенсации правообладателю? Справедливо ли так поступать?

Невозможно предположить, как будут развиваться такие судебные дела. Предыдущие судебные процессы, которые могли бы помочь создать прецеденты, сработали в обе стороны. В 2013 году компания Google выиграла дело, поданное Американской гильдией писателей. По результатам судебного разбирательства сканирование и суммирование миллионов текстов, выполненное Google Books, признано добросовестным. Верховный суд США в 2016 году оставил постановление без изменений. Однако в 2001 году платформа Napster прекратила свою деятельность после проигрыша в нескольких судебных процессах о нарушении авторских прав, несмотря на выявление и блокировку 99,4% материалов, подпадающих под категорию неправомерных.

Тем не менее ясно одно – предстоящий путь будет тернистым.

Когда меня спрашивают, оптимист я или пессимист касательно сложностей, вызванных искусственным интеллектом, я отвечаю, что все вместе. Я оптимист ввиду последних преимуществ, приобретенных не так недавно благодаря технологиям, но в то же время и пессимист. К сожалению, наши дети унаследуют совсем другой мир, отличный от того, в котором родились мы, и все из-за череды сложностей, некоторые из которых вызваны искусственным интеллектом, например технологическая безработица и недоверие к тем самым институтам, в которых мы сейчас больше всего нуждаемся.

Следующее десятилетие, а может, даже и не одно, будет сложным. Технологии, включая искусственный интеллект, помогут нам решить массу проблем. Но, чтобы действительно получить пользу от искусственного интеллекта, нужно помнить об истории. Социальные сети, например, должны были стать тревожным сигналом о том, как технологии могут нарушить нашу жизнь. Сейчас мы на пороге того, чтобы искусственный интеллект нарушил нашу жизнь еще существеннее, став частью наших будней. Если мы не хотим допустить этого, то лучше бы нам извлечь уроки из прошлого.

Возможно, эта книга – неплохое место, чтобы начать?