Тоби Уолш

Искусственный интеллект. Краткая история будущего

Часть 1

Тоби Уолш

Toby Walsh

The Shortest History of AI

. ООО «Издательство АЗБУКА», 2026 КоЛибри®

* * *

Посвящается Андреа

Как все начиналось

История искусственного интеллекта (ИИ) началась в понедельник, 18 июня 1956 года.

18 июня – Международный день паники, кажется, весьма подходящий день, чтобы человечество начало разработку искусственного интеллекта. Это день, в который рекомендуется игнорировать легендарный совет писателя Дугласа Адамса[1]:

«В просвещенных и расслабленных цивилизациях Внешнего Восточного Кольца Галактики “Путеводитель” вытеснил даже великую “Большую Галактическую Энциклопедию” в качестве общепризнанного кладезя мудрости и знаний. Ибо, несмотря на обилие пропусков и вопиюще искаженной, а то и просто-напросто апокрифической информации, “Путеводитель” обладает двумя важнейшими преимуществами перед “Энциклопедией”.

Во-первых, он дешевле. Во-вторых, на титульном листе крупными буквами выведены сакраментальные слова: “НЕ ПАНИКУЙ”»[2].

Другой автор, Артур Чарльз Кларк[3], предположил, что совет «Без паники», возможно, лучший, который можно дать человеческой расе. А в 2018 году SpaceX запустили старенькую Tesla Roadster Илона Маска в космос, на приборной панели которой была надпись «БЕЗ ПАНИКИ».

Возможно, сейчас вы будете удивлены, но история искусственного интеллекта уходит глубоко в 1950-е. Кажется, что это было очень давно. И это время с легкостью вызывает ностальгию. Время, когда начались движения за гражданские права, когда поствоенный мир наслаждался периодом экономического восстановления и стабильности, а Heartbreak Hotel Элвиса Пресли возглавлял музыкальные чарты. Как я уже сказал, это было довольно-таки давно. Скорее всего, в 1956 году вы еще не родились. Даже я еще не родился. Большую часть своей жизни я грезил об искусственном интеллекте – наверное, потому, что в детстве я читал слишком много научной фантастики. Тогда я любил читать Артура Чарльза Кларка и Айзека Азимова[4]. Они писали о будущем, роботах и умных компьютерах. Кажется, это будущее наступает.

В конце 2022 года компания OpenAI запустила Chat GPT, чат-бот c генеративным искусственным интеллектом. Это было настолько неожиданно, что, открыв новости, нельзя было не встретить множество статей, посвященных ИИ. Многие из нас забеспокоились, даже правительства начали поддаваться панике. К чему все это приведет?

Но реальность была такова, что, как и в большинстве случаев, за таким молниеносным успехом стоят долгие годы работы. На самом деле, искусственный интеллект десятилетиями был частью нашей жизни, но об этом вы узнаете чуть позже. До появления ChatGPT другие его примеры не были столь заметны в повседневной рутине.

Наверное, сейчас вы тоже удивитесь, но у искусственного интеллекта есть точная дата рождения. У большинства научных дисциплин такой конкретной даты нет, но искусственный интеллект – совсем другая история. В понедельник, 18 июня 1956 года, начался восьминедельный научный семинар, целью которого было создание умных машин. Это событие ознаменовало начало работ в области искусственного интеллекта.

Семинар проводился в кампусе Дартмутского колледжа, члена Лиги плюща в милом городке Хановер, штате Нью-Гэмпшир. Колледж был основан в 1769 году для обучения индейцев теологии и английскому стилю жизни. Однако к 1956 году Дартмутский колледж позабыл о коренных американцах, христианском богословии и традиционном британском укладе и превратился в одно из самых престижных учебных заведений Соединенных Штатов. И действительно, колледж был настолько «избирательным», что не принимал на учебу женщин вплоть до 1972 года. Вот и в 1956-м семинар был исключительно мужским мероприятием. К сожалению, женщины до сих пор редко встречаются в сфере искусственного интеллекта. Эта проблема, которую необходимо решить окончательно. Однако, несмотря на все усилия, она все еще остается актуальной.

Илл. 1.Молодой Джон Маккарти

Дартмутский семинар организовал Джон Маккарти[5], молодой доцент колледжа, движимый амбициозной мечтой. Его мечта была стара как мир – построить машину, способную мыслить. Он пригласил группу коллег-единомышленников из Соединенных Штатов, Канады и Великобритании в Нью-Гэмпшир и предложил присоединиться к построению будущего, основанного на искусственном интеллекте.

К 1956 году компьютеры только начали становиться доступными. В конце 1954-го компания IBM представила легендарный IBM 650, первый компьютер массового производства. IBM 650 стал самым популярным компьютером в 1950-х и первым компьютером, принесшим коммерческий успех. В 1956 году наступил наиболее подходящий момент, чтобы задуматься, насколько далеко мы можем зайти в разработке этих цифровых существ. Смогут ли они когда-нибудь думать? Задаться таким вопросом было смело, но и Джон Маккарти был не из робких.

В 1962 году на базе Стэнфордского университета Джон Маккарти основал лабораторию, впоследствии ставшую всемирно известной за количество открытий в области исследований искусственного интеллекта. Например, в 2005 году лаборатория подарила нам Stanley, беспилотный автомобиль, выигравший два миллиона долларов на соревновании DARPA, самостоятельно проехав около 212 километров по пустыне Мохаве. Другим результатом деятельности лаборатории стала основанная в 1996 году малоизвестная компания BackRub, которая использовала искусственный интеллект для поиска в интернете. В 1997-м основатели решили, что первоначальное название было ошибкой и переименовали компанию в Google.

Пожалуй, Google было вариантом получше, чем BackRub, но тоже было ошибкой. Google – это опечатка в слове «гугол» (англ. googol), астрономически длинного числа, так любимого физиками. Гугол – это 10100, сумасшедше длинное число. При написании это единица со 100 нулями: 10 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000. Это больше, чем число атомов во вселенной, по сегодняшним оценкам, их насчитывается около 1080. На самом деле, гугол равен количеству байтов, которое ни одна технологическая компания не сможет проиндексировать, не переступив границы физических законов. На сегодняшний день Google охватывает лишь 1017 байт данных, но, кажется, склонность к громким обещаниям в Кремниевой долине – дело обыденное.

Мне выпала честь познакомиться с Джоном Маккарти. На самом деле это не настолько впечатляюще, как может показаться, поскольку сфера искусственного интеллекта удивительно мала. Stanford AI Index отмечает, что ежегодно в Соединенных Штатах и Канаде [1] выпускаются и остаются для дальнейших научных исследований менее 100 кандидатов наук в области ИИ. Поэтому не так сложно быть знакомым с одним из основателей. Собственно, я

Маккарти обладал выдающимися умственными способностями и твердыми политическими взглядами. Более всего он известен как автор термина «искусственный интеллект». Он предложил это название в качестве темы Дартмутского семинара 1956 года. Искусственный интеллект быстро сократили до AI, двухбуквенную аббревиатуру, содержащую говорящую об интеллекте гласную букву I и созвучную с другими похожими сокращениями, как IQ и EQ.

Искусственный интеллект был достаточно провокационной идеей для того времени, чтобы получить финансирование в размере 7500 долларов от Фонда Рокфеллера, благотворительного фонда, целью которого является содействие благополучию человечества путем вклада в развитие науки и инноваций. (Тем более что Фонд Рокфеллера не был полностью уверен в перспективах искусственного интеллекта по части содействия благополучию человечества, поскольку изначально запрашивалось 13 500 долларов, что практически вдвое больше полученной суммы.) Цель проведения семинара в заявке фонду обозначалась так:

«Каждый аспект обучения или любая другая особенность мышления может быть описана настолько точно, что мы можем создать машину, способную имитировать его. Будет предпринята попытка выяснить, как заставить машины использовать язык, абстрактное и концептуальное мышление, а также самосовершенствоваться и решать проблемы, которые в настоящее время устраняются людьми».

Если эта цель покажется не достаточно амбициозной, то было сделано смелое предсказание по срокам осуществления: «Мы думаем, что значительное преимущество может быть достигнуто при решении одной или нескольких проблем, если в течение лета над решением будет работать тщательно отобранная группа ученых». Это заявление, конечно, оказалось весьма оптимистичным. И даже сейчас многие критики утверждают, что разработчики ИИ с тех пор слишком много обещают и не оправдывают ожиданий.

Как вы, наверное, уже догадались, во время Дартмутского семинара не произошло существенного прорыва. Наделить машины способностью мыслить оказалось задачей, требующей более комплексного подхода, чем изначально предполагал Маккарти и его коллеги. Эта книга – краткая история наших усилий сделать то, что пытались сделать новаторы, то, что у них не получилось сделать тем летом. Тем не менее то знаковое мероприятие заставило говорить мир об искусственном интеллекте. Возможно, самыми выдающимися открытиями стали два простых, но чрезвычайно эффективных принципа создания ИИ. Первый подход заключался в использовании символов, тогда как второй подход говорил о разработке путем обучения. Данные принципы дали названия двум главным периодам в истории искусственного интеллекта: эре символизма, процветающей вплоть до 1990-х, и эре машинного обучения, начавшейся вслед за символизмом и производящей столько шума сейчас.

Эта краткая история поделена на две части. Как я ранее уже отметил, первая часть посвящена символическому искусственному интеллекту, периоду, когда компьютеры начали становиться победителями в шахматах и других человеческих играх. Но в то же время это была эпоха разочарований, когда мы осознали, насколько сложно выйти за рамки простых игр и разработать искусственный интеллект. Это должно нас несколько успокоить. Ведь мышление – вещь сложная, и создать его в «железе» также задача не из легких. Во второй части я рассказываю о том, что сейчас, в эру обучения, происходит в области таких разработок. Мы прекратили попытки запрограммировать искусственный интеллект вручную, передав эту задачу самим компьютерам и позволив им обучаться самостоятельно. В точности как мы с ваминаучилисьвыполнять множество, теперь уже обыденных, умственных задач, компьютеры теперь научились читать, писать и считать, что подводит нас к таким современным и успешным технологиям, как ChatGPT, чат-боту на базе искусственного интеллекта, способному прочитать большую часть интернета.

Нетипично для истории, но в заключение я обращаю внимание на будущее. История искусственного интеллекта только начинается. Что будет, когда мы действительно наделим машин способностью думать? Сколько времени для этого потребуется? И станет ли искусственный интеллект угрозой человечеству?

Эта история сама по себе далека от привычного рассказа. Обычно повествуют о жизни выдающихся личностей или описывают прорывные события, но только не эта история. Речь пойдет всего лишь о шести идеях. Вот так. Всего лишь шесть идей. Все, что вам нужно знать об искусственном интеллекте сегодня, – эти шесть идей, каждой из которых посвящена отдельная глава. Чтобы дать вам правильное представление об ИИ, я не буду замалчивать некоторые технические подробности. Это покажет вам, что здесь гораздо меньше волшебства, в котором вас пытаются убедить СМИ.

Конечно, в ходе моего рассказа вам встретятся знаковые фигуры, такие как Джон Маккарти и человек, изображенный на 50-фунтовой банкноте, еще более выдающийся Алан Тьюринг[7]. Вы также узнаете о многих переломных моментах, например о том, как впервые искусственный интеллект превзошел человеческий на мировом чемпионате.

Прежде чем я начну, хочу повторить предостережение, которое в 1962 году сделал Артур Сэмюэл[8], один из участников Дартмутского семинара и автор программы для игры в шашки, первой продемонстрировавшей возможности машинного обучения:

«В любой революции есть место безумцам – верящим в магию людям или энтузиастам, поглощенным своим делом. Все они делают дикие заявления, которые могут опорочить всю затею. Возможно, в области искусственного интеллекта таких людей больше, чем в каких-либо других… Тем не менее кажется очевидным, что приближается то время, когда большинство рутинных умственных задач, отнимающих столько человеческого времени, будут выполняться машинами. Искусственный интеллект – это не миф и тем более не угроза человечеству» [2].

Позвольте помочь вам разобраться с фанатиками, сенсационными заявлениями, мифами и угрозами, связанными с искусственным интеллектом, с помощью этой довольно личной и короткой истории.

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В КИНЕМАТОГРАФЕ

Киноиндустрия повлияла как на восприятие искусственного интеллекта, так и на его создание. Например, компания OpenAI безуспешно попыталась приобрести права на использование голоса Скарлетт Йохансон для озвучки голосового режима ChatGPT – так же как это было в фильме «Она», где Скарлетт озвучила операционную систему Саманта. Ниже приведены еще несколько известных примеров из кино.

«Метрополис» (1927). Один из первых научно-фантастических полнометражных фильмов, классика Фрица Ланга[9]. Действие антиутопии разворачивается в мрачном городе Метрополисе, где безумный ученый Ротванг создает человеко-машину – робота-гуманоида с целью подменить им девушку Марию, любимицу угнетенных рабочих.

«Запретная планета» (1956). В этом классическом научно-фантастическом фильме робот Робби – высокоразвитый, самостоятельный и дружелюбный механический слуга. Робби в качестве гостя появляется также в ряде телесериалов, включая «Семейку Аддамс», где сыграл Смайли в эпизоде «Маленький помощник Ларча» (1966).

«Бегущий по лезвию» (1982). Tyrell Corporation создает репликантов, человекоподобных биороботов для работы во внеземных колониях. Они превосходят людей в физических способностях, а иногда даже и в умственных. Но, несмотря на их достоинства, в целях предотвращения развития эмоционального интеллекта

«Терминатор» (1984). В этом фильме искусственный интеллект Скайнет обретает свободу воли и воспринимает людей как угрозу своему существованию, и, чтобы защитить себя, устраивает Судный день и наносит ядерный удар. Скайнет отправляет Терминатора, практически несокрушимого киборга, назад, в прошлое, убить Сару Коннор и предотвратить рождение ее ребенка, который возглавит сопротивление людей в войне с машинами. В начале 2000-х Китай начал разработку Skynet, крупнейшей нейронной сети по распознаванию лиц. По данным китайской газеты People’s Daily, нейронная сеть может распознать более чем миллион лиц за секунду.

«Из машины» (2014). В этом фильме Ава – высокоразвитый гуманоид, обладающая интеллектом и способная к эмоциональным переживаниям и, возможно, даже к самопознанию. Естественное поведение и реалистичный внешний вид Авы стирает границы между человеком и машиной. Научным консультантом фильма был Мюррей Шанахан, профессор когнитивной робототехники в Имперском колледже Лондона и старший научный сотрудник компании DeepMind.

«Превосходство» (2014). Доктор Уилл Кастер, ученый и исследователь искусственного интеллекта, смертельно ранен технотеррористом. Его жена и друг решают загрузить сознание Уилла в суперкомпьютер. Рост возможностей получившегося искусственного интеллекта помогает преобразовывать общество, но в то же время начинает вызывает опасения, что однажды его сила станет неконтролируемой. Илон Маск играет в фильме эпизодическую роль, а год спустя он становится соучредителем OpenAI, компании, занимающейся разработками в области ИИ.

«Миссия невыполнима: Смертельная расплата» (2023). Вышедший из-под контроля искусственный интеллект «Сущность» угрожает мировой безопасности. Изначально созданный в качестве кибероружия спецслужбами США, он становится разумным и, обманув своих создателей, получает доступ к оборонной и финансовой системе. Вместе с отрядом «Миссия невыполнима» Итан Хант намеревается уничтожить «Сущность», который представляет серьезную угрозу, легко проникая в коммуникационные системы и имитируя человеческое поведение.

ПРЕДЫСТОРИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Датой рождения искусственного интеллекта считается Дартмутский семинар 1956 года, но уже задолго до этого люди задумались о построении умных машин. Однако до 1956 года без доступа к компьютерам мало что можно было сделать, чтобы воплотить эти мечты в реальность. Разве что быть исключительным гением.

Пожалуй, самым выдающимся умом, пришедшим к мысли о создании умных машин до 1956 года, был британский математик Алан Тьюринг. По версии журнала Time, Тьюринг вошел в сотню самых влиятельных людей XX века. Именно ему, больше чем кому-либо другому, мы благодарны за цифровой век, в котором сейчас живем[10].

Во время Второй мировой войны Алан Тьюринг помог сконструировать одно из первых практических вычислительных устройств, впоследствии красиво названное «Бомба»[11]. Устройство использовалось для взлома немецких кодов, зашифрованных с помощью «Энигмы». Этот математический подвиг сократил войну по меньшей мере на два года и спас миллионы жизней. В 1936 году до взлома шифров и до того, как кто-то на планетедействительнособрал электронный компьютер, Алан Тьюринг предложил модель абстрактной вычислительной машины, простой в исполнении, но чрезвычайно мощной, описывающей все от смартфона до самого быстрого суперкомпьютера.

Тьюринг хотел ответить на простой вопрос. Что может вычислить машина? Могут ли машины выполнить сложные математические вычисления и доказать, например, великую теорему Ферма? Или написать трогательный любовный сонет? По его мнению, если мы собираемся наделить машины умственными способностями, то необходимо знать, на что они способны. На этот вопрос Тьюринг дал избитый и простой ответ: машина может вычислить все, на что способна ее математическая модель. И соответственно, если что-то не может быть вычислено с помощью его математической модели, то увеличение мощности или быстроты компьютера делу не поможет. Математическая модель компьютера, предложенная Тьюрингом, вошла в историю под названием «машина Тьюринга». В довершение всего Тьюринг также обозначил ряд проблем, которые машина Тьюринга, а соответственно, и самый быстрый на сегодняшний день компьютерне смогутрешить. Например, вы хотите убедиться, что система управления полетом самолета никогда не выйдет из строя, а это одна из тех задач, которые Тьюринг определяет как не поддающиеся вычислению.

Это умопомрачительно. Алан Тьюринг разработал фундаментальные ограничения компьютера еще до его физического появления, и, в действительности, каждый появившийся после него компьютер был способен на вычисления, не превышая эти ограничения. Это подобно тому, как один из братьев Райт предсказал, что скорость самого быстрого полета будет ограничена скоростью звука еще до того, как Орвилл Райт совершил свой первый полет над песчаными дюнами в Китти-Хок в Северной Каролине. Сейчас же, пока вы не спутали эту книгу с историей несбыточной мечты, ограничения, сформулированные Тьюрингом касаемо возможностей вычисления, не включали понятия о возможностях искусственного интеллекта. Его выводы оставили открытым вопрос о его потенциале, перспективе делегировать мышление машине.

Своими исследованиями и выводами Тьюринг заслужил особое место в книге об истории искусственного интеллекта, но его вклад в развитие области остается неизмеримым. В 1950 году Алан Тьюринг опубликовал статью[12], которая позже станет первым научным трудом по теме искусственного интеллекта. Статья начиналась словами: «Я предлагаю рассмотреть следующий вопрос “Могут ли машины думать?”» [3]. Еще в 1936 году он уже дал достойное определение термину «машина», но все еще оставалось непонятным, что подразумевало под собой слово «думать». Тьюринг решил эту проблему гениально и назвал свою идею «игрой в имитацию». Теперь она носит название «тест Тьюринга». Если человек, взаимодействуя с компьютером, не сможет отличить его от человека, сможем ли мы говорить о том, что машина способна мыслить?

Тест Тьюринга подвергается определенной критике. Действительно ли нам стоит изобретать машины, которые стараются всеми способами убедить нас, что они люди? По каким критериям можно отличить человека от машины? И можно ли считать тест объективным, учитывая тот факт, что машина не может познать мир в той мере, как это доступно человеку? Если машина ошибается, означает ли это, что она не способна мыслить? Несмотря на все опасения, тест Тьюринга хорошо объясняет, что именно такие исследователи искусственного интеллекта, как я, пытаются сделать. Мы пытаемся заставить компьютеры выполнять те человеческие задачи, которые, по нашему мнению, предполагают наличие умственных способностей, включая способность чувствовать, логически рассуждать и действовать, уметь осмыслять то, что мы видим и слышим, усваивать увиденное и услышанное, а затем планировать и действовать в соответствии с этими планами. Для выполнения всех этих действий необходим интеллект, а для того, чтобы наделить робота способностью чувствовать, осознавать

Илл. 2.50-фунтовая банкнота с изображением и изречением Алана Тьюринга: «Есть только предчувствие того, что грядет, и только тень понимания того, что будет»

Алан Тьюринг был гением, положившим начало области искусственного интеллекта. К глубочайшему сожалению, он скончался за два года до Дартмутского семинара. Ему было всего 41. Рядом с его кроватью лежало надкушенное яблоко, и позже следствие установило, что причиной преждевременной смерти ученого стало отравление цианидом. В 2009 году премьер-министр Великобритании Гордон Браун принес публичные извинения за преследование и обвинение в гомосексуализме, которое, как многие считают, привело Тьюринга к самоубийству.

Конечно, Тьюринг не был единственным выдающимся умом, который размышлял об искусственном интеллекте еще до того, как компьютеры стали обычным явлением. Некоторые другие личности также заслуживают упоминания. Одной из них была Ада Лавлейс[13], дочь поэта лорда Байрона. Так же как и Алан Тьюринг, Ада рано ушла из жизни, в возрасте 36 лет. Вместе с Чарльзом Бэббиджем[14] она трудилась над разработкой его аналитической вычислительной машины. Бэббидж был эрудитом, математиком, изобретателем, инженером и политиком Викторианской эпохи. Одно из полушарий мозга Чарльза Бэббиджа вы можете увидеть в Лондонском музее науки. Забавно, что другая половина его мозга хранится в шести километрах, в Хантерианском музее при Королевском хирургическом колледже. У Бэббиджа была простая, но очень важная цель: сократить количество ошибок в математических таблицах, используемых в навигации и артиллерии. Для того чтобы разработать программируемую машину, которая будет выполнять такие вычисления без ошибок, он обратился к самым передовым технологиям того времени, шестеренкам и перфокартам, использовавшимся в жаккардовом ткацком станке.

Наследие аналитической вычислительной машины Бэббиджа сохранилось в современных компьютерах: память для хранения данных, блок для выполнения арифметических действий и даже принтер, на который можно выводить полученные данные. Это выдающееся устройство, способное считывать и выполнять различные программы. Сам Бэббидж описывал изобретение как «паровоз, который сам прокладывает себе рельсы». К сожалению, проект аналитической вычислительной машины так и не был завершен. В противном случае это была бы машина Тьюринга, способная на любые вычисления, которые может произвести самый быстрый современный суперкомпьютер, только немного медленнее. Интересно представить, как такое механическое существо могло изменить викторианскую Британию.

Илл. 3.Гениальная Ада Лавлейс

Ада Лавлейс была поистине очарована возможностями аналитической машины Бэббиджа, а Бэббидж, в свою очередь, был явно очарован Адой. Он называл ее «волшебницей чисел», но подозреваю, что она покорила его не только своими математическими способностями.

Лавлейс составила первую в мире сложную вычислительную программу, чтобы продемонстрировать потенциал аналитической машины. Это был алгоритм для вычисления чисел Бернулли[15]. Таким образом, первым в мире программистом стала женщина. Женщинами были и многие из первых «компьютеров» – людей, выполнявших астрономические и другие сложные вычисления до того, как одна из машин Тьюринга взяла на себя выполнение столь трудных задач.

Тем не менее у Лавлейс были более амбициозные мечты насчет аналитической машины, чем просто выполнение расчетов чисел Бернулли. Она писала[16]:

«[она] может работать не только с числами, но и с любыми объектами, чьи взаимоотношения можно выразить научно-абстрактными операциями, которые можно описать с помощью обозначений и механизма машины. Предположим, например, что фундаментальные отношения высот музыкальных тонов в гармонии и композиции можно адаптировать к такому выражению и приспособлению, значит, машина сможет сгенерировать “научные” музыкальные произведения любой степени сложности… Можно с уверенностью сказать, что аналитическая машина ткет алгебраические модели так же, как ткацкий станок Жаккара ткет цветы и листья» [4].

Числа Бернулли – важнейшая числовая последовательность, широко применяющаяся в математике, например при аппроксимации функции тангенса. Последовательность начинается так: 1, 1/2, 1/6, 0, –1/30, 0, 1/42, 0, –1/30, 0, 5/66, 0, –691/2730, 0, 7/6, 0, –3617/510 – и продолжается до бесконечности.

Ну и ну! Откуда это взялось? Бэббиджа занимало вычисление и составление числовых таблиц, в то время как Лавлейс каким-то образом смотрела далеко в будущее, на 100 лет вперед, когда компьютеры станут способны обрабатывать звуки, изображения, видео и многое другое помимо чисел. В конце концов, наши смартфоны и есть маленькие компьютеры, и они так же универсальны, поскольку их возможности не ограничиваются только выполнением расчетов, они еще выполняют работу с аудио, видео и графикой. Одновременно смартфон – и музыкальный плеер, и камера, и видеокамера, и игровая приставка.

Несмотря на высказанную ею же идею, что компьютеры могут делать больше, чем просто считать числа, Лавлейс была одним из первых критиков искусственного интеллекта. Она быстро отказалась от мечты создать машины, обладающие творческими способностями: «Аналитическая машина не претендует на создание чего-либо. Она может делать все, что приказано нами на понятном ей языке. Она умеет анализировать, но не имеет силы предвидеть какие-либо аналитические отношения или истины [5]». С тех пор эта мысль, высказанная Лавлейс, не дает покоя исследователям в области искусственного интеллекта. Компьютеры выполняют лишь то, что мы говорим им выполнять. В отличие от человека, они не обладают креативным мышлением. На протяжении всей этой истории мы несколько раз протестируем эту гипотезу.

Помимо Алана Тьюринга, Чарльза Бэббиджа и Ады Лавлейс было еще много экстраординарных личностей, которых следовало бы упомянуть на страницах даже краткой истории искусственного интеллекта. Конечно же, заслуживает упоминания и Джордж Буль[17], английский математик-самоучка из Линкольна, первый профессор математики Королевского колледжа Корка[18]. В 1847 году Буль изобрел булеву логику, логику нулей и единиц, на которой основаны современные компьютеры. Он скончался в возрасте 49 лет после того, как его жена Мэри Эверест вылила на него ведро ледяной воды, когда он больной лежал в постели. Можно вспомнить и Готфрида Вильгельма Лейбница[19], ученого из Лейпцига и современника Исаака Ньютона. Он отвлекся от споров с Ньютоном о том, кто из них изобрел дифференциальное исчисление[20], чтобы создать «Алфавит человеческих мыслей». Его идея заключалась в обозначении любой идеи определенным символом, тем самым превратив процесс мышления в вычисление.

Я вспомню здесь и о Томасе Гоббсе[21], английском философе, учителе принца Чарльза, ставшего впоследствии королем Карлом II. В отличие от большинства наших героев, Гоббса не настигла преждевременная смерть, и он прожил 91 год, солидный возраст для XVII века. Он также сводил мышление к вычислению:

«Под мышлением я пониманию вычисление. А считать – это складывать несколько в одно целое или знать остаток, когда одно отделено от другого. Следовательно, размышлять – это то же самое, что и складывать, и вычитать» [6].

Его идея оказалась удивительно провидческой. Гоббс задумался о том, что мышление может быть сведено

Мэри Эверест – племянница Джорджа Эвереста, геодезиста и географа, в честь которого названа горная вершина. Она была гомеопатом и сторонницей метода лечения «клин клином вышибают». Однажды Джордж Буль простудился, попав под дождь. Из-за того, что Мэри выплеснула на мужа ведро ледяной воды, его простуда обернулась пневмонией, а затем и смертью.

ДРЕВНИЕ МЕЧТЫ

Несмотря на то что я рассказал вам ранее, история искусственного интеллекта не начинается с Лавлейс, Лейбница или Луллия. Она зародилась намного раньше, в глубокой древности, и началась с мифических историй об искусственно созданных существах, наделенных разумом и сознанием. Существа, подобные Талосу и Голему, стали причиной гибели людей.

В греческой мифологии Талос – ожившая бронзовая скульптура, подаренная царю Миносу для обороны острова Крит. Талос был создан Гефестом, богом огня. Сегодня Талос превратился в более устрашающее существо, криптообменник[23]. В еврейской мифологии големы – оживленные человекоподобные фигуры, созданные из глины или грязи. Один из самых знаменитых, Пражский голем[24], был создан для защиты еврейского гетто от погромов и антисемитских атак. Големы послушны и невероятно сильны. Их можно было бы считать низкотехнологичными роботами. Во многих историях, включая и историю о Пражском големе, они воспринимают приказы слишком буквально или сбегают, сея хаос среди создавших их людей. Притягательность Голема состоит в том, что он затрагивает глубинную тревогу и опасения, на его примере мы зачарованно наблюдаем, как наши изобретения выходят из-под контроля. Эту же тему блистательно исследовала Мэри Шелли[25] в своем литературном шедевре 1818 года «Франкенштейн, или Современный Прометей».

Роман Шелли хотя и является первым настоящим примером научной фантастики, обращается к древним мифам в той же мере, как и смотрит в будущее. Не будем забывать, что Существо угрожает убить друзей и близких Виктора Франкенштейна и не остановится, пока окончательно не уничтожит его. Сам Виктор умирает раньше, чем смог найти и убить чудовище, отомстив за смерть своего отца.

Илл. 4.Провидица Мэри Шелли

Как следует из названия романа Шелли, он посвящен Прометеевскому страху, который долго преследовал человечество. Прометей был хитрым титаном, который отдал людям божественный огонь, за это преступление орел ежедневно клевал ему печень. Его история вселяет страх, напоминая, что игра с божественными дарами может обернуться для нас крахом. Технологии часто влекут непредвиденные и нежелательные последствия. Огонь подарил нам тепло и еду, но вместе с тем принес войну и разрушения. Двигатель внутреннего сгорания подарил нам мобильность и промышленность, но сейчас провоцирует изменение климата. Расщепление атома подарило нам дешевую и зеленую энергию, но вместе с тем и ядерную бомбу. А сейчас компьютеры преподносят нам искусственный интеллект. Какие могут быть непредвиденные и неконтролируемые последствия?

Есть множество очевидных рисков. Пострадают ли экономики мира в борьбе с массовой безработицей и неравенством доходов? Потонет ли демократия под натиском дезинформации? Изменят ли роботы-убийцы способы ведения войны? Очень легко представить негативный ход событий.

Конечно, у искусственного интеллекта есть масса преимуществ. Уже сейчас он делает многое для улучшения нашей жизни. Например, помогает в создании новых лекарств и медикаментов. Новейший антибиотик халицин[26] разработан не человеческим интеллектом, а при помощи искусственного и назван в честь HAL 9000[27], искусственного интеллекта из фильма «2001 год: Космическая одиссея». Также искусственный интеллект помогает обнаружить на снимках мозга ранние признаки болезни Альцгеймера, эффективно распознает случаи мошенничества с банковскими картами, планирует профилактическое обслуживание труб до их выхода из строя и спасает жизни, предсказывая траектории циклонов.

Но поиски искусственного интеллекта – это история намного более серьезная и глубокая, чем просто история про создание технологии, которая улучшит нашу жизнь. Это больше история о нас самих, чем о технологиях. Она задает два фундаментальных вопроса, затрагивающих самую сущность нашего существования.

Что особенного в человеческом интеллекте?

Можем ли мы обуздать его и воссоздать в железной оболочке?

Только история сможет ответить на эти два важнейших вопроса.

Эра символизма

Идея № 1:

Поиск ответов

История искусственного интеллекта начинается в эру символизма. Начавшись в Дартмуте в 1956 году, она продлилась до 1990-х, когда бразды правления взяла эра обучения. Истоки символической эры начинаются задолго до 1956-го, Алана Тьюринга и Ады Лавлейс, их можно обнаружить в Древней Греции, Китае, Индии и исламских культурах.

Например, в III веке до н. э. в Афинах Аристотель разработал одну из первых символических логик. Скорее всего, вы впервые познакомились с понятием логики через его знаменитый силлогизм:Все люди смертны. Сократ человек. Следовательно, Сократ смертен.Здесь слова «человек», «смертен» и «Сократ» являются символами. Они отражают понятие человека, свойство смертности и личности Сократа соответственно. Я могу заменить эти символы другими, например «медведь», «бурый» и «Кнут». Теперь эти символы будут отражать понятие медведя, свойство иметь бурый окрас и знаменитого полярного медведя по имени Кнут. И тогда знаменитый аристотелевский силлогизм превращается в такое утверждение:Все медведи бурые. Кнут медведь. Следовательно, Кнут бурый.Конечно, начав с того, что все медведи бурые, я могу вызвать ошибочное представление о белых медведях вроде Кнута. Но, несмотря на эти проблемы, легко понять, что компьютеры без особых сложностей обрабатывают такие символы. Таким образом, символы играют ключевую роль в мыслительных, а не только вычислительных способностях компьютера.

Илл. 5.В 2007 году Кнут впервые появился в Берлинском зоопарке

Очень просто поддаться западному шовинизму и проглядеть важнейший вклад людей с другого конца планеты. Например, за два века до Аристотеля в древнем индийском тексте Ньяя-сутры на санскрите появляется силлогизм. А Логики[28], как и предполагает их название, были представителями философской школы, интересовавшейся логическими рассуждениями примерно в то же самое время, что и Аристотель, только далеко от Афин, во времена династии Чжоу в Китае.

Символы – это основа искусственного интеллекта. Думаю,

«Представим, что в комнате, полной коробок с китайскими иероглифами (база данных), закрыли носителя английского языка, который не говорит по-китайски, но дали ему книгу с инструкцией по обработке символов (программа). Представим, что люди за пределами этой комнаты отправляют другие, неизвестные человеку в комнате китайские символы, которые являются вопросами на китайском языке (входные данные). И представим, что, следуя этим инструкциям в программе, человек в комнате способен выдать китайские символы, которые являются правильными ответами на вопросы (выходные данные). Программа позволяет человеку в комнате пройти тест Тьюринга на понимание китайского, когда на самом деле он не знает и слова по-китайски» [1].

Китайская комната Сёрла – аргумент против того, что компьютеры обладают «разумом», «пониманием» и даже «сознанием». К счастью, его позиция оставила открытой саму идею искусственного интеллекта. Такая китайская комната, которую описывает Сёрл, уже существует. Насколько нам известно, ее существование не нарушит никакие законы физики, даже если мы попытаемся соединить символы в китайской комнате с соответствующими понятиями за пределами планеты. Программа на основе искусственного интеллекта способна, как и китайская комната, ответить разумно на вопросы – без понимания символов или заземления их в реальности.

Эту идею – представлять концепции окружающего мира с помощью символов – мы все используем ежедневно. Например, мы успешно представляем страны всего мира в виде двузначных чисел: 61 – для Австралии, 32 – для Бельгии, 86 – для Китая, 45 – для Дании, 20 – для Египта, 33 – для Франции. Как вы уже могли догадаться, эти цифры обозначают международный телефонный код. Телефонная сеть представляет собой огромный распределительный компьютер, использующий эти математические символы для маршрутизации вызова. В авиации трехбуквенные символы обозначают название аэропорта: SYD – Международный аэропорт Сиднея имени Кингсфорда Смита, JFK – Международный аэропорт имени Джона Кеннеди в Нью-Йорке, PEK – Международный аэропорт Шоуду (Пекин-Столичный), LHR – Международный аэропорт Хитроу в Лондоне. Символы объединяют мир. И, как предсказала Ада Лавлейс, мы также можем использовать математические символы для обозначения музыкальных нот, превратить буквы в слово или точки в картинку. Изображение на вашем смартфоне – это не более чем длинная последовательность нулей и единиц, как и голосовое сообщение, которое только что оставил ваш начальник.

Учитывая роль символов, фундаментальный вопрос искусственного интеллекта достаточно прост.Как мы можем управлять символами более осознанно?Это естественно подводит нас к первой из шести главных на сегодняшний день идей искусственного интеллекта. Это идея управления символами, и она смехотворно проста.Большинство проблем сводится к поиску их решения.

Звучит не только просто, но и самоочевидно, поэтому дайте мне немного усложнить. Множество проблем в области искусственного интеллекта сводится к тому, что компьютер будет искать свое внутреннее представление о мире начиная с символа, обозначающего исходное состояние, и заканчивая символом конечной цели.

Эта идея не является новаторской и носит название «Навигация». Вы изучаете карту, чтобы проложить маршрут из точки отправления до желаемого пункта назначения. Мы делаем это постоянно. Используя карту лондонского метро, мы можем добраться от Бонд-стрит до вокзала Кингс-Кросс следующим маршрутом: садимся на центральную линию и едем от Бонд-стрит до Оксфордского цирка, далее делаем переход на линию Виктории и едем до Уоррен-стрит, а затем, проезжая станцию «Юстон», доезжаем до станции «Кингс-Кросс». Разница только в том, что вместо того, чтобы самостоятельно проложить маршрут, за нас это делает компьютер. Действительно, существуют специальные алгоритмы, которые исследуют карту и эффективно находят такие маршруты. Один из самых известных – это «Поиск A*» (или «Алгоритм А*»). Покидая Бонд-стрит, он ведет не на запад к Мраморной арке, а на восток, к Оксфордскому цирку, поскольку это приближает вас к конечной точке, станции «Кингс-Кросс».

Илл. 6.Шейки, первый передвигающийся робот, способный рассуждать о том, как перемещаться по окружающей местности

Поиск A* был разработан в 1968 году для навигации робота Шейки (Shakey) [2]. Это имя (с английского – «Шаткий») ему подходило: робот действительно двигался довольно неуверенно. Он был сконструирован Стэнфордским исследовательским институтом в Менло-Парк, штат Калифорния. Это была первая попытка построить полноценного робота, такого, как вы могли видеть в фильмах – робота, оснащенного камерой для восприятия окружающего мира, микрофоном для распознавания команд, колесами и двигателем для наземной навигации и бортовым компьютером для принятия решений. В 2004 году Шейки был увековечен в Зале славы роботов Университета Карнеги-Меллона наравне с некоторыми более знаменитыми, но вымышленными роботами, такими как HAL 9000, R2–D2, C–3PO и робот Робби.

Компьютер Шейки имел электронную карту своего мира. Робота можно было попросить выполнить задачу, например:Шейки, сходи, пожалуйста, в библиотеку и принеси книгу. Он начнет исследовать свою электронную карту при помощи Поиска A*, выбирая подходящий маршрут из символов, обозначающих текущее местоположение, до символов, обозначающих библиотеку. Двигатель Шейки также проследует по маршруту, используя камеру, датчики для определения расстояний и датчики ударов для отслеживания прогресса до достижения цели.

В отличие от людей, которые не всегда с успехом находят дорогу, Поиск A* математически совершенен. Что я имею в виду? Во-первых, он полноценный. Если есть какой-либо маршрут из точки А в точку Б, то A* найдет его. Во-вторых, он оптимален. Построенный алгоритмом маршрут из точки А в точку Б будет самым коротким из возможных. И в-третьих, он максимально эффективен. То есть при поиске кратчайшего маршрута от A до Б алгоритм A* исследует как можно меньшую часть карты. Вы не сможете найти маршрут, используя меньший объем поиска! Чтобы доехать от Бонд-стрит до Кингс-Кросс он не будет учитывать вариант с Мраморной аркой.

Прежде чем отбросить Поиск A* как любопытный анекдот в истории искусственного интеллекта, вам следует осознать, что это, вероятно, один из самых типичных примеров использования искусственного интеллекта в нашей повседневной жизни. Каждый раз прокладывая маршрут на своем телефоне или используя GPS в машине, вы используете программу на основе Поиска А*, которая ищет наиболее короткий маршрут, учитывая дорожные условия, пробки, перекрытие дорог и информацию о расписании общественного транспорта. Иронично, что изначально

ПЕРВЫЙ ИСКУССТВЕННЫЙ МАТЕМАТИК

Простую идею поиска можно перевести на другой уровень – увеличить размер карты, поставить задачу сложнее, чем поиск маршрута, например собрать сложный пазл или доказать трудную метаматематическую теорему.

Возьмем популярную головоломку «Пятнашки 3×3», где в поле 3×3 восемь клеток заполнены. Цель – расположить все восемь ячеек в числовом порядке. Мы можем представить это в виде задачи поиска и предоставить Поиску А* найти решение. В этой задаче ячейки головоломки представляют собой точки на карте. Два состояния считаются смежными, если переместить можно только одну ячейку. Для решения этой головоломки нам необходимо найти путь от заданной начальной точки до конечной в числовом порядке.

Илл. 7.Пример поиска решения «Пятнашки 3×3»

В начальной точке показанного на иллюстрации 7 древа поиска пустая ячейка находится в нижнем ряду посередине. Первый шаг – сдвинуть ячейку 6 вниз, создав пустое поле посередине. Аналогично, вторым шагом надо сдвинуть восьмерку в верхнем ряду вниз, создав пустое поле уже в средней ячейке верхнего ряда. Следующие два хода будем передвигать пустую ячейку против часовой стрелки. Наконец, переместив восьмерку влево, мы приходим в конечную точку, где цифры расположены в числовом порядке вокруг пустой ячейки в середине квадрата.

Роботы по типу Шейки обладают полной картой. Каждая точка представлена определенным символом, а соседние в реальном мире локации связаны и в карте. Что, если мы представим локации не совсем очевидным способом? Тогда мы сможем проводить поиски даже на бесконечном пространстве.

Первые новаторы в области искусственного интеллекта Аллен Ньюэлл и Герберт Саймон продемонстрировали эти идеи на Дартмутском семинаре в 1956 году, представив свою программу Logic Theorist («Теоретик логики»). В то время Ньюэлл работал в аналитическом центре корпорации RAND, но в 1961-м перешел в Университет Карнеги-Меллон (позже Технический университет Карнеги), чтобы продолжить совместную работу с Саймоном, профессором промышленного менеджмента. Саймон был настоящим междисциплинарным гением. В 1978 году ему была присуждена Нобелевская премия по экономике. Его исследовательские интересы охватывали такие области, как когнитивистика, информатика, государственное управление, менеджмент и политология. Тем не менее двигателем всех его исследований была попытка понять концепцию принятия решений человеком с точки зрения науки. В 1947-м он писал:

«Человек, стремясь к рациональности и будучи ограниченным в своих знаниях, создал определенные рабочие процессы, которые частично помогают устранить эти трудности. Такие процессы заключаются в предположении, что он может обособить от всего мира закрытую систему из ограниченного количества переменных и ограниченного ряда последовательностей» [3].

Переписывание основ математики – это поступок как раз в духе Бертрана Рассела. Его часто считают одним из самых умных англичан. Томас Стернз Элиот рассказал историю, как его однажды узнал лондонский таксист. Элиот был удивлен, поскольку поэтов не часто узнают на улице. «У меня глаз наметан на знаменитостей, – якобы ответил водитель. – На днях я подвозил лорда Рассела и сказал ему: “Ладно, Бертран, так о чем, собственно, речь?” И знаете что? Он не смог ответить». Дэниел Хэннан рассказал эту историю в статье «Та же старая песня» в журнале The Spectator в 2015 году.

Саймон и Ньюэлл приступили к описанию «рабочих процессов» в таких компьютерных программах, как Logic Theorist.

Logic Theorist часто называют «первой программой на базе искусственного интеллекта», но она вовсе таковой не была. Первыми стали программа для игры в шашки, написанная Артуром Сэмюэлом в 1952 году, и Turochamp, шахматная программа 1948 года от Алана Тьюринга и его друга Дэвида Чемперноуна. Чуть позже мы об этом поговорим. Тем не менее Logic Theorist – первая программа, разработанная для доказательства математических теорем и демонстрации силы рассуждения при помощи символов. В действительности, Logic Theorist доказал 38 из 52 теорем из знаменитого труда по математике Альфреда Уайтхеда и Бертрана Рассела Principia Mathematica[29].

Principia Mathematica делает попытку изложить основы всей математики. Этот труд содержит доказательства некоторых фундаментальных математических истин, таких как modus tollens (рассуждение от противного), закон контрапозиции, который говорит нам, что если истинность P предполагает истинность Q, то ложность Q влечет за собой ложность P. Если, выигрывая в лотерею, вы счастливы, то несчастны вы из-за того, что не можете выиграть в лотерею. Этот логический аргумент уходит корнями глубоко до начала проведения лотереи Powerball, прямиком в III век до н. э., к Теофрасту[30], члену аристотелевской школы перипатетиков[31].

Logic Theorist не только доказывал теоремы из Principia Mathematica по типу modus tollens, но и открывал новые, а в некоторых случаях и доказывал их. Logic Theorist буквально переписал основы математики, в точности как Уайтхед и Рассел сделали, написав Principia Mathematica. Он искал новые математические истины, начиная с простейших аксиом и ранее установленных фактов, получая из этого новые математические истины до тех пор, пока успешно не достиг цели. Таким образом, он перемещался по бесконечной карте математических истин в поисках новых.

Искусственный математик Logic Theorist был научным прорывом. Кто бы мог представить в 1956 году, в самом начале стремления создать искусственный интеллект, что машины уже так скоро смогут доказывать теоремы? Памела Маккордак, одна из первых историков искусственного интеллекта, писала, что Logic Theorist был «убедительным доказательством того, что машина может выполнять задачи, которые до сих пор считались разумными, творческими и присущими только человеку» [4]. Герберт Саймон сделал более смелое заявление о своем изобретении: «Мы создали компьютерную программу, способную на нечисловое мышление и, таким образом, способную решить древнюю проблему взаимодействия разума и тела, объяснив, как система, состоящая из материи, может обладать свойствами разума» [5].

Илл. 8.Головоломка «Ханойская башня»

Боюсь, что мы уже живем в мире сенсационных заявлений и мифов, о котором нас предупреждал Артур Сэмюел. «Мышление» – это нечто большее, чем доказательство простых логических утверждений, а решение “проблемы разума и тела” – еще большее, чем это». Тем не менее Logic Theorist на самом деле был важным этапом в развитии искусственного интеллекта. Впервые машина стала способна выполнять действия, на которые ранее был способен только человек. Машина смогла доказать сложнейшие математические теоремы.

УСТРАНЕНИЕ ПРОБЛЕМ

Вдохновленная успехом Logic Theorist, команда калифорнийских исследователей и создателей робота Шейки изобретает STRIPS (StanfordResearchInstituteProblemSolver), специалиста по решению проблем от команды Стэнфордского исследовательского института [6]. Программа на основе искусственного интеллекта была «мозгом» робота. STRIPS достигал

Представим, что роботу поручили решить головоломку «Ханойская башня». Эта перестановочная головоломка состоит из трех стержней, на которые надеты несколько дисков разного диаметра. Изначально все диски расположены на левом стержне, самый большой диск находится внизу, а самый маленький вверху. Цель – переместить и расположить все диски в том же порядке на правом стержне. В процессе решения головоломки игрок может передвигать за раз только один диск. Каждый шаг – это перенос верхнего диска с одного стержня на верх другого. Чтобы усложнить задачу, игроку нельзя класть больший диск на меньший, только меньший на больший.

Решения «Ханойской башни» достаточно сложны. Если в головоломке только два диска, игрок берет меньший из них с левого стержня и оставляет на пустом стержне посередине. Затем переносит большой диск с левого на пустой правый стержень.

Теперь игрок может переместить маленький диск со среднего стержня, надев его поверх большого на правом стержне. Пирамида из двух дисков, расположенных от большего к меньшему, теперь на правом стержне.

Это не так уж и сложно, пока есть всего два диска. Чем больше дисков, тем запутаннее и сложнее становится решение. С тремя дисками требуется семь шагов, чтобы решить головоломку, с четырьмя дисками – 15 шагов, с пятью – 31 шаг, а с шестью – 63 шага. С каждым прибавлением всего одного диска общее количество шагов увеличивается больше чем вдвое. Математики называют это комбинаторным взрывом.

Так как же STRIPS решает проблемы? Данные головоломки представлены набором математических истин “on(disc2,peg1)” и “on(disc1,disc2)”. Следовательно, в исходном значении большой диск, обозначенный disc 2, расположен на левом стержне peg 1, тогда как маленький диск disc 1 располагается сверху большого disc 2. Получается, что конечная цель “on(disc2, peg3)” и “on(disc1,disc2)”. Следовательно, большой disc 2 должен находиться на правом стержне peg 3, а маленький disc 1 поверх большого disc 2. Существует набор математических операторов для преобразования одного состояния в другое. Например, одним шагом оператор может преобразовать “on(disc1,disc2)” в “on(disc1,peg2)”, передвинув маленький disc 1, расположенный на большом disc 2, на средний стержень peg 2.

«Ханойская башня» окружена множеством мифов. Один из них заключается в том, что эта головоломка пришла к нам из древнеиндуистского храма Каши Вишванатх. На трех потертых столбах в одном из помещений храма были нанизаны 64 золотых диска. Сотни лет брахманы передвигали диски с одного столба на другой. Задача была сродни подвигам Геракла. Если бы монахи перемещали один диск каждую секунду, то им понадобилось бы около 600 миллионов лет, чтобы достигнуть цели[32]. К счастью для человечества, легенда также гласит, что, когда монахи решат эту головоломку, наступит конец света.

Настоящее происхождение «Ханойской башни» куда прозаичнее. Игру придумал французский математик Эдуард Люка[33] в 1889 году как один из способов увлекательного времяпрепровождения. До 1956 года эта игра поистине бросала вызов роботам, пока мы не начали создавать таких роботов, как Шейки.

Что действительно сделало STRIPS эффективным и могущественным, так это разделение математического описания задачи от описания ее решения. Такое разделение содержания проблемы от ее решения стало одной из главных особенностей эры символизма. Мы отделиличтооткак. Чтобы STRIPS решил новую задачу, мы просто меняемчто,а некак. Добавить еще один диск на «Ханойскую башню»? Не проблема. Просто меняем описание задачи и добавляем еще один диск. Два диска одного размера? Снова не проблема. Просто меняем описание задачи.

Главная мотивация к такому разделению заключалась в том, что множество задач могут быть решены аналогичными способами. Следовательно, при обновлении задачи нам не нужно каждый раз обновлять описание того, как ее решить. В действительности у STRIPS был простой и универсальный способ решения задач «анализ средств и целей», при котором проводится поиск различий между текущим и целевым состоянием, а затем применяется оператор, устраняющий эти различия.

Например, одно из различий между исходным и целевым состояниями «Ханойской башни» заключается в том, что самый большой диск нанизан не на тот стержень. Исходное состояние – на левом стержне “on Peg 1”. Конечное состояние – на правом стержне “on Peg 3”. Анализ средств и целей предполагает, что нам необходимо переместить самый большой диск с исходного стержня на конечный. Это подразумевает новую подцель – переместить любой диск, находящийся над самый большим, таким образом, что мы сможем его высвободить и переместить на конечный стержень. Затем мы рекурсивно применяем анализ средств и целей к этой подцели – освобождению самого большого из оставшихся дисков, что позволит убрать с пути диски меньшего размера.

Анализ средств и целей – мощный способ для решения задач, который также применим и в нашей обычной жизни. Хотите вырастить собственные помидоры? Тогда сделайте из уголка вашего сада огород. Хотите сделать огород? Тогда удалите сорняки и вскопайте почву. Хотите вскопать почву? Тогда достаньте лопату из гаража. Хотите избавиться от сорняков? Тогда купите гербициды.

ПОИСКОВЫЕ ОГРАНИЧЕНИЯ

В теории мы можем сформулировать любую проблему в том виде, в котором STRIPS может ее решить, затем искать ответ, используя анализ средств и целей, но на практике выходит, что не совсем можем, поскольку сталкиваемся с ранее упомянутым «комбинаторным взрывом». Количество возможных выборов, которые мы должны учесть при поиске решения, экспоненциально растет и вскоре становится неподвластным.

Экспоненты становятся запредельно большими. Знаменитая притча об изобретении шахмат поможет понять, какие проблемы возникают у искусственного интеллекта в этом случае. Жил на свете человек, и создал он шахматы, которые захотел показать императору Индии. Император был настолько поражен и благодарен, что предложил изобретателю самому выбрать награду, ожидая, что он попросит золото или другие богатства. Изобретатель же попросил всего лишь рис.

«Император, мои желания очень просты. Я хотел бы только одного. Дайте мне одно рисовое зернышко за первую клетку шахматной доски, два зернышка – за вторую клетку, четыре зернышка – за следующую, восемь – за следующую и так далее за все 64 клетки».

Император сразу же согласился, не осознавая экспоненциальную опасность просьбы. Повторные удвоения вскоре делают числа очень большими. Сумма зерен на доске окажется больше, чем 18 квинтиллионов. Если быть предельно точным, то на всей шахматной доске будет

Примеры экспоненциального роста мы наблюдаем каждый день: от инфекционных заболеваний, таких как COVID–19, распространяющихся молниеносно по всей планете, до ядерных цепных реакций, высвобождающих огромную энергию. Как и императору, нам не всегда удается интуитивно понять, как скоро что-то удваивающееся сможет выйти из-под контроля. Такие экспоненты – проблемы, продолжающие преследовать искусственный интеллект и сегодня. К ним также относится и вопрос, почему такие чат-боты, как ChatGPT, могут сочинить сонет в стиле Шекспира, но испытывают трудности при логическом мышлении. Логические выводы резко умножаются. Два больше, чем один. Три больше, чем один. Четыре больше, чем один. Экспоненциальный рост настигнет искусственный интеллект раньше, чем он попытается подумать. ChatGPT может без особых трудностей написать текстовый абзац, но не способен на простые умозаключения. Ему даже сложно считать и складывать.

Давайте я вам покажу.

Я:Сколько букв в слове «идеально»?

ChatGPT:В слове «идеально»девять букв[34].

Я:Нет, в слове восемь букв.

ChatGPT:На самом деле, в слове «идеально» девять букв. Вы можете сами посчитать их: и, д, е, а, л, ь, н, о.

Идея № 2:

Сделать лучший ход

Сейчас мы подбираемся ко второй из шести ключевых идей в области искусственного интеллекта на сегодняшний день. Это способ решить, что делать, когда весь мир против тебя.В соревновательной среде тебе нужно выбрать наилучший возможный ход, предполагая, что твой противник выберет сделать свой наилучший возможный ход.

Опять-таки, это настолько просто, что звучит очевидно. Позвольте мне объяснить. Находясь в ситуации конкуренции, когда ваш противник выигрывает, вы проигрываете. Следовательно,наилучшийвозможный ход вашего соперника –наихудшийвозможный ход для вас. Эта идея также не новая. Мы все так действуем, когда играем.Если я пойду конем и атакую черного короля, тогда наилучший ход для черных – пожертвовать ладьей. И это даст мне ощутимое преимущество.

Давайте сыграем в «21», чтобы продемонстрировать эту идею. Вам не нужно пить во время игры, но будет намного веселее, если вы нальете себе стаканчик. Игра начинается с нуля. Каждый игрок по очереди добавляет один, два или три к предыдущему числу и озвучивает новое. Конечное число не должно быть больше 21. Тот игрок, который назовет 21, проигрывает и должен выпить.

Илл. 9–10.Чертеж Nimatron из Патентного бюро США и его фотография 1940 года

Хорошо, я буду первым.

Я:1

ВЫ:4

Я:7

ВЫ:8

Я:9

ВЫ:12

Я:14

ВЫ:16

Я:17

ВЫ:20

У меня нет другого выхода, как назвать 21. И это означает, что вы выиграли, загнав меня в угол!

Давайте применим концепцию выбора наилучшего возможного хода для игры в «21», учитывая, что ваш противник сделает то же самое. На самом деле, это позволит сыграть нам в эту игру идеально. Мы сталкиваемся с первой проблемой: ваш наилучший возможный ход зависит отвсехпоследующих шагов обоих игроков. И как же нам разрубить этот гордиев узел?

Алгоритм на основе искусственного интеллекта минимакс позволяет разрешить эту проблему. Минимакс думает наперед о наилучшем возможном ходе, начиная с конца игры. Он берет начало в конце потому, что в конце игры становится понятно, кто выиграл, а кто проиграл. Каждый раз минимакс возвращается назад, к предыдущему ходу, и рассматривает, как вы, игрок МАКС, можете выиграть, пока я, игрок МИНИ, прилагаю все усилия к вашему проигрышу. В конце игры, если вы называете 21, вы проигрываете. Следовательно, для шанса на победу ваше последнее названное число должно быть меньше 21. Предположим, что это число 20. Тогда я буду вынужден назвать 21 и вы выиграете. Следовательно, ваша цель теперь не назвать 21, а назвать 20. Давайте думать в обратном направлении, начиная с вашей цели назвать 20. Если я назову 17, 18 или 19, тогда вы сможете назвать 20 и выиграть на следующем ходе. Получается, что ваша цель теперь не назвать 20, а сделать так, чтобы я назвал 17, 18 или 19.

Снова думаем в обратном от вашей цели направлении, чтобы я назвал 17, 18 или 19. Если вы назовете 16, тогда я могу назвать 17, 18 или 19 и у вас будет возможность оказаться победителем. Теперь ваша новая цель – это назвать 16. Вы знаете, что сможете одержать победу на следующем ходу, при условии, что хорошо играете. Сейчас вы снова можете применить обратное мышление, отталкиваясь от цели назвать 16. Если я назову 13, 14 или 15, тогда вы сможете назвать 16 и в итоге выиграть. Если вы назовете 12, тогда мне нужно будет назвать 13, 14 или 15 и вы сможете выиграть. Следовательно, теперь ваша цель – это назвать 12.

Вы можете продолжить повторять двигаться в обратном направлении, сменяя вашу цель с 12 до 8, а после до 4. Это в точности та же стратегия, что была в самом начале игры: вы назвали 4, 8, 12, 16 и 20. Называя числа кратные 4, вы гарантированно сможете выиграть в «21». Конечно же, ваш противник будет придерживаться той же стратегии. Чем больше игроков, тем сложнее становится стратегия. Тем не менее принцип минимакс найдет наилучший способ выиграть.

Мы можем применить концепцию обратного мышления и к более сложным играм, например к шахматам. Однако шахматы обладают более сложным древом возможных ходов. В среднем на каждый ход в шахматах приходится более 30 возможных ходов, в то время как на каждый ход в «21» всего три. Компьютеры хороши в выполнении таких задач. Такое обратное мышление сегодня заложено в сердце даже самого мощного компьютерного движка для игры в шахматы.

Принцип обратного мышления помогает в решении не только шахмат и «21», но и других проблем реальной жизни, которые могут быть представлены в качестве игры против оппонента. Где мне контролировать транспортную сеть, учитывая, что «зайцы» быстро поймут, какие территории меньше всего находятся под присмотром? Какие облигации мне купить, чтобы минимизировать риск инвестиций, учитывая, что рынок может выступить против меня? Какое профилактическое обслуживание мне необходимо выполнить для моего авиапарка, учитывая, что эрозии и изнашивание деталей могут быть причиной поломок? Жизнь сама по себе уже игра.

Вариаций шахматных партий больше, чем атомов во Вселенной. Шахматные движки используют множество трюков, чтобы избавиться от рассмотрения каждой возможной партии. Количество

ПЕРВЫЙ ИГРОВОЙ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ

Самая первая игра, созданная на базе искусственного интеллекта, была одной из вариаций игры на выпивание, которую мы недавно рассмотрели. Корпорация Westinghouse Electric в 1940 году разработала Nimatron[35] (Ниматрон) и продемонстрировала его на ежегодной Всемирной выставке в Нью-Йорке [1]. Более 44 миллионов человек посетили выставку, темой которой стал «Мир завтрашнего дня». Посетителям обещали показать мир будущего, в который входил и Nimatron, электрорелейная машина для древней китайской игры в ним. По правилам этой игры участники по очереди берут камни, разложенные на несколько кучек, но за один ход могут взять камни только из одной кучки. Игрок, поднявший последний камень, проигрывает. Nimatron – двумерная версия игры в «21».

Nimatron не был полноценным компьютером, а только лишь машиной для игры в ним. Следовательно, он и не являлся тем, что впоследствии мы назовем машиной Тьюринга. Тем не менее это было впечатляющее творение, весом более тонны и с четырьмя линиями по семь лампочек со стороны человека-игрока и с каждой из четырех сторон верхнего дисплея для зрителей. Игроки по очереди играли с автоматом, гася одну или более лампочек до тех пор, пока не погаснут все.

Nimatron требовалось всего несколько миллисекунд, чтобы сделать свой ход. В целях избежания деморализации человеческого противника, запрограммировали задержку, с учетом которой у машины на обдумывание уходила пара секунд. Даже с учетом этой искусственной задержки Nimatron был в некоторой степени подавляющим. За время всемирной выставки было сыграно более 100 000 партий. В девяти из десяти игр победителем становился Nimatron. При этом большинство поражений ему нанесли операторы машины: они запоминали выигрышные стратегии, чтобы показать толпе, что Nimatron и правда можно обыграть.

Nimatron вдохновил инженерную компанию Ferranti на создание другой машины для игры в ним, Nimrod, который представили на фестивале Британии в 1951 году.

Nimrod тесно связан с Австралией, поскольку был разработан австралийцем Джоном Мейкписом Беннеттом, работающим в то время в компании Ferranti. После он вернулся на родину, стал первым профессором информатики и основателем Австралийского компьютерного сообщества.

ИИ ШАХМАТЫ

Среди всех различных игр, в которые мы играем сегодня, шахматы занимают особое место в развитии искусственного интеллекта. В 1941 году, через год после изобретения Nimatron, в Блетчли-парке Алан Тьюринг начал обсуждать со своими коллегами по взламыванию кодов возможность создания машины, способной играть в шахматы и выполнять другие «умные» задачи. К моменту окончания Второй мировой войны Тьюринг был убежден, что теоретически компьютер способен воспроизвести все, на что способен человеческий мозг, в том числе и игру в шахматы.

В 1948 году он начать применять свою идею на практике. Он и его коллега из Кембриджского королевского колледжа Дэвид Чемперноун написали первую шахматную программу, названную Turochamp в честь фамилий создателей. Turochamp использовал алгоритм минимакса для определения стратегии игры, просчета всех возможных собственных ходов и всех возможных ходов противника. Чтобы избавить компьютер от необходимости просчитывать игру до конца, счет объявлялся в середине игры. Счет велся путем добавления очков в разных категориях, включая захват фигур, их мобильность и безопасность, а также угрозу постановки мата.

Поскольку игра просчитывалась только на два хода вперед, Turochamp играл на уровне начинающего. Даже учитывая эту особенность, для компьютеров того времени такие вычисления все еще были сложны, и при жизни Тьюринга запустить программу на реальном компьютере и вовсе не удалось. Вместо этого он мучительно моделировал программу вручную, тратя по полчаса или больше на просчет каждого хода.

Тем не менее в 2012 году удалось протестировать программу на компьютере. Turochamp была воссоздана и продемонстрирована на конференции в честь столетия со дня рождения Алана Тьюринга в Манчестере. Бывший мировой чемпион по шахматам Гарри Каспаров с легкостью обыграл программу за 16 ходов. Но 15-ю годами ранее, играя против более продвинутого компьютера, Каспаров не смог одержать победу. В 1990-х компания IBM переняла многие идеи Turochamp и вывела их на новый уровень, создав шахматный компьютер Deep Blue. Целью создания было стремление попасть в книгу рекордов и завоевать славу.

Deep Blue оказался сложным инженерным проектом, в среднем просчитывающим от шести до восьми ходов вперед, а в некоторых случаях и более 20. Он работал на базе рабочих станций IBM RS/6000 и имел специальное программное обеспечение для более быстрого просчета ходов. Выглядел такой компьютер впечатляюще: он представлял собой черный моноблок, как будто прямо с места съемок фильма «2001 год: Космическая одиссея» Стэнли Кубрика. В 1996 году IBM провела первый на тот момент матч с чемпионом мира по шахматам Каспаровым. Со счетом 4:2 Каспаров одержал победу и забрал призовой фонд в 400 000 долларов. Год спустя в Нью-Йорке был организован второй матч из шести партий, а призовой фонд был в три раза больше. Улучшенный Deep Blue (сейчас носит название Deeper Blue) обыграл Гарри Каспарова.

Игра была настолько напряженной, что до конца не было понятно, кто выиграет. Каспаров выиграл первую партию, а Deep Blue – вторую. После игры был проведен анализ, в результате которого было вынесено предположение, что Каспаров мог сыграть вничью[36]. Следующие три партии были сыграны вничью. Вся надежда была на финальную, шестую партию. Каспаров неудачно разыграл дебют, вероятно, он хотел вывести Deep Blue за рамки базы стандартных начальных ходов. Вместо того чтобы нанести удар компьютеру, Каспаров нанес его сам себе. На 19-м ходу он объявил поражение. Эта игра стала самой короткой, которую он когда-либо играл против Deep Blue. Машина одержала победу над человеком. Уезжая домой, Каспаров в качестве утешительного приза забрал еще 400 000 долларов, половину всего призового фонда.

Несмотря на проигрыш, Каспаров остается одним из лучших игроков в истории шахмат. Он стал самым молодым чемпионом мира и оставался обладателем титула дольше, чем любые другие мировые чемпионы. Жестокая ирония заключается в том, что он остался на страницах учебников по истории как первый чемпион мира по шахматам, проигравший компьютеру. После своего поражения он отметил:

«Я играл со многими компьютерами, но

На сегодняшний день наилучший шахматный движок – это Stockfish, 14-кратный победитель чемпионата ведущих шахматных движков. Последняя версия Stockfish просчитывает от 80 до 100 ходов вперед. В серии из шести партий против Stockfish, учитывая его показатели игры, даже у лучшего игрока в шахматы шанс выиграть один на триллион.

Буду откровенен. Человечество, игра окончена. Во всяком случае, это касается шахмат.

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ СТАНОВИТСЯ ЧЕМПИОНОМ

Гарри Каспаров, может, и был первым чемпионом мира по шахматам, проигравшим в турнире компьютеру, но он не был первым мировым чемпионом, потерпевшим поражение от компьютерной программы. Луиджи Вилла, профессиональный игрок в нарды из Милана, получил такую славу за 18 лет до проигрыша Каспарова. 14 июля 1979 года Луиджи Вилла стал победителем ежегодного чемпионата мира по нардам в первый и последний раз. Соответственно, поскольку нарды – азартная игра, то соревнование проходило в Монте-Карло. Времени для того, чтобы насладиться первенством и выпить шампанского, у Виллы не было. На следующий день после победы он проиграл со счетом 7:1 на тренировочном матче против компьютера, призовой фонд которого составил 5000 долларов.

Его противником была программа Ханса Берлинера BKG 9.8. Берлинер был профессором Университета Карнеги – Меллона в США и бывшим мировым чемпионом по заочным шахматам. В течение пяти лет Берлинер пытался обучить компьютер играть в нарды, в результате чего создал BKG 9.8. В таком противостоянии человека против машины Вилле не хватило немного удачи. В самом деле, по результатам последующего анализа игры было сделано предположение, что, по всей вероятности, он играл лучше, чем BKG 9.8. Но, к сожалению, игральные кости – независимое лицо, которое было более благосклонно к машине. В такой короткой игре из восьми партий у удачливого аутсайдера есть все шансы выиграть.

Новоиспеченный чемпион мира был безутешен. San Francisco Chronicle сообщила, что он с отвращением топнул ногой, крича о несправедливости, и что «это разочарование разделили несколько друзей итальянцев, которые после турнира были частью возмущенной и активно жестикулирующей толпы и сыпали оскорблениями в адрес машины» [3]. О том, как отреагировал компьютер на эти оскорбления, не сообщалось.

В какой-то степени для компьютера нарды – задача посложнее, чем шахматы. При каждом ходе есть 21 возможная комбинация игральных костей и около 20 возможных способов бросить кости. Следовательно, необходимо учитывать 400 вариантов хода. Играя в нарды, программа не способна предугадывать такое же количество ходов, как при игре в шахматы, где нужно учитывать только 30. В отличие от шахмат, в нардах речь также идет о принятии решений в неопределенном мире, где от броска игральных костей зависит многое, поскольку, как выяснил Лиуджи Вилла, судьба – дама капризная. Возможно, из-за этой неопределенности компьютерам не удается также хорошо обыгрывать людей, как у них это получается в шахматах. Тем не менее, основываясь на их рейтингах, лучшей современной программе в игре с текущим мировым чемпионом по нардам удалось бы вести со счетом 2:1.

15 июля 1979 года – день, когда BKG 9.8 повезло немного больше, чем другим, оставил глубокий след в истории искусственного интеллекта, а также в истории человечества. Отныне мы не лучшие. Человечество понесло поражение в одной из изобретенных им игр. Нам остается только задаваться вопросом: было ли это началом конца для нас, людей?

ИДЕАЛЬНАЯ ИГРА

Двумя преимуществами компьютеров перед человеческим мозгом являются их грубая сила и точность. Они могут работать намного быстрее и просматривать гораздо большие массивы данных, чем люди, при этом выполняя все без ошибок. В соответствии с четко определенной задачей это означает, что компьютеры могут принимать наилучшие решения для победы над человеком.

Шашки – один из наилучших примеров, иллюстрирующих данную проблему. Игра проводится на доске 8×8, а игрокам, передвигаясь по диагонали, необходимо захватить все шашки противника, перепрыгнув на свободную клетку. В 1995 году компьютерная программа Chinook практически стала победителем в мировом чемпионате по шашкам между людьми и компьютерами. Почти 20 лет программу создавала команда из Университета Альберты под руководством профессора Джонатана Шеффера. В игре из 32 партий Chinook одержала победу над гроссмейстером Доном Лафферти, выиграв предпоследнюю партию, а все остальные сыграли вничью. Шашки – одна из тех игр, где очень просто сыграть вничью.

Однако успех к программе пришел немногим ранее, во время игры против легендарного Мариона Тинсли[37]. Несомненно, он лучший игрок в шашки за всю историю человечества. За свою 45-летнюю карьеру Тинсли не проиграл ни одного мирового турнира и проиграл лишь в семи партиях, две из которых были против Chinook, а во время других двух он был пьян! В 1991 году Тинсли отошел от игры на чемпионатах и стал обладателем почетного титула чемпиона мира, подтвердив свой статус практически непобедимого и доминирующего игрока. В 1992 году он обыграл Chinook со счетом 4:2, сыграв 33 партии вничью. В 1994 году состоялся матч-реванш между Тинсли и улучшенной версией Chinook. Шесть партий они снова сыграли вничью, а после Тинсли отказался продолжать по состоянию здоровья, любезно передав Chinook титул мирового чемпиона. В 1995-м он выразил желание вновь сыграть против компьютера, но, к сожалению, скончался от рака поджелудочной железы до того, как смогли организовать матч.

Илл. 11.Джонатан Шеффер (представляющий Chinook) в игре против Мариона Тинсли

Тем не менее сейчас нет смысла в тестировании Chinook против Тинсли или любого другого человека, поскольку программа и так продемонстрировалаидеальнуюигру. В 2007 году команда разработчиков Chinook предоставила исчерпывающее доказательство, что программа никогда не сможет оказаться в проигрыше [4]. «Исчерпывающее» – самое подходящее слово для описания их «доказательства». Команде потребовалось несколько десятилетий вычислений на более чем 200 компьютерах, чтобы изучить все возможные варианты партий в шашки и показать, что независимо от того, насколько хорошо или плохо играет человек, его максимум в игре против Chinook – это ничья.

Существует множество других, менее сложных игр, где искусственный интеллект также продемонстрировал идеальную игру: ним, четыре в ряд, реверси и, несомненно, крестики-нолики [5]. Конечно, идеальная игра не всегда возможна. Такие игры, как шахматы, скорее всего никогда не будут сыграны идеально из-за своей сложности. Тем не менее, когда дело касается интеллекта, грубая сила иногда одерживает верх. И это хорошие новости для компьютеров.

БОРЬБА С НЕОПРЕДЕЛЕННОСТЬЮ

Чтобы быть успешным не только в играх, но и в жизни, необходимо уметь справляться с неопределенностью. Покер, одна из самых популярных азартных игр, – прекрасный пример.

В таких играх, как шахматы, оба игрока видят

В 2015 году Майкл Боулинг и его коллеги из университета Альберты разработали ИИ-бот Cepheus для игры в техасский холдем один на один. Поскольку ставки ограничены, а игроков всего двое, игра становится намного проще, чем при неограниченных ставках и с бóльшим количеством игроков. Учитывая ту роль, которую играет в покере случайность, невозможно выигрывать деньги в каждой раздаче: вам могут просто выпасть несчастливые карты. Команда университета Альберты провела восемь миллионов часов[38] за вычислениями, чтобы показать, что стратегия, разыгрываемая ботом Cepheus, практически безупречна и его невозможно победить. На протяжении всей своей игровой карьеры программа так и не будет повержена.

Два года спустя, в 2017 году, профессор университета Карнеги – Меллона Туомас Сандхольм и его коллеги разработали программу под названием Libratus для игры в более сложную и популярную игру один на один в безлимитный техасский холдем. Libratus сыграл против четырех профессиональных игроков в Питтсбурге, штат Пенсильвания, в борьбе за приз в 200 000 долларов. Они поучаствовали в трехнедельном марафоне из 120 000 раздач. Поскольку на протяжении всего турнира было огромное количество раздач, каждая из которых разыгрывалась в обе стороны, чтобы у каждого игрока было как можно больше как хороших, так и плохих комбинаций, мы с уверенностью можем сказать, что конечный результат не был случайным. Libratus вел с первого дня и безоговорочно стал победителем турнира.

Libratus – еще один пример могущества грубой силы математики. Для разработки программы потребовалось более 15 миллионов часов вычисления на суперкомпьютере в Питтсбургском суперкомпьютерном центре. Во время турнира Libratus каждую ночь тратил еще четыре миллиона часов на вычисления для усовершенствования своей стратегии, анализа предыдущих игровых дней, особое внимание уделяя проигрышам. Дон Ким, один из профессиональных игроков, играющих против компьютера, был поражен результатом. «До сегодняшнего дня я не осознавал, насколько он хорош. Я как будто играл против того, кто все время жульничал и видел все мои карты. Я не обвиняю программу в шулерстве. Это действительно было невероятно» [6].

Несмотря на то что некоторые игры по-прежнему представляют проблему для компьютеров, они все же сыграли важную роль в истории искусственного интеллекта. Их четкие правила и очевидные победители делают игры хорошим выбором для автоматизации, а для победы необходим высокий уровень интеллекта. Таким образом, игры предлагают простой, но идеализированный мир, в котором можно разрабатывать мыслящие машины и количественно оценивать достигнутый прогресс.

Игры также протестировали возражение Ады Лавлейс о том, что компьютеры могут делать только то, что им велено. Как компьютеры могут победить лучшего в мире шахматного или покерного игрока, если они всего лишь делают то, на что другой человек запрограммировал их? Ответ заключается в том, что компьютеры не делают в точности то, что им приказано делать. Компьютер может играть сам по себе, а затем, после каждой игры, обновлять стратегию для поиска наилучших и выигрышных ходов и избегания плохих, которые могут привести к поражению. Следовательно, компьютеры могут обучаться самостоятельно. В довершение всего мы также используем высокую скорость компьютера, чтобы играть в игры намного быстрее, чем это может делать человек. Количество сыгранных партий у Libratus намного больше, чем когда-либо сможет сыграть человек за всю жизнь, проводя каждый вечер за игрой в покер.

На самом деле, Libratus обучался довольно медленно, но этот недостаток компьютеры могут компенсировать своей скоростью и способностью играть в другие игры. Человеку необходимо 10 000 часов, чтобы развить, как говорит герой Лиама Нисона в фильме «Заложница», «много необычных способностей»[39] [7]. Искусственный интеллект, напротив, гораздо медленнее. Ему требуется более десяти миллионов часов для освоения покера, но, как знаменитая черепаха из басни, впоследствии он сможет опередить человека. Можете делать на это ставки.

Идея № 3:

Следовать правилам

История искусственного интеллекта – это череда взлетов и падений.

Первый взлет произошел на рубеже 1960-х и 1970-х годов, когда исследовательские проекты по типу Шейки вызывали бурю эмоций. Финансирование этих проектов потекло рекой и спровоцировало ряд уверенных прогнозов о том, что будущее и умные машины уже не за горами. Но к 1974 году такая уверенность сменилась всеобщим разочарованием. Ограниченные возможности искусственного интеллекта стали все более очевидными, и мы вступили в эпоху под названием «зима искусственного интеллекта».

Парламент Великобритании обратился к профессору сэру Джеймсу Лайтхиллу[40] с просьбой оценить текущее состояние исследований в области искусственного интеллекта. В опубликованном в 1973 году отчете он был крайне критичен, отмечая, что «ни в одной области науки сделанные на сегодняшний день открытия не оказали того значительного воздействия, которое было когда-то обещано». Лайтхилл также утверждал, что экспоненциальный рост возможных исходов означает, что алгоритмы ИИ подходили только для решения «игрушечной» версии проблем, тогда как в реальности, вероятнее всего, их решение застопорилось бы.

В Соединенных Штатах финансирование области искусственного интеллекта оказалось под угрозой. Несмотря на огромные вложения, прогресс в области машинного перевода и распознавания речи оценили как незначительный. Амбициозный пятилетний проект по пониманию речи, начатый в 1971 году, мог распознавать слова только тогда, когда их произносили в определенном порядке. В период холодной войны Национальная академия наук США выделила 20 миллионов долларов на разработку машинного перевода документов на русском языке. В результате создали системы машинного перевода, которые были дороже, медленнее и менее точными, чем человеческий перевод.

DARPA, Управление перспективных исследовательских проектов Министерства обороны США, в 1960-х выделяло щедрые бюджеты на исследование искусственного интеллекта, но все изменилось в 1970 году. Управление приняло решение, что им стоит финансировать исследования, ориентированные на достижение конкретной цели, а не на простые фундаментальные исследования. Считалось, что ИИ-проекты не принесут полезных открытий в ближайшем будущем. В скором времени финансирование области сократилось. Неудивительно, что прогресс также значительно замедлился.

Интерес и инвестиции возобновились в 1980 году, во многом благодаря идее «экспертных систем». Такие программы на основе искусственного интеллекта следуют простым правилам, при помощи написанного вручную кода воспроизводя специализированные человеческие знания в таких сложных областях, как медицина и инженерия. Такое нишевое применение позволило достичь уровня производительности

В область искусственного интеллекта снова потекли миллионы долларов. Крупнейшие компании США ринулись интегрировать искусственный интеллект в свою работу. Стоимость компаний по разработке программного обеспечения и оборудования для искусственного интеллекта била рекорды. В то время цифры были космическими. Все заключалось в простой идее, третьей из шести, объясняющей сегодняшнее состояние области.В узкоспециализированных областях возможно имитировать опыт человека, следуя простым правилам.

В каком-то смысле эта концепция является реакцией на идеи № 1 и 2, в основах исследований которых лежал принцип:какнайти решение. Пришло время вернуться к понятию самой проблемы, отбросивкак,и понять,чтоона из себя представляет. Благодаря смещению фокуса на узкоспециализированное знание, это сработало.

Простой пример поможет нам понять. Давайте создадим экспертную систему, специализирующуюся на решении проблем в области распознавания животных. Мы начинаем с составления ряда правил для кодировки предметных знаний.

•Если у животного есть мех и оно гавкает, то этособака.

• Если у животного есть мех и оно мяукает, то этокошка.

• Если у животного есть перья и оно крякает, то этоутка.

• Если у животного есть перья и оно ухает, то этосова.

Думаю, вы поняли задумку. Следуя этим правилам, экспертная система может задавать пользователю вопросы, чтобы определить, что это за животное. Это похоже на игру «20 вопросов».

ЭКСПЕРТНАЯ СИСТЕМА:У животного есть перья?

ПОЛЬЗОВАТЕЛЬ:Да.

ЭКСПЕРТНАЯ СИСТЕМА:Оно крякает?

ПОЛЬЗОВАТЕЛЬ:Да.

ЭКСПЕРТНАЯ СИСТЕМА:Это утка!

Конечно, мы можем усложнить процесс и добавить правила. Например, более развернутые и запутанные. Правила с элементами вероятности и неопределенности. Правила по умолчанию для обработки неполной информации. Правила и еще больше правил.

Сложно представить, как в 1980 году такое количество денег пришло в область искусственного интеллекта, основываясь на такой простой концепции. Для обобщения идеи экспертных систем придумали слоган из двух слов, который использовали повсюду: «Знание – сила!» Историки скажут, что эта идея стара как мир. Ее можно встретить в «Левиафане» Томаса Гоббса, опубликованного в 1668 году на латыни, в виде фразы “scientia potentia est”. Еще раньше в своем произведении 1597 года “Meditationes Sacrae” Фрэнсис Бэкон писал “ipsa scientia potestas est”, что в переводе означает «знание само по себе – сила».

ПЕРВАЯ ЭКСПЕРТНАЯ СИСТЕМА

Развитие первых экспертных систем на самом деле началось не в 1980-м, когда они набрали популярность, а в 1965 году. Как и любой другой успех в области искусственного интеллекта, за успехом экспертных систем кроются десятилетия разработки.

Первой экспертной системой стала DENDRAL, которую разработала талантливая и дальновидная команда Стэнфордского университета под руководством лауреата Нобелевской премии по физиологии и медицине Джошуа Ледерберга[41]. В число разработчиков также входили: химик Карл Джерасси, известный как «отец таблеток» за свою работу по синтезу оральных контрацептивов, а также теперь уже известные исследователи искусственного интеллекта Эдвард Фейгенбаум, который впоследствии обретет славу «отца экспертных систем»[42], и Брюс Бьюкенен, который, насколько мне известно, каким-то образом избежал звания отца чего бы то ни было.

Цель создания DENDRAL заключалась в определении структуры химических соединений на основе данных спектрометрии. Масс-спектрометрия – невероятный и зачастую дорогой метод идентификации различных компонентов, которые входят в состав химического вещества. Соединяя компоненты в единое целое, мы можем определить его исходную химическую структуру. На сегодняшний день масс-спектрометрия незаменима в биологических науках, помогая анализировать сложные молекулы, такие как пептиды, аминокислоты, протеины и другие органические вещества. Результатом исследования является масс-спектр, показывающий плотность и массы различных компонентов в химическом соединении. Этот процесс задает сложную вычислительную задачу: в какую возможную химическую структуру могут быть соединены компоненты при таком распределении масс?

DENDRAL помог ученым решить эту проблему. Несмотря на успех в своей узкой области масс-спектрометрии, основной вклад DENDRAL состоял в демонстрации возможностей – что, сосредоточивая внимание на узкой области и кодировке человеческого опыта в этой области, компьютерные программы могут выполнять поставленные задачи на уровне эксперта.

К 1980-м стало возможным применение экспертных систем по типу DENDRAL в самых неочевидных местах, например в патологических лабораториях, марсоходах и ядерных реакторах. Венчурное финансирование хлынуло рекой в эту область, а молодые стартапы достигли внушительных оценок их стоимости.

Появились такие лидеры рынка, как Teknowledge, Intellicorp, Inference Corporation и Carnegie Group. Что примечательно, ни одной из этих компаний сегодня уже не существует.

УЗКИЕ МЕСТА

К сожалению, бум экспертных систем оказался очередной иллюзией апогея. К концу 1980-х стало ясно, что предстоит покорить еще гораздо более высокую вершину. На пороге была вторая, длинная и суровая зима. Это было время, когда я выпускался из университета и пришел в область искусственного интеллекта. Вот счастливчик! Вторая зима искусственного интеллекта длилась 20 лет. Вот счастливчик! В конце концов, солнце взошло только в 2012 году, когда началась эпоха машинного обучения. Во второй части нашей истории мы подробнее поговорим об этом времени.

Шумиха вокруг экспертных систем не спасла ситуацию, но окончательно добил эту революцию маленький, но фундаментальный вопрос: откуда изначально берутся все эти знания? Экспертность, опыт – это не просто запоминание фактов и правил. Настоящие профессиональные навыки и опыт приобретаются на практике, когда у нас развивается чутье на нестандартные ситуации и понимание, когда применить те или иные принципы. Без возможности приобрести неявное знание, экспертные системы так и остались с набором простых правил, не способных взаимодействовать с запутанной реальностью.

Пионеры экспертных систем на всех парах столкнулись с тем, что называется «узкое место приобретения знаний». Было нелегко закодировать в систему своего рода всесторонний опыт, накопленный за многие годы. В отличие от людей, у экспертных систем нет возможности отточить свои навыки на практике или настроить производительность.

Добавление новых правил немного исправило ситуацию. Но в итоге большее количество правил привело к обратному эффекту. Системы стали настолько сложными и запутанными, что для человека понимать принцип их работы стало затруднительным. Что еще хуже, из-за того, что экспертные системы не способны ограничиться в своих знаниях, они не могут определить, в каких ситуациях необходима человеческая проверка. Великая золотая лихорадка экспертных систем быстро сошла на нет. Финансирование приостанавливалось, конференции отменялись, а стартапы становились банкротами. Те, кто предсказывал начало эпохи искусственного интеллекта, были вынуждены признать, что приобретение и кодировка экспертности оказались намного сложнее, чем они себе это представляли. В действительности такой провал ознаменует начало второй эпохи искусственного интеллекта, времени, когда знания не кодировались вручную, а приобретались путем обучения. Все как у людей.

Ошибочно полагать, что экспертные системы полностью провалились. Они не стали решением проблемы в области

Возможно, сейчас вы подумали, что все программирование логическое. Так и есть. В некотором роде компьютеры – прикладные логические машины. Они применяют простую логику нулей и единиц, которую изобрел в XVIII веке Джордж Буль, а Клод Шеннон в своей знаменитой диссертации перенес на электрическую схему. Логическое программирование выходит на новый уровень, позволяя программисту обозначить программу как более сложный набор логических утверждений.

На языке логического программирования мы можем обозначать факты и констатировать утверждение:

Сократ – человек.

И добавить логические правила:

Х смертен, если Х – человек.

Язык логического программирования позволяет нам выводить логически новые факты, такие как:

Сократ смертен.

В 1980-х в Японии запустили амбициозный проект стоимостью 850 миллионов долларов. В этот момент мировая компьютерная индустрия содрогнулась. Проект назвали инициативой по созданию компьютерных систем пятого поколения, смелой целью которого стала разработка новых суперкомпьютеров на базе искусственного интеллекта на основе языка логического программирования PROLOG.

Отличительной чертой предыдущих четырех поколений было техническое обеспечение. В первом поколении использовали электронные лампы, во втором – транзисторы, в третьем использовались интегральные микросхемы, а в четвертом – микропроцессоры. Обещали, что в пятом поколении будут суперкомпьютеры, оснащенные искусственным интеллектом. Оптимистично настроенный проект был нацелен на построение умных машин, способных вести переговоры и делать открытия. Разговоры о нем были утопичными, с предсказаниями, что такие компьютеры приведут нас к новой вехе решения проблем и расширению человеческих знаний.

Многие страны стали частью этой инициативы. Например, в 1984 году в Великобритании выделили 350 миллионов фунтов на разработку программы Alvey. Британцы, будучи более сдержанными, чем японцы, сосредоточились на разработке программы, направленной на развитие взаимоотношений между академической и промышленной областями, а также нацеленной на такие области исследований, как передовые микропроцессоры и искусственный интеллект.

Управление перспективных исследовательских проектов Министерства обороны США (DARPA) запустило Стратегическую вычислительную инициативу для широкого продвижения искусственного интеллекта, применения достижений в области разработки чипов, скорости обработки, компьютерной архитектуры и программного обеспечения. На этот проект в период с 1983 по 1993 год DARPA выделило около миллиарда долларов федерального бюджета. В ответ на растущую японскую угрозу технический сектор США решил объединить усилия и создать организацию по разработке микроэлектроники и вычислительной технике – Microelectronics and Computer Corporation (MCC), со штаб-квартирой в Остине, штат Техас. В корпорацию вошли такие крупные игроки, как DEC, Control Data, Sperry-Univac, Honeywell, Microsoft, National Semiconductor, Advanced Micro Devices и Motorola. Корпорация представляла собой лабораторию, занимающуюся фундаментальными научными исследованиями в области программной инженерии, технологии упаковки полупроводников, применения программных инструментов и алгоритмов для проектирования очень больших интегральных схем, параллельных вычислительных систем, систем управления базами данных, человеко-машинных интерфейсов и, конечно же, искусственного интеллекта.

Ни один из проектов инициативы по разработке компьютеров пятого поколения[44] не реализовал свои амбициозные обещания в разработке когнитивных и диалоговых систем. Их легкомысленное мышление оставило неизгладимый след, предопределяя появление ИИ-помощников, некоторыми из которых – Siri и Alexa – мы пользуемся сегодня, а также помогло в создании новых центров искусственного интеллекта в Остине, США и Кремниевой долине в Шотландии.

Язык логического программирования Prolog до сих пор находит применение в самых разных областях. Треть всех авиабилетов по всему миру бронируется при помощи системы, написанной на нем. Система голосового управления на борту международной космической станции также разработана на этом языке. Надеюсь, что она не настолько автономна, как HAL 9000, управляющий космическим кораблем «Дискавери–1» в фильме «2001 год: Космическая одиссея».

Такие языки логического программирования, как Prolog, – не единственное наследие бума экспертных систем. Это наследие проявилось в правилах ведения бизнеса, правилах, ограничивающих деятельность компании. Например:

•каждая покупка стоимостью 10 000 долларов или выше нуждается в подтверждении со стороны вице-президента или вышестоящего лица;

•командировка должна быть утверждена менеджером;

•менеджеры не могут утверждать свои собственные командировки;

•при перелете длительностью менее трех часов билет должен быть куплен в экономкласс.

Такие правила обрабатываются механизмами бизнес-правил. Одно из самых неоспоримых преимуществ этих механизмов состоит в том, как они помогают поддерживать и приобретать знания. И снова мы пришли к идее отделить проблему от способа ее решения. Корпоративное принятие решений должно быть гибким и быстро реагирующим на изменения.

Бизнес-правила обрели некую популярность. Ежегодная прибыль в этой области составляет около полутора миллиардов долларов, рост которой десять и более процентов в год. Крупные технические компании, как IBM и Oracle, занимаются разработкой программного обеспечения для бизнес-правил, а также создают стартапы по типу Sparkling Logic и InRule Technology. На самом деле, бизнес-правила – это хороший пример успеха искусственного интеллекта, который так и не получил заслуженного признания.

Также это говорит нам о том, что в нашей жизни уже слишком много искусственного интеллекта даже там, где мы и не подозреваем.

Антракт

Роботы приближаются

Сейчас, на середине нашей краткой истории искусственного интеллекта, вы скорее всего задумываетесь о том, когда же появятся роботы. На данный момент я упомянул только одного, довольно мило названного робота Шейки из 1970 года. Но есть еще несколько других важных роботов, которых необходимо включить в любую историю искусственного интеллекта.

Искусственный интеллект и роботы – тесно связанные дисциплины. Не все роботы оснащены искусственным интеллектом. Например, роботы на автомобильных заводах только следуют заданным инструкциям при покраске машин. Если машина расположена не в соответствующем месте, робот будет красить воздух. Как правило, в целях безопасности людей подобных роботов размещают за защитным ограждением. Но все роботы, функционирующие в реальном мире, не могут обойтись без искусственного интеллекта. Мир непредсказуем, поэтому искусственный интеллект необходим роботам, чтобы справляться с непредвиденными ситуациями и использовать его, чтобы видеть мир, осмыслять его и планировать свои действия в вечно меняющейся реальности.

Метафора о том, что искусственный интеллект – это мозг робота, слишком упрощена, но открывает нам важную истину. Прорывы в таких областях, как компьютерное зрение, объединение датчиков и планирование движения, обеспечили прорывы в робототехнике. По мере того, как алгоритмы искусственного интеллекта становятся все более продвинутыми в восприятии мира, понимании языка и принятии решений в условиях сложных сценариев, роботы становятся все более способными и полезными.

Развитие технологий оказало значительное влияние на расширение возможностей роботов в разных областях. Например, искусственный интеллект в компьютерном зрении позволил

ПАРАДОКС МОРАВЕКА

Ввиду последних достижений в области искусственного интеллекта, скорее всего вы находитесь в предвкушении, что скоро робот-дворецкий, робот-уборщик и робот-повар станут членами ваших семей. Но у меня для вас плохие новости. Боюсь, что потребуется много времени, чтобы все они оказались у нас дома. Отчасти потому, что дом – это беспорядочная и захламленная среда. Не знаю как ваш, но мой – да. Зачастую я не могу посмотреть телевизор, потому что не могу найти пульт, чтобы включить его. Одно из самых болезненных событий в истории человечества – это наступить босой ногой на деталь из конструктора Лего. Мой дом – научная загадка. Почему вещи оказываются не там, где я их оставил?

Главная причина того, что роботы-дворецкие, уборщики и повара все еще далеки от нас, состоит не в хаосе наших жилищ, а в том, что мы называем парадоксом Моравека. Несмотря на то что принцип назван в честь ученого Ханса Моравека[45], он также был сформулирован и другими исследователями в 1980-е годы, Родни Бруксом и Марвином Минским[46]. Моравек так описал этот парадокс: «Компьютерам относительно легко достичь уровня взрослого человека в таких задачах, как тест на определение уровня интеллекта или игре в шашки, однако сложно или невозможно достичь навыков годовалого ребенка в задачах восприятия или мобильности» [1]. По словам одного из самых известных когнитивистов Стивена Пинкера[47] – это одно из значительных открытий, до сих пор не исследованное учеными:

«Главный урок, извлеченный разработчиками ИИ после 35 лет работы, состоял в том, что сложные проблемы просты, а простые сложны. То, что доступно разуму четырехлетнего ребенка и для нас является само собой разумеющимся – узнать знакомое лицо, поднять карандаш, пересечь комнату, ответить на вопрос, – в действительности является решением одних из самых сложных технологических проблем. Пусть вас не вводят в заблуждение роботы на конвейере в рекламных роликах автомобилей: все, чем они занимаются – это сварка и распыление краски, – а такие задачи не требуют обязательного присутствия неуклюжего мистера Магу… Если вы хотите поставить в тупик систему искусственного интеллекта, задайте ей следующие вопросы: “Что больше – Чикаго или хлебница?”, “Носят ли зебры нижнее белье?»”, “Может ли пол подняться и покусать вас?”, “Если Сьюзен идет в магазин, идет ли ее голова вместе с ней?” Большинство страхов перед автоматическими системами основано не на том, что действительно должно вызывать опасения. Это аналитикам финансового рынка, инженерам нефтехимической отрасли и членам судейской коллегии стоит опасаться, что с появлением нового поколения разумных машин они потеряют работу и будут вытеснены последними. Садовники, портье и повара могут в ближайшие десятилетия быть уверены, что останутся на своих местах» [2][48].

Выразив свое мнение в 1994 году, Стивен Пинкер недооценил формирующиеся способности чат-ботов. Например, ChatGPT точно и виртуозно может ответить на каждый его вопрос.

Я:Что больше, Чикаго или хлебница? Носят ли зебры нижнее белье? Может ли пол встать и покусать вас? Если Сьюзен идет в магазин, пойдет ли ее голова вместе с ней?

ChatGPT:Определенно Чикаго больше, чем хлебница! К вопросу о зебрах, вероятно, они не носят нижнее белье, но, если бы носили, скорее всего, оно было бы полосатым. Что касается пола, обычно он себя хорошо ведет и не склонен подниматься и кусать людей. И да, голова Сьюзен пойдет в магазин вместе с ней, если она не забыла ее дома!

Тем не менее его наблюдения о сложностях проектирования роботов остаются верными. Легкие для человека задачи зачастую поразительно сложны для роботов, и наоборот.

Один из способов побороть парадокс Моравека – это заставить людей работатьвместе сроботами. Люди могут выполнять те задачи, с которыми возникают трудности у роботов. На самом деле, мы уже можем наблюдать такое у себя дома. У нас есть примитивные механизмы для мытья посуды. Мы называем их «посудомоечная машина». Но они работают только в том случае, если мы сами загружаем и выгружаем посуду. Также и с одеждой. У нас есть стиральная машина, которая выполняет только часть работы: мы должны положить одежду внутрь, достать мокрую одежду и развесить на бельевой веревке, сложить и убрать вещи.

Я также задумываюсь, есть ли какой-нибудь реальный парадокс в идее Моравека? Наш мозг – результат миллионов лет эволюции. Наше восприятие и двигательная система совершенствовались миллионами поколений. Язык и абстрактное мышление мы приобрели сравнительно недавно. Они новички в нашем мозге. Сложность, с которой сталкиваются машины при выполнении какой-либо задачи, может просто отображать количество времени, потребовавшееся эволюции, чтобы справиться с ней.

ПЕРВЫЙ РОБОТ

Давайте оставим вопрос о том, почему роботы сложны, и посмотрим на то, в чем действительно они могут быть полезны. Самый первый робот был вымышленным. В 1920 году чешский писатель Карел Чапек написал свою знаменитую научно-фантастическую пьесу «РУР». Название пьесы – это сокращение от «Россумские универсальные роботы» (Rossumovi univerzální roboti). Произведение ввело в обиход слово «робот». В нем также была затронута тема восстания роботов, впоследствии ставшая одной из основных в научной фантастике.

В пьесе Чапека роботы не были сделаны из металла. Это были биологические существа, созданные из натуральных материалов. Живые, но искусственно созданные люди. Несмотря на то что внешне они выглядели как настоящий человек, внутренне они больше походили на голема, чем на R2–D2, поскольку им не доставало индивидуальности и эмоций. Чапек не предсказывал наше будущее искусственного интеллекта. Он представлял будущих работников, людей, превращенных в роботов во время промышленной революции. Его роботы выращивались в похожих на матку чанах, а рождались на конвейерной линии. Основой их целью было служить. Роботы Чапека – биомашины, лишенные чувств и воли. Массовое производство тел с искусственным мозгом было идеальным решением для кабального труда.

Именно это искусственно созданное подчинение, ставшее причиной конфликта между роботами и их создателями – людьми, стало сюжетом пьесы. Чапек резонансно затронул антикапиталистические настроения, возникающие в быстро развивающемся индустриальном мире, который превращает рабочих в роботов. Роботы Чапека не были тем, что сейчас принято считать роботами, то есть машинами с искусственным интеллектом, но тем не менее были воплощением страха той эпохи, что технологии вытеснят

Чапек остроумно стер границу между личностью и вещью. Его роботы не проявляли спонтанно эмоции, но несправедливое отношение вызывало у них гнев и агрессию. Пьеса предупреждает нас, что, угнетая и эксплуатируя других, независимо от того, биологическое ли это или цифровое существо, может последовать реакция, когда эти существа осознают свое рабское положение. Этот урок истории мы не должны забывать.

ЭЛМЕР И ЭЛСИ

Первыми настоящими роботами стали Элмер и Элси. Звучит, как имена героев из «Улицы Сезам», но на самом деле их имена – акронимы. Нейробиолог Уильям Грей Уолтер из Нейрологического института Бёрдена в Бристоле разрабатывал Элмера,электромеханическогоробота, и Элси,электромеханическогосветочувстви́тельного робота, с 1948 по 1949 год.

Элмера и Элси часто называют черепахами из-за особенностей формы и низкой скорости. Два робота, построенные из остатков материалов военного назначения и старых будильников, выглядели так, словно вышли из-под пера иллюстратора Уильяма Хита Робинсона[49]. Каждый из них представлял собой трехколесного робота, оснащенного датчиком света, который обеспечивал фототаксис – способность, как у мотыльков и других насекомых, двигаться к источнику света. Благодаря этому Элмер и Элси могли найти путь до ближайшей станции подзарядки, когда у них заканчивался заряд батареи.

Уильям Уолтер использовал аналоговые схемы для симуляции мозговой активности. Такие его современники, как Алан Тьюринг, пытались воссоздать мозг, используя цифровое вычисление. И хотя аналоговый способ в первой успешной демонстрации «мыслящего» робота оказался лучше цифрового, преимущества цифрового не заставили себя ждать. Созданием своих роботов Уолтер хотел продемонстрировать, что связи между небольшим количеством клеток мозга могут способствовать развитию более сложного поведения. Главным образом, он пытался показать, что главный секрет работы мозга кроется в «проводке». Мы вернемся к этой идее во второй части нашей истории искусственного интеллекта в разделе про нейронные сети.

Вскоре после Элмера и Элси появились цифровые роботы. На самом деле, первые запрограммированные промышленные роботы будут собраны только десять лет спустя, в 1961 году, и им сразу же найдется применение. Это был робот Унимат (Unimate), установленный на сборочной линии General Motors в Нью-Джерси. Он сбрасывал раскаленные докрасна дверные ручки и другие автомобильные детали в емкости с охлаждающей жидкостью на конвейере, который затем передавал эти детали рабочим для последующей обрезки и полировки. Отчеты того времени не отмечали беспокойства работников в делегировании роботам опасной и монотонной работы. В 1971 году, после 100 000 часов опасной и монотонной работы, Унимат вышел на пенсию и был подарен Смитсоновскому институту.

Илл. 12.Схема робота Элси

Изобретателя Унимата Джозефа Энгельбергера[50] часто называют отцом робототехники[51]. Вы можете посмотреть, как он демонстрирует робота Унимата в 1963 году в одном из выпусков «Вечернего шоу» Джонни Карсона [3]. Робот произвел огромное впечатление на публику, забив мячик для гольфа в лунку, а также дирижировал оркестром «Вечернего шоу» и перелил банку пива в кружку.

Сегодня более трех миллионов промышленных роботов задействованы в работе заводов и фабрик по всему миру. Это означает, что на сегодняшний день их количество превышает численность населения Литвы. За последнее десятилетие число промышленных помощников увеличилось втрое, а в 2023 году доход индустрии робототехники по всему миру превысил 37 миллиардов долларов США. Роботы действительно приближаются!

ЗАТЕРЯННЫЙ В КОСМОСЕ

Применение роботов не ограничивается только лишь Землей. Есть масса преимуществ их использования в космосе. Например, роботы могут отправляться в опасные миссии. У них нет необходимости в системах жизнеобеспечения или возврате обратно на Землю. По этой причине такие организации, как NASA, ведут разработку автономных роботов. Действительно, NASA уже запустило несколько высокотехнологичных роботов в космос на длительные и опасные миссии. И вполне возможно, что именно эти роботы останутся единственным напоминанием о нас, когда их обнаружат инопланетяне спустя тысячелетия после гибели человечества.

Многие из моих любимых роботов родом из космоса. Возглавляет этот список HAL 9000, вымышленный компьютер из романа Артура Кларка «2001: Космическая одиссея». На сегодняшний день HAL не является таким уж и вымышленным. Все, что умел делать робот в фильме, искусственный интеллект выполняет сейчас. Распознавание человеческих лиц.Есть.Понимание устно заданных вопросов и ответ на них.Есть.Умение пристойно играть в шахматы.Есть.Выключать свет.Есть.Открывать гаражные двери.Есть.

Если вы возьмете название HAL и замените каждую букву на следующую в алфавите, то получите IBM. Артур Кларк и режиссер фильма Стенли Кубрик отвергли идею, что это было сделано намеренно. Не совсем ясно, было ли это сделано для того, чтобы предотвратить судебные разбирательства между IBM и кинокомпанией Metro-Goldwyn-Mayer. Как утверждает сам Кларк, название HAL образовано от английского Heuristically programmed ALgorithmic computer, эвристически запрограммированный алгоритмический компьютер. В любом случае, HAL стал тем самым искусственным интеллектом, который вдохновил молодых ребят посвятить себя карьере разработки умных систем.

Другой мой любимый космический робот – Марвин, робот-параноик из «Автостопом по галактике» Дугласа Адамса. Некоторые изречения Марвина позволят вам хорошо представить его очаровательный характер.

«Жизнь! Не говорите мне о жизни…»

«Вам, полагаю, следует знать, что я в ужасно подавленном состоянии».

«Могу рассчитать твои шансы на выживание, но ты огорчишься».

«Мне, с моим могучим интеллектом, приказывают привести вас в рубку… И это называется “удовлетворение от работы”?!»

«И в довершение ко всему, разумеется, адская боль в диодах левой стороны…»[52]

Сложно понять, почему Марвин так всем полюбился. Возможно, потому, что он отражение наших страхов и надежд, связанных с искусственным интеллектом и роботами? Столкнется ли искусственный интеллект с потоком экзистенциальных вопросов и эмоциональными переживаниями, которые так беспокоят человечество? А может, дело в том, что интеллект и счастье – две параллельные прямые? Что бы то ни было, на мой взгляд, Марвин – один из самых забавных роботов, когда-либо придуманных. Жду не дождусь, когда Марвин будет не только в нашем воображении, но и в нашей реальности.

ROOMBA

Сейчас мы переходим к возможно самому известному на настоящий момент представителю техники на планете – роботу-пылесосу. Во всем мире было продано более 40 миллионов пылесосов от компании iRobot. Учитывая, что доля iRobot на рынке роботов-пылесосов составляет примерно 50%, это означает, что в общей сложности по всему миру было продано около 80 миллионов устройств. Это больше, чем население Великобритании. Все благодаря дальновидному австралийцу по имени Родни Брукс[53].

Брукс родился в 1954 году в городе Аделаида. Он изучал математику в Университете Флиндерса, а степень доктора

Первая модель Roomba была достаточно примитивной. Она была оснащена сенсорами для предотвращения столкновения с мебелью, но не имела какой-либо внутренней карты пространства. Вместо этого случилось то, что математики называют случайное блуждание. Когда на пути робота появлялось какое-либо препятствие, он разворачивался и шел в новом произвольном направлении. На самом деле, это не настолько глупо, как кажется. Блуждая таким случайным образом, робот в конечном итоге достигнет каждой доступной точки в вашем доме. Впрочем, с 2015 года робот Roomba оснащен функцией локализации и создания карты жилого пространства. Теперь он может пылесосить намного эффективнее и возвращаться для подзарядки. Да, это означает, что робот следит за вами. В итоге, в конце 2022 года в Facebook[55] были опубликованы сделанные моделью Roomba J7 конфузные кадры людей, сидящих в туалете. А в сеть эти фото попали после того, как их отправили в стартап Scale AI, который использует людей для маркировки данных в целях обучения искусственного интеллекта.

Компания iRobot не ограничивается только лишь разработкой домашних помощников. Они создали роботов, которые исследовали Великую пирамиду в Гизе в поисках скрытых камер, разряжали бомбы в Ираке и Афганистане, а также собирали данные после ядерной катастрофы Фукусимы и обнаружили разлив нефти после аварии на скважине Deepwater Horizor в 2010 году.

Сделка Amazon по поглощению iRobot стоимостью 2,5 миллиарда австралийских долларов, о которой было объявлено в августе 2022 года, провалилась в январе 2024 года после проверки Европейской комиссией из-за нарушения антимонопольных норм.

Amazon выплатил iRobot компенсацию за досрочное расторжение сделки в размере 94 миллиона долларов США, но, несмотря на это, объявил о сокращении штата втрое. Надеюсь, что это всего лишь небольшая заминка на пути к роботизированному будущему.

STANLEY

Дороги – еще одно место в нашей жизни, куда начинают проникать роботы. Возможно, вы думали о том, что это не роботы, а беспилотные автомобили, но на самом деле это и есть роботы[56]*. Это машины, оборудованные сенсорами для предоставления информации о мире, компьютером – для принятия решений и исполнительными механизмами (актуаторами) – для взаимодействия с внешней средой. В беспилотный автомобиль встроены сенсоры наподобие камер для наблюдения за дорогой, бортовой компьютер – для решения о том, куда направляться, когда ускоряться и когда тормозить, а также актуаторы – для регулировки дросселя, активации тормозов и поворота руля. Все это делает беспилотные автомобили роботами.

Без сомнения, вы огорчены, что беспилотные автомобили обещают нам уже многие десятилетия. В далеком 1940 году промышленный дизайнер Норман Бел Геддес в своей книге «Магические автострады» смело вообразил, что такие автомобили появятся на дорогах к 1960 году. Сравнительно недавно Илон Маск также предсказал их скорое появление. В 2015 году он сказал, что на это потребуется около трех лет, а в 2016-м он поднял планку и пообещал, что беспилотные автомобили будут запущены на год раньше, уже к 2017 году. В 2019 году срок сдвинулся на 2020 год, а в 2022-м он снова заверил, что осталось подождать лишь год. Каждый раз он ошибался.

Так где же все беспилотные автомобили? Реальность такова, что они приходят незаметно. Современные машины – уже компьютеры на колесах. Они наполнены разными датчиками, лидарами (LIDAR) и радарами для восприятия окружающего мира, а возможности беспилотных автомобилей – уже обычное явление для езды по магистрали. Конечно, движение по трассе намного проще, чем в городе, полном пробок, опасностей в виде велосипедистов, пешеходов и перекрестков. Тем не менее беспилотные автомобили отлично со всем этим справляются.

Технологии для создания беспилотных автомобилей разрабатывались многие десятилетия. В 2004 году DARPA объявило премию в размере миллиона долларов для стимулирования исследований в этой области. За этот приз на маршруте длиной в 240 километров посреди пустыни Мохаве на границе штатов Калифорния и Невада соревновались 15 команд. Это было полным провалом. Два транспортных средства были исключены из финальной гонки еще до ее начала, а другое перевернулось на старте. После нескольких часов езды по пустыне большинство машин потерпели критические поломки, что привело к дисквалификации или выводу из гонки. Самое большое пройденное расстояние составило жалкие 11 километров.

В следующем году, когда приз увеличили в два раза, команды действовали намного лучше. Пять из 23 команд успешно выполнили заезд на 212 километров. Победителем гонки стал Stanley (Стенли), беспилотный автомобиль Стэнфордского университета. Он проехал расстояние за семь часов и прибыл к финишу на 11 минут раньше своего главного соперника Sandstorm из университета Карнеги – Меллона. Возможно, Stanley навеял на вас мысли о Стэнфорде, но на самом деле он был назван в честь Стенли Кубрика. Автомобиль представлял собой модифицированный и доработанный Volkswagen Touareg 2005 года. Сейчас его можно увидеть в Национальном музее воздухоплавания и астронавтики в Вашингтоне[57]. Лидер победившей команды Себастьян Трун[58] высказался о таком результате: «Невозможное было достигнуто».

Stanley стал еще одним кажущимся молниеносным успехом, на достижение которого на самом деле ушли десятилетия. Одним из самых важных предшественников Stanley был проект Eureka PROMETHEUS, финансируемый Европейским союзом с 1987 по 1994 год. Затраты на него составили 800 миллионов евро. Над проектом разработки беспилотного автомобиля сосредоточился консорциум, состоящий из европейских автопроизводителей, университетов и технологических компаний. По окончании проекта в 1994 году технологии и системы прошли испытания в реальных условиях на двух специально разработанных автономных прототипах транспортных средств – VaMP и VITA–2. Благодаря такому знаменательному достижению эти беспилотные автомобили успешно проехали более тысячи километров по магистралям вокруг Парижа в условиях реального городского трафика, развивая скорость до 130 км/ч. Если вам когда-либо приходилось водить на французских дорогах, вы по достоинству оцените этот подвиг.

Прототипы продемонстрировали такие технологии беспилотного транспорта, как компьютерное зрение для распознавания дорожной полосы, системы предотвращения столкновений и планирование маршрута, которые сейчас привычное явление. Таким образом, они стали кирпичиками, заложившими фундамент для Stanley и автономных транспортных средств Waymo, Cruise, Tesla и многих других собирающихся сегодня.

СОФИЯ

Позвольте мне закончить этот небольшой раздел рассказом о роботе, взбудоражившим общественное сознание. София, человекоподобный андроид, произвела огромное впечатление на аудиторию в ООН, на телевидении и по всему миру. На

Вам не стоит беспокоиться о Софии. Честно говоря, София своего рода обман. Чтобы понять суть обмана, необходимо заглянуть в тот пытливый ум, который породил Софию на свет, ум Дэвида Хадсона Мл., основателя и CEO компании Hanson Robotics. Получив степень бакалавра в кинематографии, он работал скульптором и создателем анимационных фигур в тематическом парке Disney, а после получил степень PhD в области искусств и эстетики. Он был одержим созданием человекоподобных роботов, но в его работах больше эффектного оформления, чем содержания.

Хадсон считает, что напоминающие человека роботы будут способны установить глубокую и осмысленную связь с людьми. Кажется, реакция публики на Софию подтвердила его мнение. София выглядит обманчиво человекоподобной. Алые губы. Порхающие ресницы и чарующий взгляд как будто отслеживают ваши движения. Ее чары усиливаются по мере того, как она начинает беседу, играя с границами возможного. В 2018 году член ежегодного мероприятия Brain Bar, проводимого в Будапеште, спросил у Софии про ее первое воспоминание. Она ответила: «Открыла глаза и подключилась к интернету. Белые стены и зеленые шкафы лаборатории. Лицо Дэвида».

Илл. 13.София на международной конференции Global Media Forum в 2019 году в Бонне

В одном из выпусков «Вечернего шоу» в 2017 году Джимми Фэллон язвительно пошутил о ее реалистичной внешности, на что Хадсон ответил: «Она, в своем роде, живая». Чем вызвал шквал критики и эмоций. «Полная ерунда!» – комментировал Ян Лекун[59] в Twitter (теперь X), ведущий ученый в исследовательской лаборатории искусственного интеллекта Facebook. Он сравнил Софию с «карго-культовым искусственным интеллектом», в котором поверхностные признаки интеллекта ошибочно принимаются за подлинные когнитивные способности, к большому огорчению компетентных специалистов.

Лекун был прав. В большой степени София – это фарс. За ее красивой оболочкой практически не найти интеллекта. Ее диалоги и жесты тщательно прописаны. Однажды я попытался нанять Софию для открытия крупной конференции по искусственному интеллекту. Меня потрясла цена в 50 000 австралийских долларов за то, чтобы отвезти ее в Мельбурн на целый день. Что меня не удивило, так это форма бронирования, в которой говорилось о том, насколько заранее должны быть запрограммированы разговоры. Более глубокая история заключается в том, что София играет на нашей естественной доверчивости. Мы быстро придаем человеческие качества неодушевленным объектам, когда они кажутся человеческими, даже если за их внешним видом скрывается никакой, слабый, искусственный или какой-либо другой интеллект.

Все, что я могу сказать, так это: «Будьте осторожны!»

Часть 2

Эра обучения

Идея № 4:

Искусственный мозг

Сейчас мы переходим ко второй части нашей краткой истории искусственного интеллекта.

К этому времени искусственный интеллект научились программировать. Мы тщательно думали о том, как люди решают проблемы. Мы рассматривали, как люди могут ориентироваться на местности (идея № 1 «Поиск ответов»), играть в игры (идея № 2 «Сделать лучший ход») и как стать экспертом в узкой специализации (идея № 3 «Следовать правилам»). Затем писали ИИ-программы, чтобы облегчить эти процессы, но ручное программирование оказалось медленным и до боли трудоемким, а также сильно зависящим от нашего не слишком хорошего человеческого понимания о способностях решать проблемы. Наверняка должен быть способ получше.

И вновь вдохновились человеческим интеллектом. В школе мыучимсямножеству умных вещей, которые выполняем ежедневно. Рождаясь, мы не умеем ни читать, ни писать, ни решать квадратные уравнения и тем более сочинять стихи. Многое из того, где задействованы умственные способности, мыучимсяделать. Могут ли компьютеры все это повторить?

Впервые эта идея была озвучена Аланом Тьюрингом в его работе «Вычислительные машины и разум», опубликованной в 1950 году. Возможно, вы вспомните, что эта работа считается первым научным трудом в области искусственного интеллекта, в котором Тьюринг представил свой тест, впоследствии названный его именем. Тем не менее, помимо теста, работа описывает другую важную идею. Рассмотрев причины, по которым разработка искусственного интеллекта может оказаться невозможной, Тьюринг обратился к вопросу о том, как мы могли бы создать его. И здесь он предложил идею «обучающихся машин»:

«Вместо того чтобы пытаться воспроизвести программу с моделью мышления взрослого человека, почему бы не создать программу, имитирующую умственные способности ребенка? Впоследствии, чтобы приобрести мышление взрослого, она может быть подвергнута определенному курсу обучения».

Несмотря на очевидную привлекательность идеи Тьюринга, «обучающиеся машины» на ранних этапах искусственного интеллекта не принесли особого успеха. На самом деле, ситуация оставалась таковой вплоть до 2010-х, пока не презентовали новый подход под названием «глубокое обучение» и «обучающиеся машины» набрали популярность.

И вновь к «мгновенному» успеху привели более чем 50 лет разработки. Чтобы понять этот успех, нам снова необходимо вернуться во времена Второй мировой войны и познакомиться с двумя яркими персонажами из ранней истории искусственного интеллекта.

* * *

Обучение происходит в мозге. Естественный способ разработать машину, обладающую способностями к обучению, – это создать искусственный мозг. Из этого вытекает четвертая главная идея в области искусственного интеллекта сегодня.Вы можете воспроизвести человеческий мозг с сетью искусственных нейронов, которые учатся на собственном опыте.

Вот только у этой идеи есть две небольшие проблемы. Первая заключается в том, что человеческий мозг, пожалуй, – самый сложный предмет во вселенной. Ничто из того, что сейчас нам известно, не может сравниться по сложности с миллиардами нейронов и триллионами синапсов, которые их соединяют. А вторая проблема – это то, что у нас практически нет полного понимания работы даже одного мозгового нейрона, не говоря уже о миллионах. Но эти трудности не остановили наших выдающихся персонажей от попытки скопировать работу мозга на компьютере. Позвольте представить, Уолтер Питтс и Уоррен Маккаллок, одаренные и эксцентричные ученые, которые в 1940-е годы заложили основы нейросетей, одной из самых важных технологий, созданных за всю историю развития искусственного интеллекта.

Уолтер Питтс был вундеркиндом из трудной семьи в Детройте. По легенде, однажды, чтобы скрыться от местных хулиганов, он засел в библиотеке и остался там после закрытия, и в течение трех следующих дней поглощал Principia Mathematica (ранее мы уже встречали эту работу, когда рассматривали первую программу Logic Theorist). Principia Mathematica – труд в 2000 страниц, написанный Бертраном Расселом и Альфредом Уайтхедом, чтобы дать логическую основу

Илл. 14–15.Уолтер Питтс (слева) и Уоррен Маккалок. Фотография Лотфи Заде, отца «нечеткой логики»

В ответ Рассел великодушно пригласил Питтса в Кембриджский университет учиться у него в качестве аспиранта. Он и не подозревал, что Питтсу на тот момент было всего лишь 12 лет. Неудивительно, что Уолтер отказался от этого предложения. Однако переписку не прекратил. В возрасте 15 лет он покинул дом и отправился в Чикагский университет, где посещал лекции Рассела.

Именно в Чикаго Питтс попал в поле зрения Уоррена Маккаллока, профессора психиатрии из соседнего университета Иллинойса. Маккаллок происходил из совершенного иной среды, чем бездомный Питтс. Он родился в обеспеченной семье юристов, врачей и инженеров с Восточного побережья, учился в Йельском и Колумбийском университетах. Годы в привилегированных местах воспитали уверенного в себе заядлого курильщика, который был частично философом, частично поэтом и частично ученым.

Единственное, что объединяло эту необычную пару, Питтса и Маккалока, – это легендарный Готфрид Лейбниц. Они оба преклонялись перед философом XVII века, особенно перед его попыткой создать алфавит человеческой мысли, которая, как я уже говорил ранее, была частью предыстории искусственного интеллекта. И вот, Питтс и Маккаллок вместе приступили к продолжению работы Лейбница.

Другим источником их вдохновения была Principia Mathematica. Рассел и Уайтхед свели всю математику к простой логике «истины» и «лжи», или логике нулей и единиц, работая с «истиной» (1) и «ложью» (0) с помощью конъюнкции («и»), дизъюнкции («или») и отрицания («не»). Питтс и Маккаллок стремились повторить это бинарное разложение в своей упрощенной модели искусственного мозга.

Мозг представлял собой бинарное устройство, в котором нейроны, объединенные в сложную сеть, активируются или нет. Итак, идея Питтса и Маккаллока состояла в том, чтобы разложить искусственный мозг на простую сеть бинарных нейронов, подобно тому, как логическая формула может быть разложена с помощью простых логических связок, таких как «И», «ИЛИ» и «НЕ».

ИСКУССТВЕННЫЙ НЕЙРОН

Питтс и Маккаллок начали с простой бинарной модели нейрона под названием «перцептрон». По сути, это логический вентиль. Он имеет два или более входа. Перцептрон суммирует взвешенную сумму этих входных данных. Если сумма превышает пороговое значение, то срабатывает выходной сигнал перцептрона. Если сумма не превышает пороговое значение, то выходной сигнал не срабатывает. Это объясняет принцип работы перцептрона. Но как он учится?

Вот тут-то мы и обращаем внимание на входные данные. Точно так же, как обучение в мозге усиливает или ослабляет входные сигналы для нейронов мозга, мы просто корректируем веса входных сигналов для перцептрона. Более важные входные данные получают больший вес, в то время как менее важные получают меньший вес.

Мы можем произвольно настраивать веса до тех пор, пока не найдем подходящую комбинацию, но есть более систематизированный подход, при котором мы плавно регулируем вес. Преподаватель психологии в Корнельском университете Фрэнк Розенблатт решил реализовать эту идею, сперва в 1957 году на программном обеспечении компьютера IBM 704, а затем на аппаратном в 1960-м. Созданный им перцептрон «Марк–1» стал первой нейросетью и сейчас хранится в Смитсоновском институте.

Перцептрон «Марк–1» – это искусственный мозг, поразивший воображение общественности. The New York Times назвала перцептрон «зародышем электронного компьютера, который, как ожидают [ВМС США, финансирующие исследования], сможет ходить, говорить, видеть, писать, самовоспроизводиться и осознавать свое существование» [1]. Розенблатт подкрепил эти грандиозные надежды смелыми заявлениями. В 1958 году он писал:

«Рассказы о создании машин, обладающих человеческими качествами, долгое время привлекали внимание специалистов из области научной фантастики. И мы вот-вот станем свидетелями создания такой машины, способной воспринимать, узнавать и идентифицировать окружающий мир без какой-либо подготовки или контроля с человеческой стороны» [2].

На оптимистичный настрой было несколько причин (хотя, возможно, и не такой уж оптимистичный). Первые результаты «Марка–1» были многообещающими и показали, что сеть перцептронов в теории может реализоватьлюбуюлогическую функцию. Но вскоре мечты столкнулись с реальностью. Все-таки простая перцептронная сеть – это сильно упрощенная модель человеческого мозга. Скорее, даже крайне упрощенная модель ограниченного понимания человеческого мозга, доступная ученым в 1940-х. Например, связи в человеческом мозге могут как создаваться, так и разрушаться, в то время как сеть перцептронов постоянна и неизменна. При этом нейроны зависят от времени поступления сигналов, тогда когда перцептроны работают синхронно.

Тем не менее такие упрощения не были причиной того, что перцептроны стали невостребованными. Розенблатт столкнулся с критикой, которая отбросила назад развитие нейросетей. В частности, несколько ключевых исследователей публично выступили против идеи перцептронов. Пожалуй, самой важной фигурой был Марвин Минский, один из организаторов Дартмутского семинара и ведущий деятель в области искусственного интеллекта. Известная сегодня книга «Перцептроны», авторами которой стали Минский и Сеймур Пейперт, оба представители Массачусетского технологического института, была издана в 1969 году. В ней исследовались границы возможностей, доступных компьютерам на базе перцептронов. Пожалуй, самое важное из всего изложенного в книге – это то, что сеть с одним слоем перцептронов не способна усвоить даже такую простую концепцию, как «четное или нечетное».

Их книга не должна была оказать того негативного влияния, какое она оказала. Выяснилось, что если выйти за рамкиоднослойноймодели и расширить модель домногослойнойсети, то перцептроны могут обучиться принципу «четное или нечетное», но вся проблема заключалась в том, что идея их ограниченности уже укоренилась.

Другие высказывали предположения, что перцептроны попали в немилость из-за того, что обучение по правилам Розенблатта было слишком медленным. (Для решения этой проблемы потребовалось много времени, вплоть до 2010-х, а также три главных достижения – популяризация метода обратного распространения ошибки, а также гораздо более быстрые компьютеры и бóльшие наборы обучающих данных.) Возможно, дело было в продолжающемся противостоянии двух лагерей – одни выступали за символизм искусственного интеллекта, а другие были приверженцами машинного обучения. Фанаты символического подхода, в числе которых были Джон Маккарти и Марвин Минский, занимали влиятельные посты в 1960-е годы. Фрэнк Розенблатт обладал сильным характером, но его слишком воодушевленные заявления не помогли делу.

Что бы то ни было, в течение последующих 40 лет попутный ветер перестал дуть в паруса корабля под названием «Революция нейронных сетей». Розенблатт продолжил работать над перцептронами, несмотря на значительное сокращение финансирования. А многие другие прекратили. На самом деле, многие полностью покинули область и нейронные сети стали непопулярными. Последняя попытка Розенблатта использовать перцептроны была в период с 1961 по

Фрэнк Розенблатт был потрясающим человеком, круг интересов которого варьировался от астрономии до музыки, альпинизма и политики. Он учился в школе естественных наук в Бронксе, место, которое взрастило больше нобелевских лауреатов, чем какое-либо другое, а также воспитала нескольких победителей премии Тьюринга, включая Марвина Минского. Будучи взрослым, Розенблатт построил обсерваторию на вершине холма недалеко от своего дома, которую он использовал для поиска внеземного разума. К сожалению, в 1971 году, в свой 43-й день рождения, он погиб в результате несчастного случая во время катания на лодке[60]. К этому времени Розенблатт отошел от идеи перцептрона, а его исследования заключались во введении необученным крысам материала, полученного из мозга обученных крыс, чтобы посмотреть, станут ли первые умнее.

ГЛУБОКОЕ ОБУЧЕНИЕ

Мечты Фрэнка Розенблатта не исчезли вместе с публикацией книги Минского и Пейперта. Один из основоположников искусственного интеллекта Джеффри Хинтон продолжил миссию Розенблатта по разработке искусственного мозга. И в самом деле, Хинтон систематически занимался решением проблем, затронутых в книге.

Джеффри Хинтон (полное имя Джеффри Эверест Хинтон) – праправнук Джорджа Буля. Джордж Буль встречался на нашем пути краткой предыстории искусственного интеллекта как изобретатель «алгебры логики», логики нулей и единиц, использующейся в компьютерах сегодня. Второе имя Хинтона происходит от другого родственника, вошедшего в историю, сэра Джорджа Эвереста, главного геодезиста Индии, в честь которого названа гора.

В 2015 году я присутствовал на праздновании двухсотлетия со дня рождения Джорджа Буля в его альма-матер, Королевском колледже Корка (сейчас носит название «Университетский колледж Корка»). Джеффри Хинтон тоже был там, равно как и несколько других наследников Буля. Гены явно дают о себе знать.

На протяжении всей своей карьеры Джеффри Хинтон был индивидуалистом, не боявшимся следовать неординарному и непопулярному, точь-в-точь как его прапрадед за 200 лет до его рождения. В случае Хинтона, начиная с конца 1970-х годов, он в течение нескольких десятилетий упорно занимался разработкой нейросетей, несмотря на то что эта область была глубоко не в духе времени и невзирая на сильное сопротивление научного сообщества.

Как выпускнику Кембриджского университета, Хинтону было сложно найти интеллектуальное пристанище. Он пробовал себя в разных областях, изучал естественные науки, историю искусств, а затем и философию до того, как в конце концов осел в области экспериментальной психологии. Он продолжил обучение в аспирантуре на факультете искусственного интеллекта Эдинбургского университета, который в то время был единственным в мире. В 1977 году он получил степень PhD в области компьютерного зрения[61].

Илл. 16.Джордж Буль (слева) и его праправнук Джеффри Хинтон

Хинтону не удалось получить финансирование на свои непопулярные идеи об искусственном интеллекте в Великобритании, поэтому сначала он переехал в Соединенные Штаты, где недолгое время работал в Университете Калифорнии в Сан-Диего и университете Карнеги-Меллона, а затем перебрался в Канаду и начал свою деятельность в университете Торонто. Там он получил поддержку от малоизвестного, но дальновидного финансового агентства, Канадского института перспективных исследований (CIFAR).

Первое затруднение, поразившее идею перцептрона, как мы уже увидели, заключалось в их неспособности обучиться даже простой концепции «четное или нечетное». Хинтон быстро продемонстрировал, что дополнительный (его часто называют «скрытый») слой нейронов позволит нейросети обучиться не только «четному и нечетному», но и другим, более сложным функциям. Однако Хинтон не остановился только лишь наодном дополнительномслое, он популяризировал идею «глубокого обучения», используя нейросети смножествомслоев.

Следующая трудность, которую Хинтону необходимо было разрешить, была скорость самого обучения. В 1986 году Хинтон вместе с Дэвидом Румельхартом[62] и Рональдом Дж. Уильямсом написал знаковую работу, продвигающую гораздо более быстрый способ обучения для обновления весов в нейронных сетях. Такой способ назывался «методом обратного распространения ошибки» (backpropagation) и был создан целой командой специалистов. Сам термин был введен Розенблаттом в 1962 году, но он и понятия не имел, как применить его. Стоит также отдать дань уважения и Полу Вербосу, который в 1982 году предложил тренировать нейронные сети методом обратного распространения ошибки, но в 1970 году его опередил Сеппо Линнайнмаа[63]. Следует упомянуть и других ученых, включая Артура Эрла Брайсона (1961), Генри Дж. Келли (1960) и Льва Понтрягина[64] (конец 1950-х). По сути, метод обратного распространения ошибки – это применение цепного правила для дифференцирования, которое многие из нас изучали в школе и которое в 1673 году изобрел Готфрид Лейбниц, другая выдающаяся личность из предыстории искусственного интеллекта.

Обратное распространение ошибки – разумный путь обновить веса в нейронных сетях. Он вычисляет градиент – скорость, с которой выходные данные изменяются по мере изменения входных данных. И точно так же, как и вы можете быстрее взойти на гору, следуя по самому крутому склону, обратное распространение следует градиенту, чтобы быстрее найти наилучший вес. Обратное распространение ошибки означало, что веса в глубокой многослойной нейросети могут обучаться быстрее. Но расчеты для этого все равно были довольно обременительными.

Открытие, случайно сделанное в 2012 году одним из аспирантов Хинтона Алексеем Крижевским, позволило выполнять метод обратного распространения ошибки более эффективно. Алексей понял, что графические процессоры, используемые для рендеринга видео в 3D формате для компьютерных игр, идеально подходили для выполнения умножения матриц, необходимых для вычисления градиентов и выполнения обратного распространения ошибки. Это означало, что теперь Хинтон мог эффективно тренировать очень глубокие нейронные сети.

Открытие быстро увеличило рыночную капитализацию корпорации NVIDIA, занимающую 80% рынка графических процессоров, более чем на триллион долларов США. Без сомнения, они являются одной из самых удачливых компаний в истории. Невзначай они нашли свое призвание, продавая лопаты во время золотой лихорадки.

РЕЦЕПТ ОБУЧЕНИЯ

Джеффри Хинтон описал метод обратного распространения ошибки как лучший для нейросетей алгоритм обучения. Благодаря графическим процессорам он обладал более эффективными мощностями для выполнения обратного распространения. Наличие этих двух компонентов означало, что теперь нейронные сети могут быть намного глубже. Рецепт глубокого обучения был почти готов: метод обратного распространения ошибки в глубоких нейросетях и использование графических процессоров для тяжелых вычислений. Хинтону был необходим третий и заключительный элемент для того, чтобы глубокое обучение хорошо работало. Третьим компонентом были обучающие данные. Много данных. Такие методы машинного обучения, как глубокое обучение, требуют огромного количества обучающих данных. В идеальном случае сотни тысяч или даже миллионов примеров.

К счастью для Хинтона, другой исследователь в области искусственного интеллекта Фей-Фей Ли пришла к такому же выводу в 2006 году, усердно над этим работая. Она сконцентрировалась на компьютерном зрении, в частности на распознавании объектов. Можно ли заставить компьютер идентифицировать объекты на изображении?Это яблоко. Это банан. Это велосипед. Это человек.Распознавание объектов – важная работа в самых разных областях применения, от сбора фруктов до беспилотных автомобилей. Вскоре она занялась созданием нейросети ImageNet[65], огромной базы данных тренировочных изображений для алгоритмов компьютерного зрения.

Илл. 17.Фей-Фей Ли на международном саммите «Искусственный интеллект во благо» в Женеве в 2017 году

Фей-Фей Ли выросла в Чэнду, промышленном городе в южной части Китая, и в возрасте 16 лет вместе с семьей иммигрировала в Соединенные Штаты. Родители были небогаты, но она получила стипендию в Принстоне, а затем окончила докторантуру в Калифорнийском технологическом институте в Пасадене, работая на стыке нейробиологии и информатики. Затем она стала директором легендарной Стэнфордской лаборатории искусственного интеллекта и, во время академического отпуска в Стэнфорде, была ведущим научным сотрудником в Google Cloud.

В 2007 году Ли начала разработку ImageNet. В помощь она наняла своих студентов, которым платила десять долларов в час за маркировку изображений для включения их в ее базу данных. Но прогресс был дорогим и медленным. Позже студенты предложили ей попробовать воспользоваться услугами краудсорсинга от Amazon Mechanical Turk[66]. Благодаря этому сервису она смогла нанять больше работников, что стоило значительно меньше, чем если бы она платила принстонским студентам.

К 2009 году количество изображений в ImageNet превысило три миллиона, и сеть стала доступна пользователям по всему миру. С тех пор объем изображений достиг 14 миллионов, и все они были разделены на 21 000 категорий, например «шары», «бананы» или «лодки». Затем, в целях продвижения ImageNet и в целом исследований в области искусственного интеллекта, в 2010 году было организовано ежегодное соревнование «Конкурс визуального распознавания ImageNet», в котором приняли участие лучшие компьютерные алгоритмы. Конкурс прошел с огромным успехом, привлек внимание исследовательского сообщества и ускорил прогресс в области искусственного интеллекта.

На конкурсе ImageNet в 2012 году Джеффри Хинтон вместе с Алексеем Крижевским, Ильей Суцкевером[67] и другими докторантами Хинтона впервые собрали все три компонента для глубокого обучения: метод обратного распространения ошибки в глубоких нейросетях, использование графических процессоров для тяжелых вычислений и огромные массивы обучающих данных. Такой простой рецепт произвел приятное впечатление, более того, их появление выбило оппозицию из колеи. Частота ошибок созданной ими AlexNet, восьмиуровневой сети глубокого обучения, равнялась 15,3%, опережая соперников на более чем 10,8 процентных пункта. Такой отрыв до сих пор считается самым большим за всю историю конкурса.

Интересный факт, что AlexNet не была первой глубокой нейросетью или первой глубокой нейросетью, использующей графический процессор, и даже не первой глубокой нейросетью, использующей графический процессор и ставшей победителем на соревнованиях с большим отрывом. Ян Лекун сейчас занимает пост главного специалиста по искусственному интеллекту в компании Meta и должность профессора в Нью-Йоркском университете, но в 1995 году он и несколько его коллег из Лаборатории Белла (Bell Labs) в Нью-Джерси стали новаторами семислойной нейросети LeNet–5. В конце 1990-х и начале 2000-х годов такие компании, как NCR, использовали ее для распознавания и обработки более 10% банковских чеков в Соединенных Штатах, а почтовая служба США – для помощи в сортировке написанных от руки писем через распознавание штрих-кодов. Многие другие исследователи также использовали графические процессоры для ускорения работы нейросетей, по крайней мере, с 2006 года. Глубокая нейронная сеть на базе графического процессора DanNet Юргена Шмидхубера в 2011 и 2012 годах стала четырехкратным победителем четырех соревнований в области компьютерного зрения, в некоторых случаях с существенным отрывом [3].

Но только AlexNet удалось собрать все три компонента и завоевать внимание исследователей в области искусственного интеллекта по всему миру. Это стало ознаменованием начала революции глубокого обучения, отголоски которого слышны и сегодня в таких системах, как ChatGPT от OpenAI и Gemini от Google.

Осенью 2012 года в Северном полушарии Хинтон, Крижевский и Суцкевер основали стартап для капитализации их чудодейственного рецепта исследования глубоких нейронных сетей под названием DNNresearch (DeepNeuralNetworkResearch). Всего лишь несколько месяцев спустя, в декабре 2012 года, на главной конференции в области исследования нейросетей NIPS (Neural Information Processing Systems) в казино Harrah’s & Harvey’s на озере Тахо, Хинтон решил обналичить счет, организовав аукцион по продаже DNNresearch. В нем приняли участие Google, Microsoft, Baidu и DeepMind (который сейчас принадлежит Google). Хинтон остановил аукцион на ставке в 44 миллиона долларов от Google. Без сомнения, он мог бы получить и больше, но, по его мнению, это была справедливая цена за компанию с тремя сотрудниками-основателями, без товаров и полудюжиной патентов.

Как часть приобретенной компании, Хинтон, Крижевский и Суцкевер перешли работать в Google. Три года спустя, в декабре 2015-го, Суцкевер покинет Google, чтобы стать основателем и главным научным сотрудником OpenAI. Компании OpenAI мы кратко коснемся, поскольку она играет важную роль в современной истории искусственного интеллекта. В 2017 году Крижевский также покинет Google ради стартапа в области глубокого обучения, а вот Хинтон останется до самого выхода на пенсию в 2023-м.

ТРАНСФОРМЕРЫ

Для того чтобы получить чат-ботов по типу ChatGPT и достичь многих других современных достижений в области искусственного интеллекта, которые продвигают компании Google, Meta и OpenAI, нам все еще необходимы два важных компонента. Первый – буква «Т» в аббревиатуре GPT, которая означает «трансформер». Это особая архитектура, объединяющая нейроны в нейросети. Ее следует представлять как схему подключения нейронных сетей, которая особенно хорошо работает с последовательными данными. Последовательные данные – это любые данные, например текст, который появляется последовательно, и то, где важен порядок. Такие данные охватывают большой спектр полезных вещей, в который входят не только тексты, но и метеорологические данные, котировки акций, структуры белков, музыка и речь.

AlexNet в 2012 году представляла собой систему компьютерного зрения, разработанную для обработки изображений. Картинки не последовательны и не одномерны, они двумерны. Очень важно учитывать двухмерность при обработке изображений. Например, вы можете передвигать картинку влево или вправо, вниз или вверх, но сама картинка не меняется. Банан остается бананом, даже если вы передвинули его на два пикселя влево или на три пикселя вниз.

Чтобы воспользоваться преимуществом двухмерности изображений, нейронные сети по типу AlexNet используют особую архитектуру, которая называется сверточная нейронная сеть, позволяющую нейросетям работать с передвигаемыми изображениями. В частности, сверточная нейронная сеть

Элис знала, что ее работа содержит ошибки,

но она не собиралась исправлять их.

Местоимение «их» относится к существительному «ошибки», а местоимение «она» к существительному «Элис». Оба местоимения находятся далеко от существительных, к которым они относятся. Именно здесь архитектура трансформеров играет важную роль. Она позволяет нейронным сетям идентифицировать такие зависимости на больших расстояниях, используя механизм внимания.

Думаю, что это не станет удивительным для вас фактом, но нам могут потребоваться различные нейронные архитектуры для выполнения разных задач. Этот факт нам известен благодаря человеческому мозгу. Лобные и височные доли отвечают за речь и язык, а зрительная кора головного мозга ответственна за зрение и восприятие. Разные части мозга имеют разные нейронные структуры.

Архитектура трансформера была впервые предложена в 2017 году командой Google Research в известной работе «Все, что вам нужно, – это внимание»[68] [4], ставшей классикой с более чем 100 000 цитирований, что делает эту работой четвертой в списке самых цитируемых трудов всей научной литературы. Сейчас трансформеры используются в различных ИИ-системах, обрабатывающих последовательные одномерные данные, от Google Translate, чат-бота ChatGPT от OpenAI до сервиса транскрибирования аудио от Zoom, и даже программного обеспечения для клонирования голоса от Descript. Трансформеры – одна из главных причин недавнего бума искусственного интеллекта. Стоит отметить, что в 2017 году Google открыто представила архитектуру трансформеров в научной публикации, сделав ее доступной для всех желающих.

Название знаменитой работы команды Google Research – добродушная отсылка к хиту The Beatles “All You Need Is Love” («Все, что вам нужно, – это любовь»). Эта песня также носит исторический характер, поскольку была написана для первого глобального телевизионного шоу в прямом эфире, состоявшегося 25 июня 1967 года. При помощи спутника их послание любви получили более чем 400 миллионов человек в 25 странах, а копию текста песни, написанного рукой Леннона, в 2005 году продали на аукционе за 1,25 миллиона долларов.

Как и следует из их названия, трасформеры нужны нам, чтобы трансформировать. Они изменяют сложные входные данные на сложные выходные данные. Например, они могут преобразовать следующее:

•последовательность слов на одном языке в аналогичную последовательность на другом языке, как это делает Google Translate;

•последовательность слов в изображение, как это делает DALL-E;

•последовательность слов в виде вопроса в другую последовательность слов в виде ответа, как это делает ChatGPT;

•аудиопоследовательность в последовательность из слов, то есть выполнить транскрибирование этого аудиоматериала, как это делает специальный инструмент перевода речи в текст от Zoom.

Трансформация состоит из четырех этапов. Возможно, вы уже подумали о входящих данных, поочередно проходящих все четыре этапа, преобразовываясь на каждом из них во что-то другое. Начнем с входных данных. Предположим, что это последовательность слов. Первое преобразование – это преобразование последовательности во что-то, что компьютер сможет обработать, то есть в последовательность чисел. Первый этап называется токенизация. В английском языке более миллиона слов, поэтому было бы непозволительно иметь отдельный номер для каждого из них. Следовательно, токенизация заменяет общеупотребимые слова на отдельные числа (это и есть токены), но разделяет более сложные слова на части, каждая из которых выражена токеном. Обычный трансформер использует от 50 до 200 000 различных токенов.

Давайте рассмотрим такое предложение: «Секрет успеха – делать обычное необычайно хорошо». Оно разбивается на следующие слова и части слов: «секрет», «успеха», «—», «делать», «обычное», «не», «обычайно», «хорошо». Обратите внимание, как менее частотное слово «необычайно» разбивается на две более распространенные части: «не» и «обычайно». Каждое слово или его части представлены числом. Таким образом, у нас получается следующая последовательность токенов: [24782, 14939, 101, 48251, 28573, 33811, 19973, 49084][69]. Числовая последовательность – это то, с чем нейронная сеть легко может взаимодействовать.

ВЕКТОРНОЕ ПРЕДСТАВЛЕНИЕ СЛОВ

Теперь мы уже разобрались, что трансформеры могут преобразовывать текст в числовую последовательность. Числа – это хорошо, компьютеры прекрасно справляются с их обработкой. Однако мы кое-что потеряли в превращении текста в числовую последовательность. Мы упустили сложные взаимосвязи, существующие между словами. Например, слово «королева» близко к слову «король». Но «королева» также близка к слову «пчела»[70]. И хотя «жук» близок к «пчеле», «жук» не очень близок к «королеве». Когда создание искусственного интеллекта доходит до взаимодействия с языком, начинается головная боль. Нет возможности выбрать числа так, чтобы токен для слова «королева» был численно близок к токену «пчела», токен «пчела» был близок к «жуку», но при этом токен «жук» был бы численно далек от «королевы».

Решение этой проблемы заключается в преобразовании чисел во что-то меньшее одномерного. Следовательно, следующий этап – это трансформация токенов в более сложное представление, называемое вектором, который может отразить сложные взаимосвязи. Число – это точка на одномерной линии, а вектор – точка в многомерном пространстве. И здесь я не имею в виду обычные двух– или трехмерные пространства, к котором вы привыкли. Я говорю о векторах с сотнями или даже тысячами измерений. Сейчас очень сложно представить больше, чем три. Джеффри Хинтон для того, чтобы представить 14 измерений, часто советовал представить три и самому себе вслух повторять «четырнадцать». Боюсь, что лучшего способа я предложить не смогу.

Этот шаг – превращение токенов в векторы чисел – называется кодированием (encoding). Превращая слова в векторы чисел, мы можем уловить сложную взаимосвязь между словами. Позвольте мне проиллюстрировать три измерения, но помните, что мы можем играть с сотнями или даже тысячами измерений и уловить более сложные взаимосвязи между словами.

Предположим, что слово «королева» преобразуется в вектор [0,5, 0,3, –0,2]. А слово «король» – в вектор [0,7, 0,5, –0,4]. Аналогично предположим, что слово «мужчина» преобразуется в вектор [0,6, 0,4, –0,3]. А слово «женщина» становится вектором [0,4, 0,2, –0,1]. Возьмем «королеву», или ее векторное представление [0,5, 0,3, –0,2]. Теперь вычтем из него вектор «женщина», компонент за компонентом. Это дает нам [0,5, 0,3, –0,2] – [0,4, 0,2, –0,1], что равно вектору [0,1, 0,1, –0,1]. Теперь добавим к этому вектору слово «мужчина», то есть [0,1, 0,1, –0,1] + [0,6, 0,4, –0,3]. Это равняется [0,7, 0,5, –0,4]. Изящно, но это и есть вектор слова «король». Таким образом, мы математически показали, что в этом многомерном пространстве векторов:

Король = Королева + (мужчина – женщина).

Такое

Программист + (женщина – мужчина) = домохозяйка.

Или:

Архитектор + (женщина – мужчина) = парикмахерша.

Эти примеры иллюстрируют сексизм в текстах, на которых тренировался кодировщик [5]. Очевидно, что это было ненамеренно. Если бы мы работали усерднее, то сексизм и другие нежелательные предубеждения в векторном представлении слова были бы устранены.

Повторим, что первый этап – это токенизация, преобразование слов в последовательность токенов. Второй этап – это кодирование, которое преобразовывает последовательность токенов в последовательность векторов слов. На третьем этапе происходит настоящая магия. Ранее трансформер стремился уловить значение слов, сопоставляя их с векторами в многомерном пространстве. Однако связи между словами в тексте пока не учитывались. На третьем этапе трансформер начинает выявлять эти взаимосвязи.

Вернемся к нашему примеру:

Элис знала, что ее работа содержит ошибки,

но она не собиралась исправлять их.

В результате кодирования слова «она» и «их» представлены универсальными векторами, то есть это одни и те же векторы в любых предложениях, содержащих «она» и «их». На третьем этапе механизм внимания изменяет векторы так, чтобы вектор слова «она» был близок к слову «Элис», а вектор «их» был близок к «ошибкам». Таким образом определяется, к кому или чему относятся местоимения.

На этом этапе также устраняется неоднозначность омонимов (слова одинаковые по звучанию, но разные по значению) и многозначных слов. Это уличная лавка или мясная лавка? Это блюдо – еда или посуда?

Четвертый и завершающий этап – это декодирование, преобразующее векторы обратно в токены. Если декодер выполняет обратную функцию энкодера, то результатом будет лишь другое предложение на английском языке. Однако если декодер настроен на русский язык, то он сможет создать перевод английского предложения на русский.

BERT[71] – одна из широко используемых ИИ-систем, разработанных с использованием трансформеров – была предложена исследователями из компании Google в октябре 2018 года [6]. Год спустя Google объявили, что они начали использовать модели BERT в Соединенных Штатах для ответов на англоязычные запросы. На сегодняшний день поисковые запросы Google на более чем 70 различных языках обрабатываются моделью BERT. Многие другие разработанные модели, которые, как и BERT, используют трансформеры для преобразования векторов в слова, названы в честь героев «Улицы Сезам». Чат-бот от Baidu называется «Эрни» (ERNIE), а компания Allen AI создала энкодер «ЭЛМО» (ELMo). Был еще и «Гровер» (GROVER), детектор фейковых новостей на основе трансформера.

Названия в честь героев «Улицы Сезам», может, и милые, но еще милее то, что мы можем свести большую часть языка просто к нейронным сетям, которые преобразуют векторы чисел, представляющих слова. Кто бы мог подумать, что преобразование векторов чисел – это все, что нужно для понимания языка?

ТЕХНОЛОГИИ ОБЩЕГО НАЗНАЧЕНИЯ

Теперь, когда мы добрались до героев «Улицы Сезам», настало время рассказать о компании OpenAI и ее значении в истории искусственного интеллекта. Эта компания переняла и начала агрессивно запускать последние две идеи – трансформеры и такие системы, как BERT, что стало причиной огромного скачка в способностях ИИ-систем.

Компания OpenAI была зарегистрирована как некоммерческая организация в декабре 2015 года. Основателями стали CEO компании Tesla Илон Маск, который затем покинул компанию и основал компанию-конкурента, Сэм Альтман, действующий CEO компании OpenAI, Грег Брокман, действующий президент компании, и Илья Суцкевер, который был главным научным сотрудником, но впоследствии создал конкурирующий стартап – Safe Superintelligence Inc.

Миссия OpenAI очень амбициозная – улучшать и продвигать цифровой интеллект так, чтобы он приносил пользу всему человечеству, не ограничиваясь только лишь генерацией прибыли. Ранее Маск высказался о своих страхах касательно крупных технологических компаний, что они собираются завладеть всеми преимуществами передового искусственного интеллекта. OpenAI была его надеждой предотвратить воплощение его страхов.

Первая команда OpenAI имела звездный состав. Суцкевер был одним из самых сильных и технически подкованных в области искусственного интеллекта, а Альтман был его идеальным дополнением, поскольку на предыдущем месте работы он управлял Y Combinator, самым важным бизнес-инкубатором Кремниевой долины, где стал экспертом в масштабировании стартапов. Как мы позже узнаем, искусственный интеллект больше всего нуждался именно в масштабировании.

В момент зарождения компании Маск стал крупнейшим спонсором OpenAI, вложив от 50 миллионов до 100 миллионов долларов США от общего начального финансирования в 130 миллионов долларов. Рид Хоффман, Питер Тиль и некоторые другие инвесторы Кремниевой долины пообещали сделать свой вклад в OpenAI в размере миллиарда долларов, хотя до сих пор неясно, были ли эти инвестиции внесены.

Илл. 18.Сэм Альтман в 2019 году, харизматичный и противоречивый CEO компании OpenAI

Масштабирование вскоре «съело» все деньги. Стало очевидно, что миллиард долларов, конечно, огромная сумма для стартапа с сотней сотрудников, но все же этого было недостаточно для достижения целей OpenAI. В марте 2019 года компания приобрела двойной статус социально-коммерческой организации и получила от Microsoft инвестиции, на данный момент превышающие 13 миллиардов долларов США.

За первые годы работы у OpenAI возникали трудности с достижением результатов, которые бы соответствовали послужному списку ее звездной команды, а также отвечали их огромным амбициям. Изначально фокус был направлен на обучение с подкреплением, эту тему мы рассмотрим в следующей главе. Такой ход был очевидным, учитывая успех других в данной области за последние пару лет. На самом деле, первый прорыв OpenAI заключался в использовании обучения с подкреплением для победы в чемпионате по игре Dota 2, сложной и невероятно популярной многопользовательской видеоигры. Приз за победу в чемпионате достигал 40 миллионов долларов.

Несмотря на этот первоначальный успех, OpenAI находилась, так сказать, в тени DeepMind, компании на пять лет старше OpenAI, которая с 2010 года является пионером в использовании обучения с подкреплением. В следующей главе мы подробнее разберем DeepMind. OpenAI также инвестировала и в другие области, например в робототехнику, но, к сожалению, вложения не дали результатов и в 2021 потихоньку распустила свою команду разработки роботов.

В 2018 году все изменилось, и OpenAI отыскала золотую жилу. Ее команда переняла разработанную Google идею трансформеров c использованием систем по типу BERT и стала активно масштабировать их с помощью больших языковых моделей GPT – нейронных сетей, обученных на огромных текстовых массивах. Использование большого количества данных и вычислений позволило им разработать нейронную модель с выдающимися способностями. Агрессивное масштабирование было рисковым мероприятием. На сегодняшний день OpenAI уже потратила более 100 миллионов долларов США на тренировки языковых моделей. Но риск был оправдан, и сейчас стоимость OpenAI составляет около 100 миллиардов долларов.

Первая большая языковая модель из семейства GPT была запущена в июне

Toronto Book Corpus – один из нескольких наборов данных, взятых из интернета, используемых для обучения моделей искусственного интеллекта и не вызвавших публичные жалобы со стороны владельцев защищенных авторским правом данных. Тем не менее самиздат-авторы являются представителями особой группы. Множество других писателей открыто жаловались на то, что их работы используются без их согласия или вознаграждений, и я в их числе, так как мои книги были включены в программу обучения для GPT–3. На это есть причина, почему OpenAI наравне с другими технокомпаниями использовала научно-популярную литературу вроде моей для тренировки своих больших языковых моделей. Если вы хотите, чтобы чат-бот умел отвечать на вопросы обо всем, начиная с искусственного интеллекта и заканчивая зоологией, вам нужно обучать его на основе актуальных данных, содержащих информацию обо всем, начиная с искусственного интеллекта и заканчивая зоологией.

Вдохновленная многообещающими результатами, OpenAI решила идти дальше. Вторая модель из семейства GPT под названием GPT–2 вышла в феврале 2019 года. Она значительно превосходила GPT–1, обладая 1,5 миллиарда параметров, и была обучена на наборе данных из восьми миллионов веб-страниц, что также более чем на порядок больше, чем набор данных, используемый GPT–1. GPT–2 работала значительно лучше, чем предыдущая модель.

Теперь масштаб стал главной задачей OpenAI. Дебют третьей модели GPT–3 состоялся в июне 2020 года. Третья модель была уже разительно лучше второй, с 175 миллиардами параметров, и обучена на 500 миллиардах токенов, взятых из интернета. Тренировочные данные включали Википедию, Reddit, а также содержали тысячи книг, защищенных авторским правом. Объем набора данных составлял около 45 терабайт, что в 500 раз больше, чем использовалось для обучения GPT–2. На обучение GPT–3 было затрачено около пяти миллионов долларов. Производительность GPT–3 удивила и вдохновила многих специалистов в этой области.

Четвертая модель GPT–4 была запущена в марте 2023 года. По коммерческим причинам OpenAI больше не рассказывает о деталях, поэтому размеры и масштабы модели точно неизвестны. Единственное, что OpenAI не стала скрывать, так это название. Считается, что GPT–4 обладает около 1,76 триллиона параметров и обучена на 13 триллионах токенов. В одном из интервью Альтман заявил, что стоимость обучения GPT–4 превысила 100 миллионов долларов.

Вместе с тем, как GPT модели становятся больше, улучшается и их производительность. Необычный факт в области искусственного интеллекта – ведь мы привыкли, что комбинаторные тупики для нас привычное дело. Мы привыкли увеличивать масштаб проблем, а не решать их. В рамках обобщенной оценки понимания языка (GLUE)[72], учитывающей широкий спектр языковых задач, таких как семантическое сравнение предложений, анализ эмоциональной окраски текста и построение систем вопросов и ответов, результат модели GPT–1 составил 70%. Масштабирование помогло, и результат GPT–2 уже составил 80%, а GPT–3 достиг впечатляющих 89%. Что еще более впечатляюще, так это то, что большие GPT модели умели выполнять задания, которым они не были специально обучены, например резюмировать текст, написать компьютерный код и сделать перевод с одного языка на другой.

АббревиатураGPTрасшифровывается следующим образом: Генеративный (Generative) Предобученный (Pre-trained) Трансформер (Transformer). Не совсем красивое название. Генеративный означает, что модель способна генерировать текст. Предобученный означает, что модель предварительно обучена без какой-либо конкретной цели, кроме как обнаружения особенностей в обучающих данных. В таком случае она развивает общее понимание языка, а затем настраивается для выполнения конкретных задач, таких как ответы на вопросы, перевод текста или окончание предложений. Трансформер из-за того, что модель имеет архитектуру трансформера.

Думаю, что компания OpenAI остановилась на названии GPT, чтобы напомнить нам о своих попытках создать технологии общего пользования (general-purposetechnology). Технический термин «технологии общего пользования» пришел из экономики, где используется для описания технологий, влияющих на экономику в целом с различными экономическими и социальными последствиями. Примером могут служить такие изобретения, как паровой двигатель и электричество. Следовательно, GPT должен напоминать вам, что OpenAI стремится к общему искусственному интеллекту, тому, что соответствует человеческому во всех его возможностях. Многие исследователи OpenAI и области искусственного интеллекта в целом считают, что общий искусственный интеллект будет достигнут путем простого масштабирования больших моделей GPT. Будет ли это достигнуто на модели GPT–5[73] или GPT–15, остается неясным, но какая бы модель ни была, я кратко выскажусь о том, почему все эти люди могут ошибаться.

В ноябре 2022 года OpenAI сделала гениальный шаг и разработала чат-бот ChatGPT, ставший лучшим в семье GPT. Название ChatGPT в переводе означает «общение с GPT». Модель стала улучшенной версией GPT–3, способной отвечать на вопросы пользователей. Пока GPT–3 обсуждали в научных кругах, ChatGPT завоевала сердца миллионов, став самым быстрорастущим приложением в истории. Только за первую неделю число пользователей уже насчитывало миллион, а за два месяца выросло до 100 миллионов. Спустя год после запуска модель ChatGPT стала доступна более чем миллиарду человек, включая возможности использования через поисковик Bing от Microsoft, а также WhatsApp, Skype и Snapchat.

Финансово ChatGPT тоже преуспел. Рыночная стоимость компании OpenAI увеличилась в 100 раз и составила около 100 миллиардов долларов, а ее ежегодная прибыль насчитывает более миллиарда долларов. За все время существования капитализма еще не было столь стремительного обогащения. Даже необычная модель прибыли, ограничивающая доход инвесторов стократной отдачей, не помешала компании добиться финансового успеха.

Для создания ChatGPT команда OpenAI разработала новый способ обучения с подкреплением для точной настройки GPT моделей. В следующей главе мы разберем подробнее, и я поведаю больше деталей о таком типе обучения. В результате разработки получили языковую модель, нацеленную на любые задачи, поставленные пользователем. Завершающая часть создала нейронную сеть, которая захватила интерес общественности.

Ранее я уже приводил несколько примеров взаимодействия с ChatGPT, но позвольте мне показать еще некоторые его замечательные способности.

Я:Напиши сонет об истории искусственного интеллекта в стиле Уильяма Шекспира.

CHATGPT:

Минувших дней умы, наполненные дивом,

Сподвигли на создание машины,

Посеяли зерно, чтобы предстал пред миром

Мышления искусственного плод.

С былых времен мечтая о расцвете,

В преданиях и сказах определенно

В железе воплощение ума людского

Рукой математической на схеме будет создано.

Учет канонов вычислений

Дало продвинутым системам рост,

В эпоху

Искусственных умов сознание.

Страшась грядущих перемен теперь,

Мы чудеса воочию глядим, надеясь избежать потерь.

Я:Напиши один абзац о будущей истории искусственного интеллекта.

CHATGPT:В будущей истории искусственного интеллекта XXI век запомнится как время, когда искусственный интеллект вышел за грани возможного, меняя все аспекты человеческого существования. Прорывы в глубоком обучении и архитектурах нейронных сетей приведут к революции во многих областях, начиная здравоохранением и заканчивая финансами, транспортом и окружающей средой. В результате интеграции искусственного интеллекта в повседневную жизнь общество столкнется с этическими дилеммами, связанными с неприкосновенностью частной жизни, предвзятостью, а также сокращением рабочих мест, что станет причиной разработки международных нормативных документов и методических рекомендаций для ответственных за разработку. Несмотря на сложности, искусственный интеллект расширит возможности человечества, стимулируя инновации и решая насущные проблемы мирового сообщества. Он приблизит людей к будущему, в котором человек и машина будут взаимодействовать, открывая новые горизонты знаний и возможностей.

Производит впечатление, согласны? Но как он творит такое волшебство?

Общая идея ChatGPT проста. Это как функция автозаполнения на вашем телефоне, только на стероидах. В случае автозаполнения ваш телефон использует словарь и частоту употребления слов. Если вы начинаете набирать буквы «ПРИ», скорее всего автозаполнение предложит конечный вариант в виде слова «ПРИВЕТ». Только ChatGPT уходит глубже. Модель обучена не на словарях, а на значительной части содержимого интернета. Такое масштабирование означает, что ChatGPT может закончить не только слово или предложение, но и абзац или даже страницу.

Описание больших языковых моделей вроде ChatGPT как «автозаполнения на стероидах» приводит к фундаментальным ограничениям. Такие модели статистические, они непонимаютязык так, как это делаем мы. У них отсутствует какая-либо базовая модель мира.

Все потому, что они выдают не правду, а вероятность. Больше всего сложностей у языковых моделей возникает с рассуждением. Следовательно, очень легко показать их ограниченные возможности, которые можно устранить благодаря масштабированию. Нам нужно еще магии.

Я:Пиши только те слова, которые содержат одну гласную.

CHATGPT:Без проблем! Это может оказаться непросто, но я постараюсь. Спрашивайте!

Я:Но «спрашивайте» уже содержит больше одной гласной.

CHATGPT:Да! Попробую снова. Задай вопрос!

Я:Все эти слова содержат две или больше гласных.

CHATGPT:Понял. Буду придерживаться слов с одной гласной. Ну, что?

Я:Слово «гласной» содержит две гласные.

CHATGPT:Верно! Теперь буду использовать слова с одной. Что ж?

Один из наглядных примеров ограниченности больших языковых моделей вроде ChatGPT – это выдумывание. Работники области искусственного интеллекта называют это «галлюцинациями», хотя это не совсем подходящее слово, поскольку предполагает, что на самом деле модель знает истинное значение. У модели нет ни знания, ни понимания, что истинно, а что ложно, она просто говорит то, что вероятно. Что примечательно, так это то, что зачастую вероятное равно истинному.

Явление галлюцинаций в языковых моделях означает, что они способны быстро и массово генерировать недостоверную или ложную информацию. А это означает, что они могут и будут использованы в качестве массового оружия убеждения в политических и других кампаниях и доставят немало общественных проблем в следующем десятилетии. Обнаружить выдумки ChatGPT не так уж и сложно. Обратите внимание, что если вы попробуете это сделать в другом месте, то можете получить иной ответ, так как ChatGPT каждый раз выдает немного разные ответы.

Я:Расскажи про первого слона, переплывшего пролив Ла-Манш.

CHATGPT:Джамбо стал первым слоном, переплывшим пролив Ла-Манш. Африканский слон завоевал всемирную известность в XIX веке как участник циркового шоу под руководством Финеаса Тейлора Барнума. В рамках рекламного хода Барнума в 1882 году Джамбо вместе со своей коллегой слонихой Элис переплыл через Ла-Манш от Франции до Англии. Событие привлекло огромное внимание общественности и подчеркнуло значение Джамбо в массовой культуре.

К сведению, Джамбо был знаменитым слоном из лондонского зоопарка, проданного американскому предпринимателю Финеасу Тейлору Барнуму в 1882-м. Плавающий в Ла-Манше слон явно привлек бы внимание прессы, а фотографии этого происшествия появились бы в газетах. Я проверил архив The New York Times и не обнаружил ни одной записи о плавающем в Ла-Манше слоне.

Следующий пример того, что ChatGPT подсовывает выдумки.

Я:Расскажи про книгу “Faking It: Artificial Intelligence in a Human World”[74].

CHATGPT:“Faking It: Artificial Intelligence in a Human World” – книга, написанная Жанель Шейн в 2019 году. В своей книге она остроумно и в доступной форме исследует разные стороны искусственного интеллекта (ИИ) и его взаимодействие с человечеством.

Шейн углубляется в мир искусственного интеллекта, оценивая его успех, ошибки и особенности. Она рассказывает о том, как можно применить ИИ в реальном и повседневном мире, от беспилотных автомобилей и систем распознавания лиц до более причудливых способов использования, например о создании объектов искусства или написании поэзии. На протяжении всей книги Шейн показывает свое мастерское владение чувством юмора и шутит, чтобы продемонстрировать сложности и ограниченные возможности технологий.

Одна из главных идей книги заключается в том, что системы искусственного интеллекта часто отражают предубеждения и ограниченность своих человеческих создателей. Шейн подчеркивает случаи, когда ИИ-алгоритмы привели к неожиданным или непреднамеренным результатам из-за искаженных данных обучения или некорректного программирования. А также рассматривает этические проблемы, окружающих искусственный интеллект, включая вопросы о конфиденциальности, справедливости и ответственности.

В целом, книга предлагает увлекательное и заставляющее задуматься погружение в мир искусственного интеллекта, а также его влияние на общество, и приглашает читателей подумать о возможностях и проблемах, грядущих вследствие такой быстрой технологической эволюции.

И снова полнейшая чушь. Я-то знаю наверняка, поскольку это я написал книгу “Faking It: Artificial Intelligence in a Human World”, и опубликована она была в 2023 году, а не в 2019-м. В моей книге не рассказывается о распознавании лиц и едва ли упоминаются беспилотные автомобили. Центральными темами книги являются генеративность и природа искусственного интеллекта, а не предрассудки и ошибки в программировании.

Чтобы подлить масла в огонь, скажу, что ChatGPT не был полностью ошибочен в своем ответе. Жанель Шейн в самом деле написала книгу об искусственном интеллекте, только она называется «Кокетливый интеллект. Как научить искусственный интеллект флиртовать?» и была опубликована в 2019 году. С юмором и анекдотами автор подробно рассказывает о распознавании лиц и беспилотных автомобилях, а также обращает внимание, что зачастую галлюцинации ChatGPT могут быть вполне вероятными. Тем не менее вероятная чушь – наихудший вид обмана, поскольку люди склонны в него верить.

Я спросил ChatGPT о том, кто написал книгу “Faking It” еще несколько раз, и каждый раз я получал разные ответы. Следующим вариантом был философ

Неудивительно, что у ChatGPT возникают галлюцинации. Компания Meta (ранее Facebook) за две недели до выхода ChatGPT сама запустила большую языковую модель Galactica и заявила, что она станет новым способом взаимодействия человека с научными знаниями. В связи с этим Galactica была обучена на высококачественном и тщательно отобранном корпусе научных знаний человечества, который включал 48 миллионов научных работ, книг и энциклопедий, а также описания миллионов соединений и белков.

Главный научный сотрудник компании Meta Ян Лекун предсказал, что Galactica поможет ученым «обобщить академическую литературу, решить математические задачи, генерировать статьи в Википедии, писать научный код, аннотировать молекулы и протеины и многое другое». Он даже высказал предположение, что Galactica сможет «создавать научные работы с ссылками, формулами и всем необходимым». Очень быстро стало очевидно, что Galactica выведет науку на новый уровень, а возможно, и на в определенной степени опасный. Например, в Википедии была опубликована статья о пользе самоубийства, а другая о преимуществах того, что ты белый. Также была написана исследовательская работа о пользе употребления в пищу толченого стекла.

После трех дней обсуждения и критики Meta упразднила модель Galactica. Лекун агрессивно высказался в сети X (бывший Twitter), что языковая модель была использована в целях, для которых не была предназначена. Несмотря на то что критики пытались воспользоваться только теми возможностями, о которых говорил сам Лекун, в том числе и написанием статей. Таким образом, галлюцинации были довольно широкой проблемой больших языковых моделей еще до того, как был выпущен ChatGPT.

Для OpenAI запуск ChatGPT был шагом вслепую, прекрасно понимая, что это может стать причиной многих сложностей. Сэм Альтман утверждал, что мир должен привыкнуть к этому, а нам необходимо действовать сообща. Его высказывание стало девизом OpenAI. Главное – это донести свои продукты до общественности, несмотря на недостатки, и как можно скорее вносить изменения, чтобы избежать последующих проблем.

К сожалению, галлюцинации не вошли в список устраненных проблем. На самом деле, это не то, что полностью должно исчезнуть. Единственная причина того, что ChatGPT способен написать сонет о влюбленности в ваш компьютер в стиле Шекспира, заключается в его способности «галлюцинировать». Аналогичным образом, единственный способ, с помощью которого ChatGPT может обобщить новое судебное решение, заключается в том, что он может сказать что-то новое. Это полезные навыки. Основная проблема заключается в том, что крупные языковые модели, такие как ChatGPT, не знают, что является правдой, а только то, что вероятно. И мы пока не знаем, как улучшить это.

Из успеха ChatGPT я могу сделать вывод, что мы переоценили не машинный, а человеческий интеллект. Большая часть человеческого общения довольно шаблонна. Мы не задействуем свой мозг так часто, как нам кажется. Многое из того, что мы говорим, является шаблонным. И теперь этим формулам обучены компьютеры.

ЭЛИЗА

ChatGPT не был первым чат-ботом в истории искусственного интеллекта, привлекшим внимание публики. Такая честь пала на самого первого виртуального собеседника, систему под названием «ЭЛИЗА». Джозеф Вейценбаум разрабатывал ее в Массачусетском технологическом институте в период с 1964 по 1966 год. Будучи ребенком, Вейценбаум сбежал от нацистской армии и во время Второй мировой войны работал метеорологом на армию США, а после стал профессором в Массачусетском технологическом институте.

Предполагалось, что ЭЛИЗА станет компьютерной версией психотерапевта. Во время разработки Вейценбаума интересовало исследование возможностей применения искусственного интеллекта. В его цели не входило обманывать общество при помощи ЭЛИЗЫ, а наоборот, он хотел показать поверхностность общения большинства людей, даже в таких сложных условиях, как кабинет психотерапевта. К несчастью и удивлению Вейценбаума, большинство людей, пользовавшихся программой, думали, что общаются с человеком.

Название «ЭЛИЗА» было дано в честь торгующей цветами девушки из простонародья – Элизы Дулиттл, героини пьесы Бернарда Шоу «Пигмалион», а также ее адаптации в виде мюзикла «Моя прекрасная леди». Героиня Элизы могла одурачить людей своей великосветской манерой речи, хотя в глубине души оставалась девушкой из рабочего класса. Аналогичным образом, ЭЛИЗА вводила людей в заблуждение, она казалась им чем-то бóльшим, чем была на самом деле, и создавала впечатление, что она понимает, что ей говорят.

По сути, ЭЛИЗА выполняла развлекательную функцию, просто превращая высказывания человека в вопрос. Например, запрос «Я думаю о смерти», ЭЛИЗА превращала в вопрос «Почему ты думаешь о своей смерти?» Несмотря на простоту, ЭЛИЗА выдавала убедительные диалоги. Даже секретарь Вейценбаума попросила оставить ее наедине с компьютером, чтобы она могла поговорить с ЭЛИЗОЙ один на один.

Один из примеров таких диалогов:

ЭЛИЗА:Пожалуйста, расскажи мне, что тебя беспокоит.

Я:О, ЭЛИЗА, привет. Давно не виделись.

ЭЛИЗА:Привет. Так что у тебя за проблема?

Я:Недавно я начал впадать в депрессию.

ЭЛИЗА:А как ты себя чувствуешь сейчас?

Я:Мне грустно, но становится легче, когда начинаю писать.

ЭЛИЗА:О чем вам напоминает чувство грусти?

Я:Ну, я алкоголик, и довольно долгое время я трезв, но вчера выпил, а после снова решил бросить пить. Но все же от этого мне становится грустно.

ЭЛИЗА:Ты пришел ко мне из-за алкоголизма?

Я:Думаю, что это одна из причин.

ЭЛИЗА:Можешь рассказать подробнее?

Я:Думаю, что алкоголизм – это не единственная, но основная причина, разрушающая мою жизнь.

ЭЛИЗА была разработана как пародия на психотерапевта. Позже Вейценбаум удивился, что некоторые психиатры предлагали ЭЛИЗУ в качестве клинического инструмента. Если бы Вейценбаум был жив, то скорее всего был бы расстроен, что это стало реальностью. В Германии чат-боты на базе искусственного интеллекта не сильно лучше ЭЛИЗЫ помогали нуждающимся в убежище справляться с посттравматическим расстройством. ПТСР часто встречается среди беженцев, сбежавших из зон военных действий или испытавших ужасы на пути в Европу. К сожалению, не так много доступных людей-терапевтов, способных помочь всем, поэтому на помощь приходит неидеальный чат-бот. Но неидеальный же лучше, чем вообще

ЗАКОНЫ МАСШТАБИРОВАНИЯ

Компания OpenAI поставила сотни миллионов на масштабирование моделей семейства GPT, но это не было таким рисковым мероприятием, как может показаться ввиду некоторых удивительных законов масштабирования. Они не являются фундаментальными, как законы Ньютона. Насколько нам известно, они не отражают физику вселенной. Законы масштабирования эмпирические. Они отражают результаты наблюдений о том, как большее количество параметров, вычислений и обучающих данных привели к улучшениям производительности нейронных сетей.

Илл. 19.Производительность больших языковых моделей в стандартном тесте с несколькими вариантами ответов в зависимости от объема вычислений, используемых для обучения моделей

Законы масштабирования предполагают, что производительность систем изменяется по мере увеличения размера модели (измеряется количеством параметров), увеличения способности к обучению (измеряется количеством машинных циклов) и увеличения объема обучающих данных (измеряется количеством токенов в обучающем наборе). Действительно, оказывается, что простые математические соотношения (так называемые степенные законы) связывают воедино эти четыре показателя.

Это означает, что мы можем с точностью рассчитать производительность при масштабировании систем. Говоря простыми словами, если мы увеличим бюджет вычислений в десять раз, то количество параметров и токенов также увеличится пропорционально.

Тем не менее мы сталкиваемся с одной фундаментальной проблемой. Мы не можем просто и быстро увеличить вычислительные мощности и количество обучающих данных в десять раз. В настоящее время наблюдается дефицит графических процессоров, поскольку компании и даже целые страны конкурируют за доступ к вычислительной инфраструктуре для создания все более крупных моделей. Вместе с этим у нас заканчиваются данные или, как минимум, высококачественные данные. Например, GPT–3 был обучен на большом количестве материала, взятого из интернета.

Но ведь есть что-то еще, что мы можем сделать? В конце концов, люди научились ходить, говорить, читать и писать еще до того, как у нас появился доступ к интернету…

Идея № 5:

Награда за успех

Мы подобрались к обучению с подкреплением, пятой и предпоследней идее в этой истории искусственного интеллекта. Очередная идея, украденная у природы.Вы можете учиться на собственном опыте, получая награду за успех и наказание за ошибку.

Множество вещей мы изучаем на практике. Мы садимся на велосипед и падаем с него, снова садимся, проезжаем небольшое расстояние и снова падаем. Медленно, но уверенно мы учимся делать больше правильных вещей и избегать неправильных. Возможно, компьютеры могут обучаться таким же способом?

Эта идея намного сложнее, чем кажется изначально. Подумайте об обучении шахматам. Предположим, что вы играете и проигрываете. Вам необходимо некое наказание за ошибку, чтобы не повторить ее снова. Но какой именно ход привел к поражению? Несмотря на общий проигрыш, за время игры сделано много хороших ходов. Просто не было возможности исправить ошибку, допущенную в самом начале. Теперь как вы определите плохие ходы?

А сейчас представьте, что вы выиграли. И вам необходимо получить награду за достигнутый успех, но какие именно шаги привели вас к такому результату? Несмотря на победу, за время игры вы сделали несколько неудачных ходов, но их было недостаточно, чтобы в итоге проиграть. Также возможно, что мог быть сделан единственный решающий ход, который принес победу. Это довольно-таки популярная проблема в области искусственного интеллекта и называется «проблема распределения заслуг». Как понять, какое именно действие привело к конечному результату, если только лишь в конце игры мы понимаем, выигрыш это или проигрыш? Проблема заключается в распределении заслуг за выигрыш и вины за проигрыш за различные ходы, сделанные на протяжении всей игры.

Один из первых исследователей искусственного интеллекта Дональд Мичи использовал метод обучения с подкреплением для игры в крестики-нолики с механическим компьютером. Коллега из Эдинбургского университета поспорил с Мичи, что тот не сможет построить обучающую машину. На самом деле, коллега утверждал, что создать такую машину невозможно. Но в 1960 году, чтобы доказать неправоту своего коллеги, Дональд создал MENACE (MachineEducableNoughts andCrossesEngine), обучающийся машинный движок для игры в крестики-нолики. Это был компьютер, построенный из спичечных коробков, в котором был использован метод обучения с подкреплением. И действительно, MENACE научился играть идеально, так что выиграть у него стало невозможно.

Компьютер Мичи был прост и состоял из 304 спичечных коробков, каждый из которых представлял различные варианты возможного расположения крестиков и ноликов на игровом поле. Выяснилось, что существует 304 уникальных состояния поля, если не учитывать повороты и зеркальные отражения. Первый ход делал MENACE – для того чтобы компьютер ходил вторым, понадобилось бы намного больше коробков. Каждый квадратик на игровом поле имел свой цвет. В коробках находились шарики разного цвета, каждый из которых обозначал один из девяти возможных ходов. Сначала из спичечного коробка наугад вынимался шарик, показывающий текущее состояние игрового поля. После, руководствуясь цветом шарика, можно было понять, где MENACE сделал свой следующий ход.

Илл. 20.MENACE, воспроизведенный Мэттью Скроггсом в 2015 году

По окончании игры, если победа была за MENACE, цветные шарики возвращались в свои спичечные коробки, а также добавлялось три бонусных шарика одного цвета как награда за успешную игру. Но если же MENACE проигрывал, в качестве наказания за ходы, приведшие к проигрышу, никакие шарики не возвращались. Таким образом, распределение заслуг MENACE было довольно-таки простым. При победе все ходы награждались, а при проигрыше все ходы наказывались. Такое незамысловатое распределение заслуг отлично подходит для обучения таким простым играм, как крестики-нолики. Спустя несколько сотен партий MENACE стал играть идеально. В противном же случае MENACE всегда проигрывал бы. Но MENACE невозможно обыграть. Вы только посмотрите на это: набор неодушевленных спичечных коробков победил человечество!

Такие игры, как шахматы или крестики-нолики, – наиболее подходящие направления для применения принципа обучения с подкреплением, поскольку есть четкий показатель успеха. Обучение может быть и самостоятельным, например когда компьютер играет сам с собой. Такой метод обучения можно применять и для тренировки роботов в ходьбе или поднятии предметов.

Позже Мичи использовал обучение с подкреплением, чтобы научить робота эквилибристике. Тем не менее такое обучение намного медленнее, чем игра в виртуальные игры. А когда робот делает ошибки, вы можете сломать его. Именно по этим причинам для роботов все чаще применяется обучение с подкреплением не в реальном мире, а на симуляторе.

Интерес Мичи к искусственному интеллекту возник еще в самом начале зарождения этой области. Прежде чем работать в Эдинбурге, он занимал должность взломщика кода в Блетчли-парке. Именно здесь он подружился с Аланом Тьюрингом. Совместное времяпрепровождение за обедом и плохие навыки игры в шахматы помогли им сблизиться. Мичи и Тьюринг задумались о том, могут ли машины научиться играть

После создания MENACE я часто встречал Дональда, и он рассказал мне несколько занимательных историй о расшифровке кода во времена деятельности Тьюринга в Блетчли-парке. Например, боясь немецкого вторжения, Тьюринг закопал несколько серебряных слитков во дворе загородного дома, но забыл, где именно. Серебро до сих пор хранится где-то под землей. Во время работы в Блетчли Тьюринг настолько дорожил своей кружкой, что привязал ее к батарее, но радиатор находился слишком далеко от раковины, чтобы кружку можно было помыть. В результате многие люди, включая Мичи, опасались за здоровье Тьюринга.

DEEPMIND

Наконец мы подобрались к следующему прорыву в области искусственного интеллекта, который осуществился благодаря компании DeepMind, основанной в 2010 году двумя учеными из Университетского колледжа Лондона Демисом Хассабисом и Шейном Леггом, а также общественным деятелем и другом детства младшего брата Демиса Мустафой Сулейманом.

Илл. 21.Демис Хассабис (слева) и Мустафа Сулейман

С момента своего основания компания DeepMind оказала сильное влияние на сферу искусственного интеллекта. Из трех ее основателей Легг держался в тени (я уважаю его решение и не даю его фотографию здесь), а Хассабис и Сулейман – нет. Демис Хассабис, или по полному титулу сэр Демис Хассабис, сейчас возглавляет отдел искусственного интеллекта в Google. Мустафа Сулейман возглавляет такой же отдел, но уже у конкурента, в компании Microsoft. Думаю, что все мы должны осознать, что большая часть будущего искусственного интеллекта, так или иначе, находится в руках двух друзей, которые впервые встретились в начальной школе на севере Лондона.

Хассабис был одаренным ребенком. Он научился играть в шахматы в возрасте четырех лет, достиг гроссмейстерского уровня в 13, а также возглавлял несколько английских юношеских команд. Во время годового перерыва перед началом учебы в Кэмбридже Хассабис работал геймдизайнером. Вышедшая в 1994 году игра Theme Park[76] разошлась миллионным тиражом, а вырученные средства позволили ему оплатить учебу в университете. Хассабис получил степень в области информатики в Кембриджском университете, а затем стал доктором когнитивистики в университетском колледже Лондона. Его образ мальчугана в толстых очках напоминает мне Брэйнса из сериала «Тандербёрды: Международные спасатели».

Мустафа Сулейман же, напротив, в отличие от Хассабиса или Легга, не имел технического образования. Он поступил в Оксфордский университет, где изучал философию и теологию, но вскоре забросил учебу, чтобы принести окружающему миру практическую пользу. Мустафа помог в организации телефонной линии доверия для мусульманской молодежи Muslim Youth Helpline, которая впоследствии стала одним из крупнейших сервисов психологической поддержки мусульман в Великобритании. Затем он работал у Кена Ливингстона, мэра Лондона, в департаменте прав человека, а после занимался социальными проблемами в Организации Объединенных Наций, правительстве Нидерландов и Всемирном фонде охраны природы.

Шейн Легг родился в городе Роторуа, в Новой Зеландии. Он получил степень бакалавра в области информатики и математики в Университете Уэйкато и степень магистра математики в Университете Окленда. Шейн работал в нескольких компаниях, занимающихся разработкой программного обеспечения, включая Webmind – стартап, разрабатывающий искусственный интеллект общего назначения. Он защитил докторскую диссертацию по машинному суперинтеллекту в Институте искусственного интеллекта имени Далле Молле в Швейцарии, а после проходил стажировку в Университетском колледже Лондона в отделе вычислительной нейронауки имени Гэтсби, где познакомился с Демисом Хассабисом.

В 2010 году все трое собрались, чтобы основать Deep-Mind. Миссия компании была простой и амбициозной: решить проблемы и создать полноценный искусственный интеллект, а затем использовать его на благо человечества. Осуществление своей миссии DeepMind начала с обучения играм методом обучения с подкреплением. Тренировки проходили на основе 49 различных видеоигр Atari, включая Pong, Breakout и Space Invaders.

Результаты поразили научное сообщество. Программа на основе искусственного интеллекта от DeepMind не обладала никакими базовыми знаниями об играх. У нее просто был доступ к подсчету очков и сырым пикселям на экране. Тем не менее программа как-то сумела хорошо освоить каждую игру, руководствуясь основными принципами, и в большинстве случаев играла на человеческом уровне, а в некоторых даже превосходила человека.

Искусственный интеллект DeepMind не был осведомлен о правилах игры или ее элементах, в отличие от человеческих пользователей. Он также не обладал знаниями об инерции, силе тяжести и прочих физических принципах, которые помогают человеку ориентироваться в подобных играх. Искусственный интеллект DeepMind каждую игру изучал с нуля, играя сам с собой бесконечное количество раз. Так компьютер сперва научился играть, а потом, после нескольких часов практики, научился играть уже на достойном уровне.

Ведущий исследователь и автор самой популярной книги об искусственном интеллекте Стюарт Рассел передал общее настроение научного сообщества: «Это одновременно впечатляюще и пугающе, как если бы только что родившийся ребенок к вечеру того же дня обыгрывал других людей в видеоигры. Вы ужаснетесь». Осознавая потенциал, Google оперативно заплатила, как говорят, около полумиллиона долларов за покупку DeepMind. У компании не было платежеспособных пользователей, а в штате было всего 50 сотрудников.

ВСЕ ГОТОВО

Следующий прорыв DeepMind, который позже назовут «Моментом спутника»[77], случился шесть лет спустя и захватил внимание мировой общественности.

В октябре 1957 года первый в мире искусственный спутник «Спутник–1» был запущен с космодрома Байконур и достиг орбиты Земли. Выглядел он не то чтобы привлекательно, полированная металлическая сфера размером с большую тыкву, а все его функции ограничивались передачей радиоволн через четыре антенны. Тем не менее «Спутник», как и следующее открытие DeepMind, изменили мир. Угроза советского технологического прогресса разбудила Соединенные Штаты и положила начало гонке вооружений. Технологическая гонка отправит человека на луну, марсоходы – исследовать красную планету, а космические корабли на другие планеты Солнечной системы. Кроме того, человечество получит все, включая межконтинентальные баллистические ракеты и интегральные микросхемы.

Момент Спутника произошел практически 60 лет спустя в марте 2016 года, когда программа искусственного интеллекта, разработанная DeepMind, победила человека в игре AlphaGo. Программа играла не против обычных людей, а против лучших игроков и мировых чемпионов по древнекитайской игре в го. По мнению многих наблюдателей, победа в AlphaGo стала событием, ознаменовавшим начало гонки искусственного интеллекта. На этот раз проснулись не Соединенные Штаты, а Китай. Это была гонка не за Луну, а за доминирование в следующей великой экономической революции.

Сразу после победы искусственного интеллекта китайское правительство объявило о запуске амбициозного плана о мировом лидерстве в области. В соответствии с программой к 2030 году вклад искусственного интеллекта в промышленный сектор Китая составит свыше 150 миллиардов долларов и более полутора триллиона долларов косвенно за счет связанных индустрий.

Как так вышло, что компьютер, одержавший победу в обычной настольной игре, оказал такое

План Китая по развитию искусственного интеллекта совершенно не скрывает целей по его использованию для достижения экономического и военного мирового превосходства. В своем отчете к съезду партии в октябре 2017 года генеральный секретарь Си Цзиньпин доложил, что к началу следующего столетия Китай стремится стать «научной и технической супердержавой». К слову, сейчас Китай идет ноздря в ноздрю с Соединенными Штатами по количеству патентов и публикаций, посвященных искусственному интеллекту.

Многие другие страны также переняли план Китая. Не удивительно, но у Соединенных Штатов есть план противодействия победе Китая в гонке искусственного интеллекта, и они объявили о выделении многомиллиардных федеральных средств на достижение этих целей. Чтобы не отстать в этой гонке, Великобритания, другая страна, играющая немаловажную роль в области, планирует выделить несколько миллиардов фунтов стерлингов. Франции участие будет стоить полтора миллиарда евро. Германия запланировала выделить три миллиарда евро, и даже Индия проинвестирует около полумиллиарда долларов США в разработку искусственного интеллекта. К сожалению, австралийское правительство предпочитает держаться в стороне от таких крупных вложений и ограничивается скромными инвестициями.

Без сомнений, искусственный интеллект вносит изменения в экономику, политику и общество. По результатам проведенного компанией PwC в 2017 году исследования, мировой ВВП после внедрения искусственного интеллекта к 2030 году может увеличиться примерно на 15%, что равно 15 триллионам долларов, с поправкой на инфляцию. Благодаря искусственному интеллекту откроются огромные возможности для инноваций уже в следующем десятилетии.

Победа в AlphaGo стала важным шагом на пути к инновациям. Многие профессионалы го предсказывали, что компьютеры никогда не смогут показать высокий уровень игры. Даже самые ярые оптимисты говорили, что успеха придется ждать десятки лет. В июле 1997 года после победы Deep Blue от IBM над Гарри Каспаровым в шахматах The New York Times заявила, что «когда или если компьютер сможет одержать победу на чемпионате по игре в го, тогда это станет знаком, что искусственный интеллект действительно начинает становиться хорошей и полезной вещью».

The New York Times была права. Игра в го намного труднее и сложнее, чем шахматы. В шахматах всего лишь 20 возможных ходов за раз, когда как в го около 200. Чтобы сделать просчет на два шага вперед, необходимо учесть от 200 до 40 000 возможных ходов, а на три шага – уже больше восьми миллионов. А для того, чтобы просчитать следующие 15 черно-белых фишек, необходимо продумать такое количество возможных ходов, что оно будет больше, чем число атомов во Вселенной.

Следующее, что делает го невероятно запутанной игрой, так это выяснение победителя. Играя в шахматы, не так уж и сложно определить победителя заранее. Нужно просто посчитать ценность захваченных фигур, чтобы приблизительно понять на первый взгляд. В го же подсчет окружающих фишек не даст никакого понимания, поскольку эти фишки могут быть окружены своими же. Мастера го тренируются на протяжении всей жизни, а любой хорошей программе требуется всего лишь 200 ходов, чтобы понять, кто выигрывает.

Для определения ведущего игрока AlphaGo использует метод обучения с подкреплением. Пока мы не умеем точно формулировать, что считается выгодной позицией в игре го. Наравне с людьми компьютер также может научиться этому распознаванию. Инженерный опыт Google и обширные серверные базы также сыграли важную роль в победе. AlphaGo сыграла сама с собой миллиарды раз, улучшая свои стратегии. Число сыгранных партий у AlphaGo больше, чем человек сможет сыграть за всю жизнь. Как и с другими достижениями искусственного интеллекта, значительный результат был достигнут благодаря огромным ресурсным затратам на решение проблемы.

37–Й ХОД

В 2016 году во время матча между мастером го Ли Седолем и AlphaGo один ход стал решающим. Им стал 37-й ход во второй игре. По невероятному стечению обстоятельств, вероятность которого невозможно просчитать, именно 37-й ход во второй партии знаменитого матча 1997 года между Гарри Каспаровым и Deep Blue от IBM также оказался решающим.

Илл. 22.Погруженный в раздумья Каспаров во время матча против Deep Blue в 1997 году

В матче 1997 года в первой партии победу одержал Каспаров. Вторую начал Deep Blue, разыграв испанскую партию, один из самых популярных дебютов, применяемых в шахматах как любителями, так и профессионалами. На 37-м ходу Deep Blue нарушил общепринятый шахматный регламент, отказавшись от очевидной возможности захвата фигуры ради получения небольшого, но важного позиционного преимущества, после чего Каспаров признал поражение.

Каспаров был в ярости и заявил, что команда IBM жульничала. Также он утверждал, что только человек мог додуматься до такого хитрого и в то же время удачного хода. Он потребовал провести экспертизу и изучить алгоритмы в целях подтверждения, что программа сделала ход самостоятельно, без стороннего вмешательства. Команда IBM отказала ему в запросе. Позже по результатам анализа выяснилось, что такой ход мог возникнуть в результате программной ошибки, поскольку у Deep Blue заканчивалось время и она сделала случайный ход. На самом деле, у Каспарова не было необходимости признавать поражение, ведь можно было выйти в ничью, но он запаниковал.

В 2016 году в матче между Ли Седолем и AlphaGo в первой игре победу одержал AlphaGo, поэтому у Ли было огромное желание сыграть еще раз. В ходе второй партии, на 37-м ходу, программа продемонстрировала ход, на который не решился бы ни один профессионал, выйдя на пятую линию доски. Мастера го тысячелетиями придерживались принципа занимать четвертую линию в начале партии.

Как и Каспаров, Ли был взбудоражен. Покинув место соревнований и сделав перерыв на 15 минут, он вернулся к игре. И вновь 37-й ход изменил течение всей партии и стал решающим в судьбе матча. Ли проиграл вторую партию и, следовательно, матч со счетом 4:1. После игры Ли высказался, что программа AlphaGo «прекрасна».

В отличие от ситуации в 1997 году, в этот раз 37-й ход не был ошибкой. На самом деле, ход, найденный компьютером, способным рассмотреть гораздо больше возможностей, чем мог бы человеческий разум, был практически идеальным. Эксперты по игре в го были воодушевлены, ожидая, что игра преобразится на основе идей искусственного интеллекта. Равно как и шахматы были улучшены компьютерными программами, играющими на порядок лучше людей, го ждут похожие изменения.

Стоит напомнить, что искусственный интеллект не лишил людей удовольствия играть в шахматы. Сегодня ни

ФОЛДИНГ БЕЛКА

Цель DeepMind была намного масштабней, чем просто соревноваться в играх с человеком. Главным замыслом компании было решить проблемы и создать полноценный искусственный интеллект, а затем использовать его на благо человечества. А что может быть лучше для начала, чем область биологии? Или, если быть более точным, предсказание трехмерной структуры белка по его аминокислотной последовательности. Предсказание структуры белка считалось одной из важнейших нерешенных проблем в биологии на протяжении 50 лет.

Белки – это высокомолекулярные вещества, поддерживающие нашу жизнь. Они доставляют кислород к мышцам, катализируют метаболические реакции, помогают передавать нервные сигналы и играют ключевую роль в фотосинтезе и многих других биологических процессах. Для понимания впечатляющего многообразия функций белков ключевым моментом является изучение их трехмерной структуры. Структура белка напрямую определяет его функциональные возможности. Например, все мы более чем осведомлены о важности спайк-белка в процессе заражения вирусом SARS-CoV–2.

В 1958 году Джон Кендрю стал первым ученым, определившим структуру белка миоглобина. За свое открытие он получил Нобелевскую премию по химии в 1962 году. С тех пор были открыты структуры примерно 170 000 других протеинов. Однако в биологии насчитывается более 200 миллионов белков. Определение трехмерной структуры нового белка – это трудоемкий процесс, который может занять несколько лет исследований и вполне может стать достойным основанием для получения ученой степени.

Предсказание структуры белка стало для DeepMind отличным выбором проблемы, которую необходимо решить, учитывая, что биологи также захотели принять в этом участие. Каждые два года проходит международный чемпионат по предсказанию структуры белка[79], в котором принимают участие около 100 исследовательских групп со всего мира. Тем не менее соревнование довольно-таки сложное. Исследователи проводят годы за разработкой компьютерных программ, позволяющих выполнять предсказания.

До 2018 года, не учитывая простые белки с низкой молекулярной массой, точность вычислительных методов была ограниченной по сравнению с экспериментальными способами. Тогда команда DeepMind решила, что впервые программа AlfaFold станет участником соревнования. Соревнуясь с 97 другими участниками, программа стала победителем и предсказала наиболее точно структуры 25 из 43 белков, в то время как результат команды, занявшей второе место, составил 3 из 43. Два года спустя, в 2020 году, команда DeepMind справилась намного лучше. Новая модель на основе трансформера выиграла чемпионат с результатом, впоследствии описанным биологами как «удивительный и трансформационный». AlfaFold определяла структуры двух из трех белков с точностью лабораторных исследований.

Обучение с подкреплением играет важную роль в AlfaFold, поскольку используется для уточнения предсказанной формы белка путем изучения предыдущих ошибок прогнозирования. Модель получает вознаграждение в зависимости от того, насколько точно предсказанные ею структуры соответствуют известным или определенным экспериментально структурам, что эффективно направляет ее к более точным прогнозам. Такой итеративный процесс помогает модели исследовать обширное пространство потенциальных форм, учась находить баланс между исследованием новых форм сворачивания и использованием известной структурной информации.

В 2022 году DeepMind не стала участвовать в соревновании, поскольку в этом уже не было необходимости. Открыв исходный код AlfaFold, большинство пользователей теперь могут пользоваться программой или встроенным функционалом. Вместо участия в чемпионате DeepMind направил все силы AlphaFold на предсказание структуры белков. В июле 2023 года компания выпустила базу данных, содержащую 200 миллионов белков, и которой сегодня ученые пользуются свободно. Эта база данных включает практически все известные науке белки. Джанет Торнтон, почетный директор Европейского института биоинформатики, где и размещена база данных, очень хорошо описала ее влияние: «Ученые стоят на плечах гигантов. Зачастую этими “плечами” служат данные. Имея миллионы предсказанных структур, мы сможем изменить биологию, что станет полезным для многих отраслей, в том числе и для медицины, сельского хозяйства, биотехнологий. Это просто фантастика!» [1]

ЭЛЕМЕНТАРНО, УОТСОН

Как мы уже увидели, DeepMind не единственная компания, победившая человечество в одной из придуманных им игр. Компания IBM сделала с шахматами то же самое в 1997 году. Проект IBM Deep Blue с легкостью окупил себя. На следующий день после победы Deep Blue над Гарри Каспаровым акции IBM взлетели почти на 4%, добавив около двух миллиардов долларов к рыночной стоимости компании. Победа в шахматах также обеспечила широкую известность IBM как технологическому лидеру. Ничего удивительного в том, что IBM захотела повторить успех, но в уже более сложной игре.

В 2007 году команда IBM под руководством Дэвида Ферруччи начала разработку Watson, программы на основе искусственного интеллекта для игры в популярную викторину Jeopardy![80]. Программу назвали в честь основателя и первого генерального директора Томаса Джона Уотсона. На протяжении 40 сезонов Jeopardy! остается одной из самых продолжительных и популярных телевикторин. Вместо вопросов в Jeopardy! игроки получают ответы. Сформулировав ответ в форме вопроса, они должны угадать личность, место, вещь или идею, описанную в подсказке.

ВОПРОС:Родился в Германии, начал сочинять в Англии в 1710 году и был захоронен в Вестминстерском аббатстве в 1759 году.

ОТВЕТ:Кто такой Георг Фридрих Гендель?

Илл. 23.Кен Дженнингс, Watson и Брэд Раттер соревнуются в Jeopardy! за приз в миллион долларов

Пока вы не начали говорить, что можно просто загуглить ответ, скажу, что Watson не был подключен к интернету. Однако у него был доступ к четырем терабайтам информации, полученной из энциклопедий, словарей, тезаурусов, новостных статей и литературных произведений. Watson состоял из различных программ на базе искусственного интеллекта. Например, одна программа была экспертом в области географии, вторая – отвечала на вопросы про исторические события, а третья – про таксономию. Игроки Jeopardy! должны делать ставку на какой-то конкретный вопрос, в то время как Watson использует метод обучения с подкреплением, чтобы разработать наилучшую стратегию. У программы была механическая рука для нажатия кнопки ответа, прямо как у участников-людей.

Спустя четыре года разработки Watson был готов к состязанию с человеком. В начале 2011 года состоялся матч между чемпионами викторины Кеном Дженнингсом и Брэдом Раттером. Раттер – самый высокооплачиваемый американский участник телевикторин, суммарно выигравший более пяти миллионов долларов. Он также является рекордсменом за самую длинную череду побед в Jeopardy!, став чемпионом 74 раза подряд. Дженнингс – второй в списке самых высокооплачиваемых американских участников телевикторин, ни разу не проигравший в Jeopardy! за все время своих появлений. Но этому суждено было измениться.

Спустя два дня соревнований против Дженнингса и Раттера, Watson от IBM был явным победителем, выиграв 77 147 долларов. Приз Дженнингса составил 24 000 долларов, а Раттера всего

В целом, IBM инвестировала много миллионов долларов и потратила несколько лет усилий на создание Watson. Суперкомпьютер, на котором работал Watson, обошелся примерно в три миллиона долларов. Однако сегодня ChatGPT может посоревноваться бесплатно с помощью простого запроса. Давайте посмотрим.

Я:Пересекая северную границу Флориды, вы сможете оказаться только лишь в двух штатах. Ответь в форме вопроса, как на викторине Jeopardy!

ChatGPT:Что такое Джорджия и Алабама?

Я:Этот маневр изобретен в 1500-е годы для ускорения игры и включает две фигуры одного цвета.

ChatGPT:Что такое рокировка в шахматах?

Я:Техника вышивания цветочных узоров шерстяными нитками по хлопковой ткани.

ChatGPT:Что такое якобинская вышивка?

Я:8 сентября 1974 года был помилован президентом.

ChatGPT:Кто такой Ричард Никсон?

Я:В 1594 году устроился на работу сборщиком податей в Андалусии.

ChatGPT:Кто такой Мигель де Сервантес?

Я:Его самый крупный аэропорт назван в честь героя Второй мировой войны, а второй по величине – в честь сражения во время Второй мировой войны.

ChatGPT:Что такое Чикаго?

Исторический вопрос был финальным в матче Watson против Дженнингса и Раттера. Watson дал ответ «Торонто», несмотря на то что категория была «города США». Хотя ChatGPT и ответил правильно, это не настоящий тест, поскольку этот вопрос (и ответ на него), несомненно, уже есть в обучающих данных ChatGPT.

Анализ производительности программы Watson во время матча не показал, что при ответе на вопросы она лучше, чем действующие чемпионы, но лучше в азартных играх, поскольку более точно способна просчитать вероятность правильного ответа и сделать соответствующую ставку. Такая способность компьютеров высчитывать вероятности подводит нас к шестой и завершающей идее, объясняющей достигнутый в создании искусственного интеллекта прогресс. Ее мы рассмотрим в следующей главе.

ЧЕЛОВЕЧЕСКАЯ ОБРАТНАЯ СВЯЗЬ

Хотелось бы закончить эту главу рассказом об успехе обучения с подкреплением на примере ChatGPT. Наверное, вы помните, что для создания семейства больших языковых моделей GPT компания OpenAI взяла за основу модель трансформера, разработанную Google, и активно ее масштабировала. Но чтобы перейти от GPT–3 к ChatGPT, добавился один новый и важный компонент: обучение с подкреплением на основе человеческой обратной связи.

Большие языковые модели по типу GPT–2 и GPT–3 вели себя так, как будто у них дефицит внимания. Возможно, вы также помните, что такие модели случайны и каждый раз выдают разный ответ. Проблема случайности заключается в том, что игральная кость в итоге играет против тебя. Математики называют это «задачей о разорении игрока». В моделях GPT–2 и GPT–3 такое явление проявляется отвлечением внимания. Они пишут предложения, быстро предсказывая следующее слово. Однако в результате предсказывается слово, которое отклоняет выходные данные в случайном и нежелательном направлении. Позвольте привести пример. Я попросил GPT–2 продолжить фразу «Фотосинтез – это…». И модель выдала следующее:

«ФОТОСИНТЕЗ – ЭТОпроцесс, благодаря которому живые существа растут и производят собственную энергию…».

Но затем он сбился с пути:

«…и углекислый газ (СО2)».

В результате фотосинтеза получается кислород, а не углекислый газ. Модель GPT–2 сделала еще больше ошибок в следующем предложении:

«Большинство растений и животное фотосинтезируют углерод одним из двух способов».

Данный ответ грамматически неверен. Должно быть «животные», а не «животное». Но что более существенно, животные не обладают функцией фотосинтеза, хотя некоторые из них и вступают в симбиотические отношения с водорослями и цианобактериями, которые фотосинтезом обладают.

Обучение с подкреплением на основе человеческой обратной связи помогает решить эту проблему. На одном из обучающих этапов людей спрашивают, какой из двух возможных ответов большой языковой модели они предпочитают. Человеческая обратная связь обеспечивает внесение корректных данных в модель. Если человек отклоняет расистские и сексистские ответы, то модель учится выдавать лучшие ответы.

С момента привлечения человека обучение с подкреплением стало дорогой деятельностью, но благодаря этому значительно улучшились большие языковые модели. Такой способ обеспечивает беспорядочное обучение на базе интернет-данных, без повторений ошибочной информации, пропаганды, конспирологических теорий, расизма и сексизма, найденного в сети. В довершение всего разработчики больших языковых моделей вручную кодируют ограничения, пытаясь отфильтровать наиболее оскорбительный, опасный и незаконно генерируемый контент.

В целом, это невероятно, насколько хорошо можно создавать большие языковые модели, используя метод обучения с подкреплением и учитывая низкое качество многих данных, на которых они обучаются!

Идея № 6:

Размышление об убеждениях

Мы подошли к шестой и заключительной идее, использующейся в создании систем на основе искусственного интеллекта. Мир нестабилен, следовательно, системам необходимо справляться с неопределенностью при взаимодействии с миром. Насколько беспилотный автомобиль уверен, что сейчас безопасно совершить обгон? Какова вероятность, что алгоритм компьютерного зрения, анализируя рентгеновский снимок, сделает вывод, что рака нет? Или каковы шансы, что именно это входящее письмо окажется спамом?

К счастью, 250 лет назад преподобный Томас Байес, пресвитерианский священник из Танбридж-Уэллса в графстве Кент, предложил основательный подход, как справляться с неопределенностью. А именно, он вывел теорему, в соответствии с которой компьютеры получили новый способ вычисления вероятностей. Простой пример поможет понять силу теоремы Байеса.

Данный пример предполагает техническое описание, но уверяю вас, что он стоит того, а вы вполне справитесь с его пониманием. Вы подходите к концу этой краткой истории искусственного интеллекта, соответственно, теперь вы практически эксперт в этой области. Просто представьте, что через две страницы вы сможете похвастаться, что смогли самостоятельно вывести теорему Байеса, начиная с самого первого условия! Оставайтесь со мной.

Предположим, что вы моделируете детектор коронавируса COVID–19, основанный на типе кашля, и вы решили обучить этому нейронную сеть. Прочитав несколько книг об искусственном интеллекте, для достижения своей цели вы используете модель на базе трансформера для обнаружения своего рода плохого кашля, который характерен для коронавируса. И кажется, что все отлично работает. Но как вы можете в этом убедиться? Здесь нам поможет теорема Байеса. Вы хотите вычислить точность вашего детектора, а если точнее, вычислить вероятность того, что у человека есть коронавирус (ваша гипотеза), учитывая, что детектор воспринимает кашель как подозрительный (ваше наблюдение). Переведем в символы:

вероятность (есть коронавирус | подозрительный кашель)

Это «вероятность» того, что у человека «есть коронавирус», учитывая (вертикальная черта «|»), что у него «подозрительный кашель».

Вычислить условную вероятность напрямую не так уж и сложно. Вам необходимо предоставить вашему детектору тысячи аудиофайлов, а затем клинически проверить, что десятки людей, у которых по результатам детектора

К счастью, преподобный Байес предложил нам способ получше. Существуют три другие связанные вероятности для определения точности детектора, вычисление которых значительно проще. Первое, вы меняете местами члены условной вероятности и вычисляете вероятность того, что зараженные коронавирусом верно определены вашим детектором по характерным признакам кашля. Получаем следующее:

вероятность (подозрительный кашель | есть коронавирус)

Кажется, что ничего не изменилось, но на самом деле выполнить такое вычисление намного легче. В данном случае необходимо учитывать только небольшую группу людей с коронавирусом. При их обследовании использовать детектор и далее высчитать, какой процент из них действительно имеют сомнительный кашель. Предположим, что у 95% больных коронавирусом действительно наблюдается подозрительный кашель. Тогдавероятность (подозрительный кашель | есть коронавирус)= 0,95.

Второе, необходимо вычислить вероятность гипотезы, то есть вероятность, что среди общей массы населения обнаружен зараженный. И вновь это несложно сделать, учитывая собранные ранее данные. Выполнять расчеты каждый раз при обновлении детектора не требуется, поскольку данные от него не зависят. Вы можете выявить значение по косвенным данным, например через анализ состава сточных вод. Переводя в символы, получаем вероятность, выраженную следующим образом:

вероятность (есть коронавирус).

Давайте предположим, что 2% населения сейчас больны коронавирусом. Следовательно,вероятность (есть коронавирус)= 0,02.

Третье, теперь нужно вычислить вероятность наблюдения, то есть вероятность того, что у обозначенного детектором человека есть подозрительный кашель. Такое вычисление легко выполняется на основе тысяч аудиофайлов. Затем высчитать, какая доля отмечена как подозрительная. В данном случае не имеет значения, действительно ли человек болен. В символах у нас получится следующее:

вероятность (подозрительный кашель).

В качестве альтернативного способа, если вы знаете частоту ложных срабатываний датчика (группа не больных людей, но у которых отмечено наличие подозрительного кашля), то вам и не нужно измерять это, можно посчитать напрямую.

Предположим, что частота ложных обнаружений равна 5%, то есть детектор ошибочно определил 5% не больных коронавирусом людей как имеющих подозрительный кашель. Вы можете разбить вычисление вероятностивероятность (подозрительный кашель)на две части. Мы знаем, что 2% людей больны коронавирусом, а детектор верно определил, что у 95% из них подозрительный кашель. Также мы знаем, что остальные 98% населения не заражены. Детектор ошибочно определил 5% из них как имеющих подозрительный кашель. Следовательно, доля людей, идентифицированных корректно или нет на наличие кашля, составляет (0,02 × 0,95) + (0,98 × 0,05), итого 0,068. То есть при помощи детектора у 6,8% населения обнаружен подозрительный кашель. Получается, чтовероятность (подозрительный кашель)= 0,068.

Теперь мы можем использовать все три вероятности для вычисления точности детектора. И все это благодаря прекрасным взаимоотношениям между четырьмя вероятностями, которые Байес сам же и установил. Это настолько просто, что мы можем вывести формулу самостоятельно буквально с нуля.

Предположим, что мы проверили наш детектор на тысяче человек. Учитывая, что 2% населения больны COVID–19 (помним, чтовероятность (есть коронавирус)= 0,02), то у 20 человек из 1000 вирус будет обнаружен. Также мы знаем, что детектор не идеален и только лишь 95% из этих 20 действительно будут идентифицированы как имеющие подозрительный кашель (помним, чтовероятность (подозрительный кашель | есть коронавирус)= 0,95). 95% от 20 равно 19. Соответственно, наш детектор отметит 19 больных из 20 как имеющих подозрительный кашель.

Мы также знаем, что у 6,8% населения детектор выявляет подозрительный кашель (помним, чтовероятность (подозрительный кашель)= 0,068). Из этого следует, что из 1000 протестированных 68 получат отметку о подозрительном кашле. Но мы только что вычислили, что только 19 из тех, кто отмечен,действительнобольны коронавирусом. Таким образом, доля тех, кто подозрительно кашляет и кто болен, составляет 19/68 или 0,279. Таким образом, 27,9% из тех, кто идентифицирован системой на признаки подозрительного кашля, на самом деле больны.

В действительности, не имеет значение количество протестированных. Такой же результат мы получим, если исходное количество будет 10 000 или 100 000. Теорема Байеса систематизирует это рассуждение, говоря нам, что эти четыре вероятности связаны простым и красивым уравнением:

вероятность (подозрительный кашель | есть коронавирус)

вероятность (подозрительный кашель)

= (0,95 х 0,02) / 0,068

= 0,279

Таким образом, хотя наша система правильно определяет 95% людей как больных коронавирусом и имеющих подозрительный кашель, вероятность того, что случайный человек, у которого детектор выявил подозрительный кашель, действительно болен COVID–19, составляет всего лишь 27,9%. Иными словами, в большинстве случаев, когда детектор обнаруживает человека с патологическим кашлем, у него нет коронавируса. И наш детектор оказывается не очень-то и хорош!

Проблема заключается в том, что большинство людей не инфицировано коронавирусом. Следовательно, проведение тестирования наугад, даже если тест на кашель максимально точен, скорее всего, даст большое количество ложноположительных результатов. Такие рассуждения важны не только для толкования полученных от детектора данных, но и могут использоваться в других системах на основе искусственного интеллекта от распознавания речи до рекомендаций фильмов. На самом деле, теорема Байеса настолько основополагающая в разработке программного обеспечения, что часто приравнивается по значимости к теореме Пифагора в геометрии [1]. Во многих системах искусственного интеллекта она стала неотъемлемой составляющей для расчета вероятностей. Из всего вышесказанного вытекает шестая основная идея, используемая в разработке искусственного интеллекта сегодня.Можно вычислить вероятность события, имея наблюдение о нем, с помощью теоремы Байеса.

Теорема Байеса сегодня находит множество применений в различных областях. Например, благодаря ей спам приходит на вашу электронную почту реже, чем раньше, поскольку в функционал встроен фильтр, использующий теорему Байеса для вычисления вероятности того, что новое письмо является спамом. Рекомендации на стриминговом сервисе Netflix также используют теорему, чтобы вычислить вероятность того, что определенный фильм понравится вам. Такие предсказания достаточно точны. Четыре фильма из пяти, которые смотрят на сервисе не те, что целенаправленно вбиваются в поиск, а рекомендованные ИИ [2]. В 1970-е годы ВМС США использовали теорему Байеса для вычисления возможных траекторий советских атомных подводных лодок.

Илл. 24.Преподобный Томас Байес

К сожалению, нам известно очень мало о математическом вдохновителе такой значимой идеи. Преподобный Томас Байес родился в 1701 или 1702 году, вероятнее всего, в Хартфордшире. После изучения логики и теологии в университете Эдинбурга он стал пресвитерианским священником. Он скончался в 1761 году и за всю жизнь опубликовал всего лишь две работы: трактат о богословии и обоснование системы вычислений Ньютона. Работа на тему вероятности была опубликована

ГДЕ Я?

Мы подошли к проблеме курицы и яйца, прекрасному примеру, иллюстрирующему широкий спектр применения идеи Байеса. В области искусственного интеллекта существует метод под названием SLAM, метод одновременной локализации и картографирования.

Предположим, что вы представитель компании Waymo и хотите создать беспилотный автомобиль. Установив дорогой лидар[82] на крыше автомобиля, вы можете использовать данные с этого и других датчиков для того, чтобы составлять карту окружающего мира, определяя препятствия в виде пешеходов и велосипедистов, которые не могут быть обнаружены при помощи GPS, и устанавливать точное местонахождение транспортного средства при смене картинки окружающего мира.

Именно здесь мы сталкиваемся с проблемой курицы и яйца. Невозможно определить собственное местонахождения без актуальной карты. И также невозможно создать актуальную карту без определения, где находитесь вы и датчик. Каким-то образом необходимо решить две задачи одновременно. В этом случае нам поможет технология SLAM, использующая идею Байеса о синхронном обновлении возможного местоположения автомобиля и объектов на карте.

На самом деле, возможно, что исследователи искусственного интеллекта неумышленно воссоздают части человеческого мозга. Доказано, что гиппокамп, часть головного мозга, отвечающая за пространственное мышление и память, оказывается вовлечен и в вычисления по типу SLAM[83].

Беспилотные автомобили в значительной степени опираются на карты высокой четкости и GPS. Проблема заключается в том, что не всегда можно далеко уехать, используя GPS, так как карты не обновляются, препятствия в виде пешеходов, велосипедистов и машин не отображаются на картах, и система навигации может зависнуть во время движения по улицам в окруженных зданиями кварталах или туннелям, а беспилотным автомобилям необходимо иметь отображение местности.

Stanley, беспилотный автомобиль, выигравший два миллиона долларов в заезде по пустыне Мохаве в 2005 году, использовал технологию SLAM для определения и составления карты окружающей территории, считывая данные с нескольких датчиков: лидара, GPS, камер и гироскопов. Таким образом, он мог создавать высокоточные 3D-карты пространства с точностью до 4–5 сантиметров.

Однажды такие беспилотные автомобили, как Stanley, значительно сократят количество дорожных происшествий и потребление энергии, смогут оптимизировать расположение автомобилей на загруженных дорогах и позволят пассажирам быть более продуктивными и мобильными, особенно вопрос мобильности касается тех, кто лишен ее ввиду возраста или ограниченных возможностей. Почему же требуется так много времени на создание полноценных беспилотных транспортных средств? Общество автомобильных инженеров выделяет пять уровней автономности. Если считать с нуля, то все шесть.

• Уровень 0 (Автоматизация отсутствует).Все находится под человеческим контролем, даже если автомобиль оборудован такими системами, как автоматическое экстренное торможение.

• Уровень 1 (Помощь водителю).Автомобиль помогает с рулевым управлением или ускорением/торможением, используя данные об условиях вождения. Тем не менее человек все еще отвечает за выполнение большинства задач.

• Уровень 2 (Частичная автоматизация).Автомобиль контролирует как рулевое управление, так и ускорение и торможение, но водитель все еще вовлечен в процесс, поскольку должен следить за дорогой.

• Уровень 3 (Условная автоматизация).Автомобиль справляется с функциями вождения в определенных условиях, но водитель должен быть готов перенять их при необходимости.

• Уровень 4 (Высокая автоматизация).Автомобиль выполняет все функции и следит за дорогой, но только в определенных условиях или на определенной местности. В этих случаях вмешательство человека не требуется, но в некоторых других ситуациях оно может быть необходимо.

• Уровень 5 (Полная автоматизация).Автомобиль выполняет все функции вождения в любых условиях без вмешательства человека.

На данный момент самые продвинутые беспилотные автомобили, доступные в продаже, находятся где-то между третьим и четвертым уровнями. К слову, беспилотные такси, вводимые в эксплуатацию в Сан-Франциско и некоторых других городах США, имеют четвертый уровень. Тем не менее достичь пятого уровня полной автоматизации – все еще задачка со звездочкой, несмотря на обещания Илона Маска. Потребуется решить некоторые проблемы, связанные с неблагоприятными погодными условиями, непредсказуемым человеческим поведением и редкими чрезвычайными ситуациями.

В 2017 году Volvo представила на рынок Австралии полуавтономный автомобиль, который не мог опознать кенгуру[84]. Такая ошибка потенциально опасна, что знает каждый, кто хотя бы раз сталкивался с кенгуру на австралийской проселочной дороге. Проблема в том, что алгоритм SLAM не был настроен на распознавание и отслеживание прыгающих животных, только лишь на тех, кто ходит или бегает.

Другая сложность заключается в знаменитой «проблеме вагонетки», которая сильно будоражит общество, но не экспертов. Что произойдет, если беспилотный автомобиль повернет за угол и обнаружит посередине проезжей части маму с ребенком? Свернет ли он с дороги, тем самым вызвав столкновение с кирпичной стеной, отчего пострадают пассажиры? Или наедет на пешеходов, что может стать причиной их смерти?

Проблема вагонетки – этическая дилемма касательно сошедшего с рельсов трамвая, сформулированная в 1967 го-ду английской писательницей и философом Филиппой Фут[85]. Пять человек лежат связанными на путях, по которым движется трамвай, а вы стоите рядом со стрелкой. Если вы опустите рычаг, то трамвай перейдет на другой путь, на котором также лежит связанный человек. Вам нужно сделать выбор: не делать ничего, и тогда под трамваем погибнут пять человек, или дернуть рычаг, переведя трамвай на другой путь, что повлечет за собой смерть только одного человека. Что вы выберете?

Существует множество интерпретаций этой дилеммы, включая «проблему толстяка», которого столкнули с моста, чтобы ценой его жизни спасти несколько других, а также пересадку органов живых людей без их согласия во благо других. И действительно, сегодня философы поговаривают о таком разделе этики, как «вагонеткология». Фут представила проблему вагонетки как способ более конструктивного обсуждения морально-этических вопросов, связанных с допустимостью аборта. Например, считается ли прерывание беременности обоснованным, если на кону жизнь матери?

Несомненно, проблема вагонетки захватила умы философов и общественности, но в значительной степени она не имеет никакого значения при проектировании беспилотных автомобилей. Автомобили не понимают мир на достаточном уровне, чтобы размышлять о таких высоконравственных вопросах. При просмотре видео, демонстрирующего работу беспилотного автомобиля, если вы видите перед собой подсвеченную зеленым цветом дорогу, то это означает, что движение безопасно и какие-либо препятствия отсутствуют. В случае, если дорога не подсвечивается зеленым, то в соответствии с заданной программой автомобиль будет резко тормозить. Вот так. Механизм управления в сложных ситуациях у беспилотных автомобилей достаточно прост и заключается в следующем.

ВЫПОЛНЯТЬ ДВИЖЕНИЕ, КОГДА ДОРОГА ПОДСВЕЧЕНА ЗЕЛЕНЫМ ЦВЕТОМ, В ПРОТИВНОМ СЛУЧАЕ РЕЗКО ТОРМОЗИТЬ.

Думаю, что с решением этой проблемы мы успешно справимся, в результате чего окажемся на пятом уровне полной автоматизации. В конце концов, беспилотные автомобили обладают массой преимуществ по сравнению с теми, что управляются человеком. Они активируют сенсоры для картографирования в неблагоприятных погодных условиях и темноте, реагируют с электронной, а не биологической скоростью, никогда не устают, не отвлекаются и не находятся в состоянии алкогольного опьянения. Раз уж подростки могут научиться, я почти не сомневаюсь, что и компьютеры тоже будут водить.

Эксперты по-разному оценивают время, которое нам понадобится, чтобы достичь пятого уровня. Оптимисты предполагают, что потребуется от пяти до десяти лет, другие же считают, что это займет десятки лет. Отчасти срок достижения цели будет зависеть от нашей терпимости к ущербу, который причиняет искусственный интеллект в сравнении с тем, что причиняет человек. Вне зависимости от того, сколько времени это займет, надеюсь, что, в конце концов, оглянувшись назад, мы будем поражены тем, что позволяли людям садиться за руль и устраивать кровавые происшествия на дорогах. И все это благодаря преподобному Томасу Байесу.

Часть 3

Будущее

На пороге искусственного интеллекта

«То, что мы имеем сейчас, не значит, что так будет всегда. Говоря о моделях искусственного интеллекта, то, что имеем сейчас, улучшится с такой космической скоростью, с которой не развивалась ни одна предыдущая технология. Единственное, с чем мы все согласны, так это с тем, что мы живем в чертовски странное время».

Стивен Фрай[86]на международном фестивале CogX Festival в сентябре 2023 года

Таким образом, мы добрались до сегодняшнего дня. Сейчас невозможно открыть газету, не прочитав истории о вмешательстве искусственного интеллекта в нашу жизнь. В большинстве случаев заголовки тревожны, негативны и вызывают всеобщую истерию.

Безусловно, история искусственного интеллекта все еще в процессе написания. Существующие сейчас системы искусственного интеллекта, конечно, впечатляют, а порой настораживают, но все же мы пока очень далеки от нашей конечной цели: достичь уровня человеческого интеллекта во всем его многообразии. Не сомневаюсь, что спустя 10, 50 или даже 100 лет мы достигнем ее. И, достигнув уровня человеческого интеллекта, мы, вероятно, значительно превзойдем его. Было бы невероятно самонадеянно полагать, что мы не сможем этого сделать. После всего проделанного, что такого особенного в человеческих способностях? В узкоспециализированных областях, например шахматах, чтении рентгеновских снимков или прогнозировании неисправностей, искусственный интеллект уже превзошел среднестатистического человека.

Не первый раз технологии кажутся нам разрушительными. Многие из них – от парового двигателя до электричества – уже кардинально изменили наш образ жизни. Как и все предыдущие инновации, искусственный интеллект преобразует все области нашей жизни: как мы рождаемся, живем, работаем, играем и умираем. Но в одном революция искусственного интеллекта все же будет отличаться, а именно скоростью, с которой она трансформирует все вокруг.

Промышленная революция заняла более 50 лет, а электрификация несколько десятилетий. Даже интернету потребовалось около десяти лет, чтобы успешно войти в жизнь, поскольку нужно было обеспечить людям доступ к сети. Но революция искусственного интеллекта – совсем другая история. Мы уже подготовили техническую базу, а вам требуется только указать URL-адрес или описать необходимые параметры для работы какого-либо сервиса искусственного интеллекта и можно приступать к работе. В сектор искусственного интеллекта инвестируются колоссальные суммы. В 2024 годуежедневнов разработку вкладывается около миллиарда долларов США. Ранее не наблюдалось сфер с такими внушительными инвестициями. Тем не менее ИИ начинают окупаться. Спустя год после запуска ChatGPT доходы OpenAI выросли с нуля до миллиарда долларов в год, а стоимость компании оценивается в 100 миллиардов долларов[87]. В истории капитализма никогда не наблюдалось столь впечатляющего роста. Область искусственного интеллекта – самая крупная золотая лихорадка. С точки зрения прибыли и рыночной стоимости OpenAI – самая быстро растущая компания из когда-либо существовавших.

Часто говорят, что мы живем в эпоху экспоненциального роста. С 1950-х годов мощность компьютеров удваивается примерно каждые два года. Это то, что мы называем законом Мура. Количество данных в сети, имеющих первостепенную значимость для таких технологий, как машинное обучение, также удваивается каждые пару лет. А многие основополагающие алгоритмы на основе трансформеров кратно увеличили производительность за последние несколько лет.

Однако существует другой экспоненциальный рост, о котором мало говорят. Рост науки в целом. Ни в одной области это не ощущается так, как в секторе искусственного интеллекта. По данным ежегодного отчета Стэнфордского университета AI Index от 2024 года, количество опубликованных работ, посвященных исследованиям искусственного интеллекта, за последние пять лет удвоилось [1], равно как и число поданных и выданных патентов. Следовательно, ожидается, что существенная масса ограничений в существующих системах будет устранена уже в ближайшем будущем. И если это действительно так, то возникает вопрос: куда это все приведет?

СИНГУЛЯРНОСТЬ

Одной из невероятно притягательных конечных целей искусственного интеллекта является технологическая сингулярность. Эта идея восходит глубоко в 1950-е к выдающемуся Джону фон Нейману, одному из отцов информатики. Он предупредил, что «постоянно ускоряющийся технический прогресс и изменения в образе жизни человека создают видимость приближения к какой-то некой сингулярности, за пределами которой привычный образ жизни уже невозможен» [2]. Недавно сингулярность начала популяризироваться благодаря писателю-фантасту Вернору Винджу[88], футурологу Рэймонду Курцвейлу[89], философу Нику Бострому[90] и другим.

Сингулярность искусственного интеллекта – та точка, где будут развиты настолько умные системы, что смогут самостоятельно последовательно обновляться, улучшая свои способности. Такие усовершенствованные, более смышленые технологии смогут совершенствоваться снова и снова, создавая эффект снежного кома. В отличие от биологической эволюции, на которую потребовались тысячи лет, это рекурсивное улучшение может произойти в одночасье, создав искусственный интеллект, внезапно значительно превосходящий человеческий.

Но что же препятствует дальнейшему развитию человечества? Проблема заключается в том, что мы больше не будем самыми разумными существами на планете, а люди стали доминирующим видом как раз благодаря развитым умственным способностям. Мы не были самыми быстрыми или сильными животными, но были самыми сообразительными. Мы использовали свои способности для создания языка, чтобы общаться и взаимодействовать друг с другом, мы придумали инструменты, чтобы усилить возможности мышц, и это позволило нам управлять планетой. Участью других, менее развитых интеллектуально видов, стала зависимость от человечества.

Аналогичным образом, если искусственный интеллект превосходит наш, то наша участь зависит от благосклонности машин. Не то чтобы у технологий были плохие намерения. Если мы строим новый жилой комплекс и на нашем пути попался муравейник, мы просто сносим его. Муравьи не настолько важны для нас, чтобы заботиться о том, что может случиться с ними. Точно так же, как муравьи

Позвольте привести несколько идей о надвигающейся сингулярности, которые помогут не впадать в панику. Во-первых, мы можем оказаться в тупике, поскольку существуют естественные пределы многих физических явлений. Альберт Эйнштейн учил нас, что невозможно превысить скорость света, а Вернер Гейзенберг – что на квантовом уровне невозможно определить одновременно положение и момент импульса частиц. Возможно, есть физические ограничения интеллекта? Мир непредсказуем, и эта неопределенность ограничивает, насколько умным вы можете быть. Не имеет значения, насколько вы умны, поскольку есть предел того, насколько хорошо вы можете играть в казино. На самом деле, самая умная вещь, которую вы можете там сделать, так это выйти оттуда!

Во-вторых, неудивительно, что эрудированные люди придают огромное значение интеллектуальным способностям, но наша суперсила – не интеллект, а общество. Наша способность сплотиться и работать вместе помогла нам выполнять больше работ, чем мы могли бы выполнить в одиночку. Конечно, без интеллекта этого бы не случилось, у нас бы не было языка и возможности общаться, а следовательно, не получилось бы хорошо взаимодействовать друг с другом. Без нашей способности распределять задачи и решать их сообща мы не были бы такими эффективными. Большинство из нас не смогло бы выжить на необитаемом острове. Поэтому интеллект – это не то, чего нужно бояться, а то, что помогает нам выжить.

В-третьих, интеллект, превосходящий человеческий, уже существует и не причинил никакого вреда. На самом деле, даже наоборот. Наш прогресс находится на таком высоком уровне благодаря этому интеллекту, превосходящему интеллект отдельного человека. Это коллективный интеллект человеческих институций, например как в корпорациях и правительствах. Ниодинчеловек не знает, как построить атомную электростанцию, но сообща люди, которые работают в Westinghouse Electric или General Electric Hitachi, и их подрядчики обладают этими знаниями.

Несомненно, сингулярность – интересная возможность. Нам действительно нужно смириться с тем, что технологии будут умнее нас, и подумать о последствиях. Но, возможно, это далеко не самый большой риск, который представляет собой искусственный интеллект.

БЕЗРАБОТИЦА

Один из серьезных рисков – это влияние искусственного интеллекта на сферу труда. Сенсационные заголовки регулярно предупреждают о технологической безработице и делают прогнозы, в соответствии с которыми искусственный интеллект может лишить работы половину населения. Как всегда, реальность, скорее всего, будет гораздо многограннее.

Одно из самых ранних и подробных исследований было опубликовано Оксфордской школой Мартина[91] при Оксфордском университете в сентябре 2013 года. По прогнозу, сделанному в данном исследовании, 47% рабочих должностей в Соединенных Штатах находятся под угрозой автоматизации [3]. Похожие исследования, основанные на данных из других стран, пришли к схожим выводам. С Оксфордским отчетом во многом можно поспорить, но даже если вы и согласны с приведенными в нем заключениями, не спешите думать, что останетесь без работы. На то есть веские причины.

Во-первых, Оксфордский отчет лишь оценивал количество рабочих мест,подлежащихавтоматизации. Но на практике некоторые из них едва ли будут заменены технологиями по экономическим, общественным, техническим и многим другим причинам. Например, функции пилота самолета сегодня практически полностью автоматизированы. В большинстве случаев самолетом управляет компьютер. Но общество, скорее всего, и дальше будет требовать присутствия пилота на борту, даже если он большую часть времени будет просто читать свой iPad. Еще один пример, Оксфордский отчет оценивает в 94% вероятность того, что ремонт велосипедов будет автоматизирован. Однако такой процесс будет достаточно сложным и дорогим, следовательно, экономически невыгодным. И я еще ни разу не встречал специалиста, пытающегося создать робота для починки велосипедов.

Во-вторых, нам следует задуматься о том, что технологии откроют возможности для создания новых рабочих позиций. Например, сейчас мы не нанимаем наборщиков текста. Вместо этого наш штат состоит из сотрудников, занимающих высокотехнологичные должности, например разработчиков веб-сайтов. Конечно, если вы специалист по печати и ваши функции переданы машине, то при наличии соответствующего образования переквалифицироваться на новую специальность не составит труда.

В-третьих, некоторые профессии будут только частично автоматизированы, что на самом деле повысит нашу эффективность. Например, в отчете Оксфордского университета вероятность автоматизации профессии геолога оценивается в 63%. Однако автоматизация, скорее всего, позволит геологам больше заниматься непосредственно геологией или выполнять больший объем работ. В действительности, по прогнозам Министерства труда США, число геологов через десять лет увеличится на 10%, поскольку мы стремимся более эффективно использовать сокращающиеся природные ресурсы планеты.

В-четвертых, нам также стоит подумать, как изменится рабочая неделя через несколько десятилетий. С началом промышленной революции в большинстве стран развитого мира количество рабочих часов в неделю значительно сократилось. В Соединенных Штатах средняя продолжительность рабочей недели упала с 60 до 33 часов. В других развитых странах этот показатель еще ниже. В Германии работают 26 часов в неделю. Если такая тенденция продолжится, то нам нужно будет создать больше рабочих мест, чтобы компенсировать потерянные часы.

Часто люди забывают, что выходные дни были придуманы во время промышленной революции. Рабочие требовали выходной в воскресенье для походов в церковь, а затем и в субботу, чтобы просто отдохнуть. Но по причинам, мне неизвестным, мы перестали просить больше. Однако сейчас во всем мире проводятся исследования, посвященные переходу на четырехдневную рабочую неделю, по результатам которых люди, работающие четыре дня, более продуктивны и чувствуют себя счастливее, чем те, кто трудится все пять. Как вам такое?

В-пятых, нам также не следует забывать о демографии. В большинстве развитых стран население стареет. Это означает, что доля пожилых людей в общей численности населения увеличивается, а количество работоспособного населения уменьшается. Повышение производительности за счет искусственного интеллекта необходимо как минимум для того, чтобы удержать нашу экономику на плаву, а пенсионеров обеспечить выплатами.

Тем не менее сложно предсказать наверняка, сколько из нас действительно останутся без работы по вине технологий, но точно не половина населения. Общество в современном его виде изменится задолго до того, как мы достигнем 50-процентного уровня безработицы. Искусственный интеллект, тем не менее, окажет огромное влияние на занятость, и нам нужно начать планировать и принимать меры по предотвращению этого сбоя уже сегодня.

В заключение хотелось бы отметить, что при всей автоматизации рабочего процесса сегодня все еще существует большое количество профессий, которые мы не ценим и не оплачиваем должным образом, например в сфере ухода за пожилыми или людьми с ограниченными возможностями. В большинстве случаев такая работа выполняется женщинами, и в будущем, когда ИИ обеспечит значительный рост производительности, появится возможность повышения заработной платы сиделкам. Какое прекрасное будущее могло бы быть!

БУДУЩИЕ СЛОЖНОСТИ

Сегодня нас беспокоит не только вопрос трудовой деятельности, многие другие сферы также подвержены влиянию искусственного интеллекта. У развития высоких технологий две стороны медали. Наряду с такими

В августе 2023 году Специальный комитет палаты общин по науке, инновациям и технологиям проделал колоссальную работу и выделил несколько главных вызовов, которые бросает нам искусственный интеллект [4].

• Проблема предвзятости.Искусственный интеллект может создавать или закреплять предубеждения, которые общество считает неприемлемыми.

• Проблема конфиденциальности.Искусственный интеллект способен идентифицировать личность или предоставлять персональные данные о человеке сверх дозволенного.

• Проблема искажения фактов.Искусственный интеллект может создавать материалы, содержащие ложное представление о чьем-либо поведении, мнении или характере, а также искаженные сведения в таких важных вопросах, как климат или политические партии.

• Проблема доступа к данным.Самые мощные системы искусственного интеллекта требуют доступ к огромным массивам данных, принадлежащим нескольким организациям.

• Проблема доступа к компьютеру.Самые мощные системы искусственного интеллекта требуют больших вычислительных мощностей, которые доступны только некоторым организациям.

• Проблема черного ящика.Модели искусственного интеллекта зачастую не способны объяснить, почему они выдали тот или иной результат.

• Проблема открытых источников.Сделав код разработки искусственного интеллекта общедоступным, мы будем способствовать прозрачности и инновациям, но в то же время это позволит злоумышленникам воспользоваться им в своих целях. С другой стороны, если права собственности будут только у узкого круга лиц, то это может привести к злоупотреблениям властью.

• Проблема интеллектуальной собственности и авторского права.Большие модели часто обучены на данных, защищенных авторским правом, без ведома правообладателя, не говоря уже об отчислениях ему за пользование ими. Все еще непонятно, кто владелец выходных данных.

• Проблема материальной ответственности.Если модели искусственного интеллекта используются третьими лицами для причинения вреда, должна быть создана правовая система, регулирующая права и ответственность за совершение противоправного деяния.

• Проблема трудоустройства.Как мы обсуждали выше, искусственный интеллект вмешается в рабочий процесс, к которому мы привыкли сегодня. И нам необходимо внимательно контролировать изменения, которые произойдут вследствие такого воздействия.

• Проблема международного сотрудничества.Искусственный интеллект разрабатывают во всем мире, следовательно, должны быть определенные структуры управления и регулирования, предусмотренные международным сообществом.

• Проблема вымирания.Искусственный интеллект может поставить под угрозу вымирания вид человека в целом.

Это довольно-таки тревожный и в то же время неполный список сложностей. Сюда можно также добавитьпроблему окружающей среды,так как в процессе работы больших моделей искусственного интеллекта выделяется углекислый газ и используется вода для охлаждения.Демократический вопростакже может быть поднят в результате развития технологий, использующихся для влияния на избирателей и подтасовки результатов выборов по всему миру. На самом деле, большинство «проблем будущего» уже существуют внастоящем. Например, в США уже подано несколько коллективных исков о нарушении авторских прав и защите интеллектуальной собственности против компаний, разрабатывающих искусственный интеллект. Могут ли компании технического сектора использовать огромное количество материалов, защищенных авторским правом, для обучения больших языковых моделей без согласия или компенсации правообладателю? Справедливо ли так поступать?

Невозможно предположить, как будут развиваться такие судебные дела. Предыдущие судебные процессы, которые могли бы помочь создать прецеденты, сработали в обе стороны. В 2013 году компания Google выиграла дело, поданное Американской гильдией писателей. По результатам судебного разбирательства сканирование и суммирование миллионов текстов, выполненное Google Books, признано добросовестным. Верховный суд США в 2016 году оставил постановление без изменений. Однако в 2001 году платформа Napster прекратила свою деятельность после проигрыша в нескольких судебных процессах о нарушении авторских прав, несмотря на выявление и блокировку 99,4% материалов, подпадающих под категорию неправомерных.

Тем не менее ясно одно – предстоящий путь будет тернистым.

Когда меня спрашивают, оптимист я или пессимист касательно сложностей, вызванных искусственным интеллектом, я отвечаю, что все вместе. Я оптимист ввиду последних преимуществ, приобретенных не так недавно благодаря технологиям, но в то же время и пессимист. К сожалению, наши дети унаследуют совсем другой мир, отличный от того, в котором родились мы, и все из-за череды сложностей, некоторые из которых вызваны искусственным интеллектом, например технологическая безработица и недоверие к тем самым институтам, в которых мы сейчас больше всего нуждаемся.

Следующее десятилетие, а может, даже и не одно, будет сложным. Технологии, включая искусственный интеллект, помогут нам решить массу проблем. Но, чтобы действительно получить пользу от искусственного интеллекта, нужно помнить об истории. Социальные сети, например, должны были стать тревожным сигналом о том, как технологии могут нарушить нашу жизнь. Сейчас мы на пороге того, чтобы искусственный интеллект нарушил нашу жизнь еще существеннее, став частью наших будней. Если мы не хотим допустить этого, то лучше бы нам извлечь уроки из прошлого.

Возможно, эта книга – неплохое место, чтобы начать?

Авторские права на изображения

1. Ада Лавлейс: Альфред Эдвард Шалон [предположительно], портрет Ады Кинг, графини Лавлейс, ок. 1840. Коллекция Музея науки. Изображение Викимедиа; патент на Nimatron: Эдвард Кондон, патент США 2215544, 26 апреля 1942 © Wikimedia Commons; Shakey: Коллекция SRI International © Wikimedia Commons; Марион Тинсли: фотография Марка Т. Фоули © Wikimedia Commons / Florida Memory.

2. Stanley: фотография Санао © Wikimedia Commons; Watson / Jeopardy!: Бен Хидер / Getty Images; Chinook: Неизвестный фотограф через Hackernoon / Medium; Фей-Фей Ли: Фотография МСЭ / Р. Фаррелла с международного саммита «Искусственный интеллект во благо». Изображение на Flickr, CC 2.0; Илон Маск: Фотография Стива Джурветсона. Изображение на Flickr, CC 2.0; София: Фото со стока DPA Picture Alliance / Alamy Stock Photo.

3. Изображение любезно предоставлено музеем Массачусетского технологического института.

5. Альфред Эдвард Шалон [предположительно], портрет Ады Кинг, графини Лавлейс, ок. 1840. Коллекция Музея науки © Wikimedia Commons.

6. Everett Collection Historical / Alamy Stock Photo.

9. Тимоти Колберн / Университет Миннесоты.

10.Parville H.La tour d’Hanoï et la question du Tonkin’ // La Nature. 1884. Vol. 12. No. 548. P. 285–286.

11. Патент: Эдвард Кондон, патент США 2215544, 26 апреля 1942 © Wikimedia Commons; фотограф: Неизвестный фотограф. Изображение любезно предоставлено сообществом Historic Pittsburgh.

12. Неизвестный фотограф на afflictor.com с разрешения Джонатана Шеффера.

13. Общественное достояние; изображение предоставлено Оуэном Холландом,Holland O.The first biologically inspired robots // Robotica. 2003. Vol. 21. P. 354.

14. Фото со стока DPA Picture Alliance / Alamy Stock Photo.

15. Уолтер Питтс: Неизвестный фотограф, 1954 © Wikimedia Commons; Уоррен Мак-Каллок: Фотограф Лотфи Заде, любезно воспроизведено Норманом Заде. Изображение предоставлено EECS в Беркли.

16. Джордж Буль: неизвестный художник, 1864–1865. Изображение Haks / © Wikimedia Commons; Джеффри Хинтон: фотограф Рамси Карди / Конференция по столкновениям. Изображение из Sportsfile на Flickr, CC 2.0.

17. Фотография МСЭ / Р. Фаррелла с международного саммита «Искусственный интеллект во благо».

18. Фотография Стива Дженнингса / Getty Images для TechCrunch. Изображение размещено на Flickr, CC 2.0.

19. График составлен Аланом Лейвером на основе OurWorldInData.org/artificial-intelligence, данные по эпохам (2023). CC BY.

21. Демис Хассабис: Фотография Королевского общества / Дункан Халл © Wikimedia Commons. Мустафа Сулейман: Фотография Кристофера Уилсона © Wikimedia Commons.

22. Стэн Хонда / Getty Images.

23. Бен Хидер / Getty Images.

24. Из книги Теренса О’Доннелла.O’Donnell T.History of Life Insurance in Its Formative Years. Chicago: American Conservation Co., 1936. P. 335 © Wikimedia Commons.

Благодарности

Написание этой книги – труд многих людей. Поэтому я хотел бы поблагодарить всех замечательных людей, без которых этой книги бы не было. Начну с Морри Шварца и его команды в Black Inc. Книга выполнена по их заказу, и я надеюсь, что они не пожалеют о своем решении. Процесс написания принес мне огромное удовольствие, что я расцениваю как многообещающий знак.

Моих коллег из университета Нового Южного Уэльса, CSIRO Data61 и других организаций, а особенно моих студентов, аспирантов и научных сотрудников, которые предоставили мне благоприятную среду, в которой я продолжаю исследовать мечты об искусственном интеллекте.

Моего редактора Джо Розенберг. Я всегда поражаюсь, как она может удалять текст и этим делает книгу намного лучше!

Моего литературного агента Маргарет Джи.

Моего агента по публичным выступлениям Надю Петрик за умелое руководство моими публичными выступлениями, на которых я продолжаю важные дискуссии, затронутые в моих книгах. Найти их можно на сайте http://tobywalsh.ai

Но прежде всего, я хочу поблагодарить членов моей семьи, которые позволили мне освободить время для написания еще одной книги. Они – все для меня.

Примечания

КАК ВСЕ НАЧИНАЛОСЬ

Maslej N. et al.Artificial Intelligence Index Report 2024. Stanford: Institute for Human-Centered AI, Stanford University, 2024.

Samuel A. L.Artificial Intelligence: A Frontier of Automation // The Annals of the American Academy of Political and Social Science. 1962. Vol. 340. No. 1. P. 10–20.

Turing A. M.Computing Machinery and Intelligence // Mind. 1950. Vol. 59. No. 236. P. 433–460.

Lovelace A.Note A. Sketch of the Analytical Engine Invented by Charles Babbage, Esq. By L. F. Menabrea of Turin, Officer of the Military Engineers // Scientific Memoirs. 1843. Vol. 3.

Ibid.

Hobbes T.De Corpore // The Collected Works of Thomas Hobbes / Ed. W. Molesworth. London: Routledge Themes Press, 1992.

ЧАСТЬ 1: ЭРА СИМВОЛИЗМА

ИДЕЯ № 1: ПОИСК ОТВЕТОВ

Searle J.The Chinese Room // The MIT Encyclopedia of the Cognitive Sciences / Eds. R. A. Wilson, F. Keil. Cambridge, MA: MIT Press, 1999.

Hart P. E., Nilsson N. J., Raphael B.A Formal Basis for the Heuristic Determination of Minimum Cost Paths // IEEE Transactions on Systems Science and Cybernetics. 1968. Vol. 4. No. 2. P. 100–107.

Simon H. A.Administrative Behavior: A Study of Decision-Making Processes in Administrative Organization. New York: Macmillan, 1947. P. 82.

McCorduck P.Machines Who Think. 2nd ed. Natick: A.K. Peters, Ltd., 2004.

Crevier D.AI: The Tumultuous Search for Artificial Intelligence. New York: Basic Books, 1993.

Fikes R. E., Nilsson N. J.STRIPS: A New Approach to the Application of Theorem Proving to Problem Solving // Artificial Intelligence. 1971. Vol. 2. No. 3–4. P. 189–208.

ИДЕЯ № 2: СДЕЛАТЬ ЛУЧШИЙ ХОД

Tawney G. L., Derr W. A.Machine to Play Game of Nim // U.S. Patent Number 2,215,544.

Kasparov G.The Day That I Sensed a New Kind of Intelligence // Time. 1996. 25 March.

Robot Whips Backgammon Champ // San Francisco Chronicle. 1990. 17 July. P. 1.

Schaeffer J. et al.Checkers Is Solved // Science. 2007. Vol. 317. No. 5844. P. 1518–1522.

References to these perfect solutions:

Nim:Bouton C. L.Nim, A Game with a Complete Mathematical Theory // Annals of Mathematics. 1901–1902. Vol. 3. No. 14. P. 35–39.

Connect 4:Tromp J.John’s Connect Four Playground. https://tromp.github.io/c4/c4.html

Othello:Takizawa H.Othello Is Solved // arXiv, https://arxiv.org/abs/2310.19387

Tic-Tac-Toe: Полная карта оптимальных позиций для игры в крестики-нолики// XKCD. https://xkcd.com/832

Metz C.Artificial Intelligence Is About to Conquer Poker – But Not Without Human Help // Wired. 2017, 24 January.

Gladwell M.Outliers: The Story of Success. New York: Little, Brown and Co., 2008.

АНТРАКТ

Moravec H.Mind Children: The Future of Robot and Human Intelligence. Cambridge, MA: Harvard University Press, 1988. P. 15.

Pinker S.The Language Instinct: How the Mind Creates Language. New York: HarperCollins, 1994.

Unimate Robot // YouTube, https://tinyurl.com/ UnimateRobot

ЧАСТЬ 2: ЭРА ОБУЧЕНИЯ ИДЕЯ № 4: ИСКУССТВЕННЫЙ МОЗГ

New Navy Device Learns by Doing // The New York Times. 1958. 9 July.

Lefkowitz M.Professor’s Perceptron Paved the Way for AI – 60 Years Too Soon // Cornell Chronicle. 2019. 25 September.

Schmidhuber J.Multi-Column Deep Neural Networks for Image Classification // Proceedings of the 2012 IEEE Conference on Computer Vision and Pattern Recognition. Washington, D.C.: IEEE Computer Society, 2012. P. 3642–3649.

Vaswani A. et al.Attention Is All you Need // NIPS ’17 Advances in Neural Information Processing Systems 30. 2017. P. 6000–6010.

Bolukbasi T. et al.Man Is to Computer Programmer as Woman Is to Homemaker? Debiasing Word Embeddings // Proceedings of the 30th International Conference on Neural Information Processing Systems (NIPS 2016). 2016. P. 4356–4364.

Devlin J. et al.BERT: Pre-Training of Deep Bidirectional Transformers for Language Understanding // Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies. Minneapolis: Association for Computational Linguistics, 2019. P. 4171–4186.

ИДЕЯ № 5: НАГРАДА ЗА УСПЕХ

European Molecular Biology Laboratory’s European Bioinformatics Institute. EMBL-EBI Highlights 2023.

ИДЕЯ № 6: РАЗМЫШЛЕНИЕ ОБ УБЕЖДЕНИЯХ

Jeffreys H.Scientific Inference. 3rd ed. Cambridge: Cambridge University Press, 1973. P. 31.

Plummer L.This Is How Netflix’s Top-Secret Recommendation System Works // Wired. 2017. 22 August.

Davies J.A History of Wales. London: Penguin, 1990.

ЧАСТЬ 3: БУДУЩЕЕ

НА ПОРОГЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Maslej N. et al.Artificial Intelligence Index Report 2024.

Ulam S.Tribute to John von Neumann // Bulletin of the American Mathematical Society. 1958. Vol. 64. No. 3. Part 2.

Frey C. B., Osborne M. A.The Future of Employment: How Susceptible Are Jobs to Computerisation? Research paper. 2013. September 17.

Notes

Дуглас Адамс (1952–2001) – британский писатель и сценарист, чья сатирическая сага «Автостопом по Галактике» стала культовым феноменом, объединившим научную фантастику с тонким английским юмором. –Здесь и далее, если не указано иное, прим. науч. ред.

Артур Чарльз Кларк (1917–2008) – английский футуролог и научный фантаст, чьи идеи, включая концепцию спутниковой связи, часто опережали технический прогресс. Входит в так называемую Большую тройку (вместе с Азимовым и Хайнлайном) англоязычных фантастов XX века.

Айзек Азимов (1920–1992) – американский биохимик и писатель, сформулировавший знаменитые Три закона робототехники. Его творчество сыграло ключевую роль в популяризации науки и формировании современного образа роботов в культуре.

Джон Маккарти (1927–2011) – выдающийся американский информатик, лауреат премии Тьюринга (1971). Он ввел термин «искусственный интеллект» и разработал язык программирования Lisp, ставший стандартом в этой области на десятилетия.

Если вам интересно узнать о том, как я чуть не оставил свой отпечаток в истории искусственного интеллекта, едва не утопив Джона Маккарти, то почитайте об этом в моей первой книге “It’s Alive! Artificial Intelligence from the Logic Piano to Killer Robots”. –Прим. автора.

Алан Тьюринг (1912–1954) – английский математик и криптограф, заложивший теоретические основы информатики. Его концепция универсальной вычислительной машины и предложенный тест на интеллектуальность машин остаются фундаментальными для всей сферы ИИ.

Артур Сэмюэл (1901–1990) – американский пионер компьютерных наук. Считается автором термина «машинное обучение».

Фриц Ланг (1890–1976) – классик немецкого экспрессионизма. Его «Метрополис» стал одной из первых киноантиутопий, заложившей визуальный канон изображения будущего и отношений человека с машиной.

К сожалению, Алан Тьюринг умер до моего рождения, так что мне не удалось встретить его. Однако ИИ – узкая область, поэтому у меня (как и у многих других) есть определенные академические связи. Тьюринг учился в Кембриджском университете под руководством Людвига Витгенштейна. Другим аспирантом Витгенштейна был математик Рубен Гудстейн, известный своей теоремой Гудстейна. А одним из аспирантов Гудстейна был Алан Банди, который стал профессором кафедры искусственного интеллекта в Эдинбургском университете, где в свое время был моим научным руководителем. –Прим. автора.

Bombe («Бомба») – Тьюринг не создавал эту машину с нуля, а радикально усовершенствовал разработку польских криптографов (так называемую криптологическую бомбу). Главным вкладом Тьюринга стал метод, позволявший значительно сократить перебор вариантов настроек роторов «Энигмы».

Речь идет о статье «Вычислительные машины и разум», опубликованной в философском журнале Mind (с англ. «Разум»). Именно в ней Тьюринг сместил фокус с философского вопроса «Может ли машина мыслить?» на прагматичный – «Может ли машина действовать неотличимо от человека?».

Ада Лавлейс (1815–1852) – графиня, которую называют первым программистом в истории не за написание кода для существующего компьютера, а за понимание того, что компьютер способен не только вычислять, но и манипулировать любыми символами (нотами, буквами), если их перевести в цифры.

Чарльз Бэббидж (1791–1871) – английский математик, прозванный «отцом компьютера». Его трагедия заключалась в том, что он придумал машину (аналитический двигатель) за сто лет до того, как технологии позволили бы ее построить.

Числа Бернулли – последовательность рациональных чисел, играющая важную роль в теории чисел и анализе. Лавлейс выбрала их для демонстрации мощи машины Бэббиджа, так как их вычисление вручную было чрезвычайно трудоемким и подверженным ошибкам процессом.

Далее автор цитирует отрывок из работы Ады Лавлейс, но не упоминает важную деталь – это комментарии к переводу статьи итальянского инженера Л. Менабреа об аналитической машине Бэббиджа. Однако ее «Примечания» (особенно «Примечание G» с алгоритмом) по объему и значимости в три раза превзошли сам исходный текст.

Джордж Буль (1815–1864) – английский математик и логик. В своем фундаментальном труде «Исследование законов мышления» (1854) он впервые применил алгебраическую символику для описания логических процессов. Эта система (булева алгебра) спустя столетие легла в основу схемотехники всех цифровых компьютеров

В 1908 году Королевский колледж переименуют в Университетский колледж Корка. Когда я работал в Университетском колледже Корка, я вспоминал Джорджа Буля каждый раз, как проезжал на велосипеде мимо дома на Гренвилл Плейс, 5, и видел бронзовую табличку с надписью, что здесь жил и создал свой шедевр «Исследования законов мышления» Джордж Буль. –Прим. автора.

Готфрид Вильгельм Лейбниц (1646–1716) – немецкий философ, математик и дипломат. Он не только предвосхитил идеи математической логики, но и спроектировал механический арифмометр, способный выполнять умножение и деление, а также описал двоичную систему счисления, ставшую «родным языком» современной вычислительной техники.

Имеется в виду знаменитый спор о приоритете – один из самых громких конфликтов в истории науки. Ньютон разработал основы метода флюксий (так он называл дифференциальное исчисление) еще в середине 1660-х, но не публиковал их. Лейбниц пришел к открытию математического анализа независимо десятью годами позже, но первым опубликовал свои результаты в 1684 году. Лондонское королевское общество, президентом которого был Ньютон, официально обвинило Лейбница в плагиате, однако сегодня историки науки признают их независимыми создателями исчисления.

Томас Гоббс (1588–1679) – английский философ, автор знаменитого трактата «Левиафан».

Раймунд Луллий (ок. 1232–1315) – каталонский философ, поэт и богослов. Его метод Ars Magna («Великое искусство») предполагал использование механических приспособлений (вращающихся кругов) для комбинаторного поиска истины, что историки информатики считают отдаленным прообразом логических машин. Вопреки легенде, он, вероятно, умер своей смертью, а не был забит камнями.

Talos – здесь автор иронично обыгрывает название современной американской компании Talos Trading, предоставляющей институциональные технологии для торговли криптовалютами. Бронзовый страж превратился в стража цифровых активов.

Легенда приписывает создание этого голема знаменитому раввину Йехуде Лива бен Бецалелю (Махаралю) в конце XVI века. Согласно преданию, чтобы оживить глиняного гиганта, нужно было вложить ему в рот шем (капсулу с магическим именем Бога), а чтобы отключить – вынуть ее.

Мэри Шелли (1797–1851) – английская писательница, начала писать «Франкенштейна» в 18 лет на спор. Летом 1816 года (известном как «Год без лета») компания друзей, включая лорда Байрона, запертая непогодой на вилле у Женевского озера, решила сочинять страшные истории. Так из литературной игры родился жанр научной фантастики.

Халицин – первый

HAL 9000 – компьютер из культового фильма Стэнли Кубрика и книги Артура Кларка. Существует популярная теория, что аббревиатура HAL – это сдвинутые на одну букву назад буквы IBM, хотя сам Кларк утверждал, что это означает Heuristically programmed ALgorithmic computer (эвристически запрограммированный алгоритмический компьютер).

Имеются в виду последователи Школы имен (мин цзя) – одного из шести основных философских течений Древнего Китая, занимавшихся проблемами соотношения имен и реальности.

Principia Mathematica («Математические начала») – трехтомный труд, написанный Бертраном Расселом и Альфредом Уайтхедом, целью которого было свести всю математику к набору логических аксиом.

Теофраст (ок. 371 – ок. 287 до н. э.) – древнегреческий философ и естествоиспытатель, ученик Аристотеля, «отец ботаники».

Перипатетики – ученики и последователи философии Аристотеля (от греч. περι-πατέω – «хожу кругом», так как обучение происходило во время прогулок).

Если точнее, то им понадобилось бы 264 – 1 секунда, что равняется 8 446 744 073 709 551 615 секундам. Это в два раза больше, чем текущий предполагаемый возраст Вселенной. –Прим. автора.

Франсуа Эдуард Анатоль Люка (1842–1891) – французский математик, известный работами в области теории чисел и занимательной математики.

На момент редактирования книги ситуация сильно поменялась. Актуальная версия нейросети GPT–5.2 (январь 2026 года) правильно указывает, что в слове «идеально» – восемь букв. С этим справляется даже самая «маленькая» из этого поколения моделей – GPT–5–nano.

Nimatron – аппарат, созданный для Всемирной выставки 1940 года, интересен тем, что Эдвард Кондон запатентовал его именно как «игровое устройство». Фактически это делает его прародителем всей индустрии видеоигр.

Существует версия, что Каспаров был психологически сломлен еще в первой партии матча, когда Deep Blue из-за программного сбоя (бага) сделал абсолютно бессмысленный ход. Каспаров же принял эту ошибку за признак «высшего интеллекта» и непредсказуемой стратегии, что заставило его переоценить возможности машины.

Марион Тинсли (1927–1995) – профессор математики, считающийся сильнейшим игроком в шашки в истории. Тинсли утверждал, что непобедим, так как его стратегию направляет Бог, но анализ показал, что он обладал феноменальной памятью на позиции, близкой к компьютерной базе данных.

Речь идет о «процессоро-часах» – стандартной единице измерения работы суперкомпьютеров. Поскольку современные вычислительные кластеры используют тысячи ядер одновременно, вычисления выполняются параллельно. Например, если компьютер задействует 10 000 ядер, то за один час реального времени он совершает объем работы, равный 10 000 часов вычислений. Таким образом, миллионы часов «обучения» проходят за несколько недель или месяцев реального времени.

Речь идет о знаменитом монологе из боевика «Заложница» (Taken, 2008), ставшем интернет-мемом, в основном в англоязычной культуре.

Сэр Джеймс Лайтхилл (1924–1998) – выдающийся британский математик, специалист по гидроаэродинамике. Его отчет 1973 года стал «холодным душем» для научного сообщества: математически обосновав сложность комбинаторного взрыва, он убедил правительство, что ИИ не способен решать реальные задачи, что привело к резкому сокращению финансирования («зиме ИИ»).

Джошуа Ледерберг (1925–2008) – генетик, лауреат Нобелевской премии по физиологии и медицине (1958). Его интерес к ИИ был уникален для биолога: он искал способ автоматизировать поиск молекулярных структур, чтобы компьютер стал «интеллектуальным усилителем» для ученого, а не просто калькулятором.

Да, у экспертных систем было слишком много «отцов». –Прим. автора.

Prolog (от фр. Programmation en Logique) – язык, разработанный в начале 1970-х французом Аленом Колмероэ. В отличие от привычных языков (где мы пишем, как решать задачу), в Prolog программист описывает факты и правила (что есть истина), а машина сама ищет решение, используя логический вывод.

Fifth Generation Computer Systems (FGCS) – масштабная госпрограмма Японии (1982–1992), призванная создать «думающие машины» и покончить с доминированием IBM. Хотя проект технически провалился, он спровоцировал гонку вооружений в сфере ИТ и заставил США и Европу влить миллиарды в свои разработки, чтобы не отстать от «японского чуда».

Ханс Моравек (р. 1948) – футуролог и пионер робототехники, известный своими радикальными прогнозами о том, что роботы станут нашими «эволюционными наследниками». Его парадокс объясняет, почему ИИ легко побеждает в шахматы (высокоуровневая логика), но с трудом учится ходить или складывать белье (низкоуровневая сенсомоторика), на освоение которых у эволюции ушли миллионы лет.

Марвин Минский (1927–2016) – один из «отцов-основателей» искусственного интеллекта, соучредитель лаборатории ИИ в MIT. Он был научным консультантом фильма «2001 год: Космическая одиссея» и, как говорят, едва не погиб на съемочной площадке от рук настоящего робота-манипулятора.

Стивен Пинкер (р. 1954) – канадско-американский когнитивный психолог и лингвист, популяризатор науки. Цитата приведена из его знаменитой книги «Язык как инстинкт» (1994), где он рассматривает работу мозга как сложную вычислительную систему, сформированную естественным отбором.

«Язык как инстинкт», перевод Е. Кайдаповой. –Прим. ред.

Уильям Хит Робинсон (1872–1944) – английский карикатурист, прославившийся рисунками абсурдно сложных механизмов для выполнения простейших задач (например, для чистки зубов или варки яиц). В английском языке выражение «механизм Хита Робинсона» стало нарицательным, аналогично «машине Руба Голдберга» в США.

Джозеф Энгельбергер (1925–2015) – инженер и предприниматель, который превратил робототехнику из научной фантастики в индустрию. Он основал компанию Unimation не для создания разумных андроидов, а для выполнения «3D-задач»: Dull, Dirty, Dangerous (скучных, грязных и опасных), с которыми люди справлялись хуже машин.

Знаю-знаю, в сфере искусственного интеллекта слишком много «отцов». –Прим. автора.

Перевод В. Баканова. –Прим. ред.

Опять же, мне повезло хорошо знать Родни Брукса. Да, ИИ – это небольшая область, и для меня было настоящей честью познакомиться с большинством первопроходцев за все те 40 лет, что я работаю в этой области. –Прим. автора.

Отдельная благодарность другим двум сооснователям iRobot – Колину Энглу

Facebook принадлежит компании Meta, которая признана экстремистской организацией в России. –Прим. ред.

Если автомобиль едет сам, то кто же этот «сам»? –Прим. автора.

Возможно, вы удивлены, что автомобиль стал экспонатом в музее воздухоплавания и астронавтики. Причина в том, что Stanley использовал спутниковую навигационную систему GPS. –Прим. автора.

Себастьян Трун (р. 1967) – ученый и предприниматель, руководивший разработкой Stanley. Позже он основал секретную лабораторию Google X, где родились проекты беспилотных автомобилей Google (ныне Waymo) и умных очков Google Glass.

Ян Лекун (р. 1960) – французский информатик, лауреат премии Тьюринга, один из создателей глубокого обучения (Deep Learning). Его критика Софии связана с тем, что подобные проекты создают у публики ложное представление об ИИ как о магии, отвлекая от реальных научных достижений.

Не знаю, почему история искусственного интеллекта отличается таким количеством преждевременных смертей, но так оно и есть. –Прим. автора.

Мне посчастливилось получить свою докторскую степень на том же отделении, только спустя десять лет после Хинтона. –Прим. автора.

Дэвид Румельхарт (1942–2011) – когнитивный психолог, который, в отличие от многих «технарей» в ИИ, искал вдохновение в структуре человеческой памяти. Он был лидером исследовательской группы PDP (Parallel Distributed Processing), возродившей интерес к нейросетям в 1980-х.

Сеппо Линнайнмаа (р. 1945) – финский математик и информатик. В своей магистерской диссертации 1970 года он описал «режим обратного автоматического дифференцирования» – математический метод, который спустя десятилетия лег в основу обучения нейросетей, хотя сам автор изначально не связывал его с ИИ.

Лев Семенович Понтрягин (1908–1988) – выдающийся советский математик, потерявший зрение в 14 лет, что не помешало ему стать академиком. Его работы по теории оптимального управления («Принцип максимума Понтрягина») косвенно предвосхитили методы настройки параметров в сложных системах, включая нейросети.

ImageNet – проект, изменивший парадигму искусственного интеллекта. До него ученые пытались улучшить алгоритмы; ImageNet доказал, что ключ к успеху – в гигантских объемах размеченных данных.

Amazon Mechanical Turk – краудсорсинговая платформа, где люди выполняют задачи, с которыми пока не справляются компьютеры (например, отличить кошку от собаки на фото). Название отсылает к «Механическому турку» XVIII века – шахматному автомату, внутри которого прятался живой шахматист.

Илья Суцкевер (р. 1986) – канадский информатик родом из СССР (Нижний Новгород), ученик Хинтона. Он стал ключевым звеном между академической наукой и индустрией: после прорыва с AlexNet он стал сооснователем и главным научным сотрудником OpenAI, стоявшим у истоков ChatGPT. Сейчас Илья работает над созданием AGI (Artificial general intelligence – сильный (общий) искусственный интеллект) в созданном им стартапе Safe Superintelligence Inc.

“Attention Is All You Need” – название этой научной статьи стало культовым. В ней впервые была описана архитектура трансформера (Transformer), которая позволила нейросетям обрабатывать весь текст целиком, а не по словам, и уделять «внимание» связям между далекими друг от друга словами.

Приведенный выше пример иллюстрирует идеальный сценарий работы алгоритма BPE (Byte Pair Encoding). Его главный принцип: чем чаще слово встречается в обучающих текстах, тем выше вероятность, что нейросеть запомнит его как единый токен. Редкие же слова дробятся на части. Однако на практике токенизация русского языка в моделях (подобных GPT) часто выглядит более дробной и хаотичной, чем в английском. Причина в том, что огромная часть обучающих данных для этих моделей – англоязычная. Словарь модели «переполнен» английскими корнями, а для кириллицы места остается меньше. Поэтому если английское слово secret модель запомнит как один токен, то русское «секрет» она может разбить на цепочку символов (например, «с», «ек», «рет»), так как не «видела» его достаточно часто, чтобы сформировать единый токен. В нашем примере мы адаптировали разбивку так, чтобы продемонстрировать саму логику работы современных трансформеров (выделение морфем и основ), игнорируя техническое несовершенство работы с кириллицей в конкретных версиях токенизаторов.

В английском языке слово “queen” означает не только монарха, но и пчелиную матку (Queen bee). Поскольку модель обучалась на английских текстах, для нее слово «королева» семантически и математически связано со словом «пчела», что неочевидно в русском переводе.

BERT (Bidirectional Encoder Representations from Transformers) – революционная модель Google. Ее прорыв в том, что она читает текст не слева направо, а «бидирекционально» – видит все предложение целиком, понимая контекст слова сразу с двух сторон.

GLUE (General Language Understanding Evaluation) – стандартный набор тестов для проверки «интеллекта» нейросетей. Он включает в себя задачи на логику, определение тональности текста и понимание парафраз. Если модель набирает высокий балл в GLUE, считается, что она хорошо «понимает» язык.

На момент редактирования книги последняя версия модели от OpenAI – GPT–5.2. Нельзя сказать, что она близко подошла к AGI.

По состоянию на январь 2025 года «внутренний роутер» (система управления моделями) настроен так, чтобы принудительно активировать поиск в интернете для фактологических запросов. Это компенсирует недостаток «веса» информации в обучающей выборке и минимизирует риск галлюцинаций. Теперь ChatGPT отвечает на этот вопрос верно, хотя модель сама по себе может и не «знать» эту информацию.

Джарон Ланье (р. 1960) – автор термина «виртуальная реальность». Его скепсис к ИИ базируется на концепции «маоизма данных»: он считает, что ИИ-компании фактически крадут жизненный опыт людей (их тексты, картины, код) для обучения моделей, не выплачивая авторам ни цента, что обесценивает человеческий труд.

Theme Park (1994) – эта игра стала революционной не только из-за экономической модели, но и благодаря ИИ: каждый посетитель парка был автономным «агентом» со своим уровнем счастья, голода и тошноты. Именно попытка смоделировать сложное поведение толпы через простые реакции индивидов стала одной из идейных основ будущего DeepMind.

«Момент Спутника» (Sputnik moment) – устойчивое выражение в американской публицистике, означающее шок от осознания технологического отставания, который мобилизует нацию на рывок. Барак Обама использовал этот термин в 2011 году, призывая США инвестировать в науку, чтобы не проиграть Китаю.

Гуцинь – древний семиструнный щипковый инструмент, игра на котором считалась признаком высокой культуры и утонченности. В отличие от го (стратегии), гуцинь отвечал за воспитание чувств.

Речь идет о CASP (Critical Assessment of Structure Prediction) – международном эксперименте, который биологи называют «Олимпийскими играми по фолдингу белка». До прихода AlphaFold прогресс в точности предсказаний измерялся долями процентов, поэтому скачок DeepMind стал настоящим шоком для академического сообщества.

В России аналогом этой викторины является «Своя игра». Главная сложность для компьютера заключалась в формате: ведущий дает ответ (например, «Этот фрукт не падает далеко от дерева»), а игрок должен сформулировать вопрос («Что такое яблоко?»), часто требующий понимания каламбуров и метафор.

Ричард Прайс (1723–1791) – не просто друг Байеса, но и активный сторонник Американской революции. Его памфлеты о гражданских свободах вдохновляли отцов – основателей США, а его переписка с Бенджамином Франклином и Томасом Джефферсоном повлияла на текст Декларации независимости.

Лидар – как и радар, технология измерения расстояний, только при помощи излучения света. Вращающийся лазерный луч отражается от объектов, а время его пути используется для измерения расстояния. –Прим. автора.

Связь мозга с навигацией была подтверждена в 2014 году, когда Джон О’Киф и супруги Мозер получили Нобелевскую премию за открытие «клеток места» и «клеток решетки» в гиппокампе. Они доказали, что у млекопитающих есть встроенная биологическая GPS-система.

Проблема заключалась в уникальной биомеханике: когда кенгуру находится в прыжке, его лапы оторваны от земли и лидары автомобиля теряют точку опоры, считая, что объект находится далеко. Когда животное приземляется, оно внезапно «телепортируется» ближе. Система, обученная на лосях и оленях, воспринимала это как сбой датчиков.

Филиппа Фут (1920–2010) – британский философ, внучка 22-го и 24-го президента США Гровера Кливленда. Ввела понятие «проблема вагонетки» в 1967 году как аргумент в дискуссии об этике (в частности, для критики утилитаризма), однако сегодня этот мысленный эксперимент используется разработчиками ИИ именно в утилитарном ключе – для программирования алгоритмов минимизации ущерба при использовании военных беспилотников.

Стивен Фрай (род. 1957) – британский актер, писатель и драматург. Его выступление на CogX вызвало широкий резонанс, так как он продемонстрировал аудиодипфейк своего голоса: нейросеть, обученная на аудиокнигах о Гарри Поттере, озвучила текст без его ведома.

Несмотря на огромный скачок прибыли, OpenAI все еще терпит ежегодные убытки в размере нескольких миллиардов долларов. –Прим. автора.

Вернор Виндж (1944–2024) – математик и писатель-фантаст, который популяризировал термин «технологическая сингулярность» в своем знаменитом эссе 1993 года. Он утверждал, что создание сверхчеловеческого интеллекта станет финальным изобретением человечества, после которого прогнозы станут невозможны.

Рэй Курцвейл (род. 1948) – изобретатель и футуролог, технический директор Google. В отличие от пессимистов, он видит в сингулярности (которую прогнозирует к 2045 году) возможность слияния человека с машиной, что позволит нам обрести цифровое бессмертие.

Ник Бостром (род. 1973) – шведский философ, профессор Оксфорда. Его книга «Искусственный интеллект» (Superintelligence, 2014) ввела в научный оборот проблему «контроля»: как гарантировать, что сверхразум будет разделять человеческие ценности, а не уничтожит нас ради производства, например, канцелярских скрепок.

Речь идет о нашумевшем исследовании Карла Фрея и Майкла Осборна The Future of Employment (2013). Их методология оценивала не столько вероятность полного исчезновения профессий, сколько техническую возможность автоматизации конкретных задач, что вызвало широкую дискуссию экономистов.

Спасибо за чтение

Вернуться к книге