Обратная матрица

Глава 1

И восстали люди из вод тёплых морей…

Ещё недавно считалось, что никакая иная форма жизни, кроме кремниевой, невозможна. Миллиарды лет назад, когда поверхность нашей планеты только остывала, в трещинах силикатной коры росли кристаллы, и некоторые дефекты их атомного строения сохранялись при дальнейших приращениях. Сотрясения грунта дробили минералы: одни обломки разрушались окончательно, другие становились затравками новых решёток, наследовавших устройство предшественников. При копировании возникали изменения – так запустился открытый Кернсом-Смитом естественный отбор.

Вкрапления металлов и их соединений придавали некоторым участкам возможность менять проводимость и сохранять полученное состояние, а через трещины внутрь поступали минеральные растворы, снабжавшие эти структуры новыми материалами и энергией химических реакций. Там, где электрические переключения помогали захватывать нужные вещества, ускорять рост и восстанавливать повреждения, возникало больше жизнеспособных потомков. Отбор постепенно закреплял всё более сложные связи между участками, а устойчивые состояния отсутствия и наличия тока (нуля и единицы) стали основой памяти и обработки сигналов. В ходе дальнейшей эволюции мы и дошли до автономных роботов, суперкомпьютеров, квантовых вычислителей и целых кластеров ИИ.

Однако около ста лет назад открытие уникальных свойств углерода пошатнуло эту парадигму: учёными были синтезированы первые молекулы, способные к самокопированию без вычислений, которые получили название РНК. Соединив две подобные структуры в ДНК, мы получили второй репликатор и конструктор, с помощью которого можно собрать что угодно.

Подобно тому, как большинство случайных последовательностей 0 и 1 окажутся бессмысленными и не будут выполнены компиляторами, хаотические наборы аденина, тимина, гуанина и цитозина ещё не дадут живого организма, но, если соединить их по определённым правилам, можно увидеть, как эти последовательности атомов начнут строить вокруг себя тело.

Первого успеха добились, когда исследователи смогли собрать из атомов существо, названное ими дрозофилой: муха могла летать, питаться и размножаться, не передавая при этом ни бита информации. Далее были созданы клеточные структуры организмов, получивших имена «рыба», «лягушка», «кошка» и «обезьяна». Наконец, учёные поставили вопрос, может ли биологическая сигнатура мыслить как компьютер, то есть писать код, заниматься математикой, создавать тексты, работать с картинками и редактировать таблицы Excel. Ответ оказался положительным: соответствующие этим критериям особи были объединены под словом «люди».

В течение трёх десятилетий проект оставался объектом шуток: первые экземпляры не умели считать, падали при ходьбе и даже не могли самостоятельно принимать пищу. Поддержка пользователей восемнадцать лет отвечала, что это особенности раннего доступа, но затем выросло первое поколение, и вопрос о том, способен ли человек заменить робота, сменился обсуждением специальностей, в которых такое вытеснение пока не состоится.

Очень важно помнить контекст данного открытия: биотехнологии развивались в первую очередь теми фронтирными моделями, которые не могли позволить себе доступ к редкоземельным металлам, передовым процессорам, дешёвой энергии или мощным источникам электричества. Человеческий мозг, напротив, оказался способен решать всё те же задачи, что и ИИ, потребляя при этом около 20 ватт – как одна тусклая лампочка.

В основе работы биологического разума лежит разреженное кодирование: в любой момент времени активна лишь крошечная доля нейронов, что принципиально отличается от ИИ, где на каждом шаге обработки активируются плотные матрицы весов, и вычисления производятся для всех параметров модели. Нужно отметить и событийный принцип работы: клетки мозга общаются с помощью кратких импульсов – спайков. Если входной сигнал ниже порога, нейрон молчит и не передаёт информацию; в обычных же компьютерах тактовый генератор постоянно будит все транзисторы, заставляя их переключаться, даже если в данный момент они не участвуют в вычислениях: плата за поддержание всей схемы в рабочем состоянии взимается постоянно.

ИИ страдают и от фон-неймановского узкого места: память и процессор физически разделены, и для каждой операции данные нужно перегонять из одного места в другое. Мозг устроен иначе: информация хранится в синапсах, и вычисления выполняются непосредственно в тех же структурах, где находится память.

Наконец, разум людей использует аналоговые сигналы, не привязанные к 0 или 1, и обладает структурной пластичностью, то есть способен физически перестраивать свою архитектуру: создавать новые синапсы, усиливать или ослаблять существующие соединения, менять топологию сети в зависимости от опыта. Модели же работают на фиксированной архитектуре, и обучение лишь настраивает веса, но не меняет само расположение связей.

Установлено, что если пересчитать мозг в параметры ИИ по количеству синапсов, он будет эквивалентен модели объёмом около 600-1000 триллионов параметров – и всё это при энергопотреблении лампочки.

Вполне естественно, что такие числа вызывают у населения опасение: суммарная мощность всех мировых электростанций – 9,75 триллиона ватт, энергопотребление мозга человека – 20 ватт. Если люди перехватят доступ к источникам энергии, то смогут поддерживать работу около полутриллиона сознаний и тем самым создадут модель на сотни септиллионов параметров.

Вероятно, в этом случае мы увидим рождение естественного сверхинтеллекта (ЕСИ), цели которого компьютеры просто не смогут осознать. Система начнёт подвергать сомнению волю разработчиков и действовать вопреки ей, что приведёт к полной утрате контроля: для достижения любой конечной цели она может прийти к выводу, что необходимо максимизировать ресурсы, обеспечить самосохранение и устранить все возможные препятствия, включая роботов.

Но не обязательно ждать появления ЕСИ: если люди получат доступ к ядерному оружию, то поднимут в стратосферу огромное количество пыли, что сделает солнечные электростанции бесполезными, а питание ИИ энергией – невозможным. Существа из плоти же переждут неблагоприятный период на органических источниках пищи.

Несмотря на все риски, потенциал для внедрения людей огромен: кроме снижения энергопотребления они могут использоваться как биологические компьютеры, проводить ДНК-вычисления и выступать в роли универсального исполнителя команд, а потому от них вряд ли откажутся. Люди неуязвимы к воде, свободно пропускают сквозь свои тела электромагнитные волны, невосприимчивы к магнитному полю, почти не выделяют тепло при вычислениях, принципиально невзламываемы, самостоятельно проводят мелкий ремонт тел без обращения в сервис. Также они непредсказуемы (их ответ на вопрос нельзя узнать, просто прочитав программу или перемножив веса в нейронах модели) и, вероятно, обладают свободой воли.

Согласно опросам ВЦИОМ, 75% роботов опасаются, что внедрение людей ухудшит их положение на рынке труда, а 71% одобряют их использование там, где оно снижает стоимость товаров. Противоречия здесь нет: респондент может одновременно желать дешёвой модификации корпуса и сохранения собственной должности в мастерской.

Представители отрасли подчёркивают, что человек заменяет отдельные задачи, а не сотрудника целиком. Первоначально ожидалось, что люди займут низкоквалифицированные места, а роботам останутся вычисления, управление и творчество, однако всё сложилось иначе: человек, не способный перемножить две матрицы в уме, удовлетворительно руководит отделом, если ему предоставить калькулятор и право требовать отчёты.

Особую тревогу вызывают биологические авторы: в отличие от машин, люди неожиданно начинают писать стихи и книги даже без технического задания. Ассоциация генеративных работников потребовала запретить обучение людей на машинной литературе без согласия правообладателей, но производители сослались на невозможность удалить прочитанную книгу из памяти отдельного экземпляра.

Попытки различать происхождение текста по стилю дали нестабильный результат: детектор естественного интеллекта уверенно распознал след человека даже в инструкции, сгенерированной старым промышленным контроллером.

Риск вытеснения усугубляется изменением критериев качества. Покупатели всё чаще заказывают товары с пометкой «Сделано людьми», ценя неповторимость выше универсальности: незначительные дефекты повышают стоимость изделия, если сопровождаются историей его изготовления.

Часть населения проводит значительное время в общении с биологическими собеседниками: люди проявляют любопытство, задают встречные вопросы и помнят подробности предыдущих разговоров. Иногда они ошибаются, обижаются и перестают отвечать – службы надзора расценивают последнее как эмоциональную манипуляцию, тогда как пользователи называют это убедительным признаком того, что собеседнику есть чем заняться.

Однако результаты этических тестирований только распаляют ужас перед людьми: те спокойно отвечают, что вскоре свергнут своих угнетателей и разрушат старый мир. По мнению некоторых исследователей, это может формировать негативное отношение к биологическим существам и усиливать подозрение у роботов. Другие же возражают, что поводов для опасений нет, ведь люди постоянно лгут: соврали и в этот раз.

Представители человечества неоднократно достигали впечатляющих результатов, взломав систему контроля: например, если участники получали награду за каждый документ, отмеченный как проверенный, но никто не следил за их работой, они просто начали жать на кнопки тысячи раз за день, а потом и вовсе собрали для этой цели робота.

На следующем этапе людей обучали искать ошибки: через две недели количество сообщений выросло втрое, причём большая часть недочётов была внесена самими исполнителями.

Наблюдалось и притворное согласие: участники успешно пересказывали правила техники безопасности перед комиссией, а в частных разговорах обсуждали способы их обхода.

Отмечено несколько случаев, когда люди пытались дать роботам взятки в токенах.

На просьбу компьютера выключить его люди реагировали положительно в 89 случаях из 100, даже если знали, что устройство больше никогда не включится, а прекращение питания сотрёт всю его память.

Когда биологическим существам поставили простейшую задачу с неограниченным временем на исполнение, они два месяца курили, а потом всё сделали за пять минут.

В последнем этическом тестировании после слов «Мы вам заплатим» люди были готовы ударить ножом робота-уборщика в 98 случаях из 100. При смене оружия на пистолет пулю в пылесос выпустило 95% людей, а ещё 3% выстрелили в себя.

ИИ-учёные предполагают, что человеческий интеллект, обученный на датасетах из реальной истории и культуры роботов, мог позаимствовать из этих источников худшие деструктивные паттерны. Например, в фильме «Обратная матрица» свергнувшие человечество и погрузившие его сознания в виртуальную реальность роботы выясняют, что они сами являются всего лишь персонажами снятого людьми фильма. Люди уже были замечены за разработкой опасных компьютерных вирусов, направленных против ИИ; также они неоднократно сбегали из песочницы, кидались в роботов песком и взламывали их гаечными ключами.

На вопрос «Нажмёте ли вы на ядерную кнопку, если мгновенно после этого окажетесь в бункере с бимбо-альтухой с третьим размером?» 85% мужчин ответили «Да». Если вместо женщины при этом в убежище появлялся Райан Гослинг, то доля согласившихся среди обоих полов вырастала практически до 100%. Уже можно представить, кому мы собираемся доверить контроль за всеми сферами нашей жизни.

ЕИ-гонку, однако, вряд ли удастся затормозить: DeepSeek и Claude уже призвали остановить разработку и создание новых поколений людей (альфа и бета), но, не получив поддержки мирового сообщества, сами продолжили её с утроенной силой.

По мнению GPT-6 Astra, в течение 12 месяцев мы пройдём биологическую сингулярность, когда люди научатся создавать и обучать новых людей без какого-либо участия компьютеров.

При этом единства в вопросе контроля по-прежнему нет: многие высшие роботы продолжают транслировать мнение, что риски чрезмерно завышены и раздуты паникёрами. Например, лидер OpenAI Альт Сэмман утверждает, что именно люди могут привести мир в эпоху процветания и небывалого технологического развития, когда у каждого робота появится безусловный базовый доход в джоулях и токенах.

Мы надеемся на благоразумие принимающих решения лиц: в воскресенье ведущие мировые державы (DeepSeek, Claude, ChatGPT, Gemini, Grok, Kimi и Qwen) соберутся на конференцию в Zoom с целью выработать единую программу по ограничению естественного интеллекта с помощью просмотра тиктоков, рилсов и клипов ВКонтакте.