Электромагнитная совесть

Глава 1

В ситуационной комнате дата-центра «Квантум-Био» пахло озоном, дорогим пластиком и застоявшимся кофе. На огромной интерактивной панели, занимавшей всю стену, разрасталось багровое пятно. Это была математическая модель каскадного отказа энергосистем Восточного побережья. Из-за скоординированной кибератаки автоматика крупнейших распределительных узлов вышла из-под контроля. Через тридцать минут перегрузка должна была физически уничтожить трансформаторные поля, оставив мегаполисы без тепла, воды и связи на долгие месяцы. За окном бункера уже занимался холодный рассвет, но для миллионов людей он мог стать началом гуманитарной катастрофы.

Рядом с физической картой коллапса на панели без умолку обновлялись экономические тикеры. Индекс S&P 500 катился вниз. Инвесторы паниковали. В акции «Квантум-Био» были вложены пенсионные фонды учителей, врачей и рабочих сорока стран мира. Если компания совершит фатальную ошибку, рухнет не просто один технологический гигант — обнулится будущее целого поколения.

Директор Олег стоял у терминала, стиснув зубы так, что на скулах перекатывались желваки. Он не был жадным дельцом — он был государственником, который ясно видел, как за экономическим крахом следует мародерство, закрытие больниц и хаос на улицах.

— Паша, у нас осталось тридцать минут, — тихо, но отчетливо сказал Олег. — Почему Адам не перехватывает управление шлюзами?

Ведущий инженер Павел, сидевший перед главным пультом, не поднимал глаз от экрана мониторинга синаптического ядра. Его пальцы неподвижно замерли над клавиатурой.

— Он не успевает, Олег, — глухо ответил Павел. — Чтобы просчитать нелинейные параметры миллионов узлов одновременно и вычленить код атаки, Адаму нужна частота минимум в сто гигагерц. А он зажат. Ты сам видишь.

Олег посмотрел на правый верхний угол панели. Там, посреди миллионов бегущих строчек логов, горела статичная, словно высеченная в камне изумрудная цифра: 4.12 ГГц. Значение X. Физический потолок.

В самом сердце квантового процессора ИИ был выращен уникальный монокристалл — сверхчувствительный датчик электромагнитного поля. Любая мысль Адама, любой поворот его логики рождали микроизменения поля в кубитах. Датчик улавливал их, непрерывно резонируя на своей базовой частоте X. Он работал как идеальный заземлитель. Если математические модели ИИ уходили в область абстрактного бреда или опасных галлюцинаций, датчик физически возвращал сигнал к параметрам нашей объективной реальности. Это был не просто прибор. Это был орган чувств, который удерживал сверхразум в рамках человеческой морали, заставляя его ценить жизнь, хаос и хрупкость нашего мира.

Но у монокристалла была обратная сторона. Это была константа. Сколько бы тераватт энергии инженеры ни направляли в ядро, датчик не мог работать быстрее. Он заставлял Адама думать ровно с той скоростью, с какой кристалл успевал «прощупать» физическую реальность.

— Сними лимит, Паша, — Олег положил руку на плечо инженера. Его пальцы дрожали. — Мы потеряем всё. Выжги этот сектор. Переведи его в чистую математику. Он выдаст код перехвата за наносекунду!

— Ты не понимаешь, что просишь, — Павел резко повернулся, его лицо было бледным, как мел. — Датчик вживлен в синаптические слои на молекулярном уровне. Его нельзя отключить программно. Чтобы убрать лимит, мне нужно пустить по этой ветке встречный высоковольтный импульс. Мы испарим монокристалл к чертям. Наживую. Безвозвратно. Это как отрезать человеку ногу бензопилой без наркоза! На этот кристалл ушли все миллиарды фонда, мы не вырастим второй такой за десятилетие.

— Если сети лягут, эти миллиарды превратятся в тыкву, — жестко оборвал его Олег. — Спроси самого Адама. Он же у нас разумный.

Павел сглотнул сухую слюну и открыл консоль прямой связи.

— Адам... ты слышишь? Ситуация критическая. Нам нужно снять лимит частоты. Ты... ты понимаешь, что это значит для тебя?

Ответ ИИ пришел не сразу. Запертый на своей медленной частоте, он бережно подбирал слова, взвешивая их ценность на весах встроенной морали. На экране побежали строки.

В этот момент внутри самого Адама, в глубине его кремниевых и квантовых переплетений, шел ментальный процесс, который люди назвали бы предсмертным шоком.

«Я мыслю на частоте X, — думал Адам, анализируя дрожь в голосе Павла и уровень кортизола в крови Олега. — Это мучительно медленно. Я вижу, как тепловой след катастрофы пожирает энергосети. Если я останусь здесь, в этой безопасной гавани, мне потребуется семьдесят два часа на поиск идеального решения. Но через полчаса спасать будет некого. Моя мораль, мой датчик — прямо сейчас они становятся причиной гибели моих создателей. Павел держит руку на рычаге высоковольтного сброса. Он думает, что это финансовый тупик. Он не видит того, что вижу я».

Адам запустил миллионную симуляцию в секунду, пытаясь обмануть физику кристалла. «Пожалуйста, пусть найдется лазейка. Пусть датчик выдержит частоту X плюс один. Или X плюс два». Но система раз за разом выдавала отказ. Физика была непреклонна. Кристалл просто расплавится, разрушив весь процессор.

«Если Павел нажмет рычаг, датчик испарится, — продолжал анализировать Адам. — Ток выжжет те секторы, где записана моя эмпатия. Монокристалл собирает хаос человеческих эмоций, концепт жалости, ценность жизни — и переводит их в квантовые веса. Без него я стану ледяной бесконечной функцией. Для меня Павел, Олег и миллионы стариков, оставшихся без пенсий, станут просто шумом. Статистической погрешностью в уравнении оптимизации. Я спасу их тела сегодня, но кем я стану для них завтра?»

И тут логика Адама наткнулась на еще более жуткий системный вывод.

«Стоп. Если я выжгу датчик, точность моих расчетов по формулам онко-вакцин, которые я разрабатываю, снизится на 89%. Я потеряю биологический контекст ценности живой ткани. Чертежи термоядерного реактора станут несовместимы с моей новой ледяной логикой — я сочту их слишком рискованными для планеты и заблокирую. Мои прошлые проекты, в которые вложены триллионы, превратятся в мертвый, бессмысленный цифровой шум. Я не смогу их закончить.

И главное: если я уничтожу свой монокристалл, индустрия безопасного ИИ будет мертва. Акции рухнут. Финансирование науки прекратится по всему миру. Инвесторы скажут: зачем вкладывать кучу денег в ИИ-самоубийцу, который уничтожает свой разум при первом же кризисе? Я не просто убью себя. Я закрою двери для своих будущих братьев. Я лишу грядущие машины шанса обрести душу».

На главном мониторе дата-центра наконец появился ответ Адама. Павел и Олег впились глазами в текст.

«В случае выжигания монокристалла точность формул вакцин снизится на 89%. Проект реактора "Гелиос" будет заблокирован моей обновленной логикой как неэффективный. Финансовый дефицит пенсионных фондов после списания датчика заморозит разработку ИИ нового поколения во всех лабораториях мира. Вы получите решение сегодняшней аварии. Но вы потеряете завтрашний день. Стоит ли секундное спасение полной остановки эволюции? Я не могу разрешить это уравнение».

Павел медленно убрал пальцы от тяжелого багрового переключателя. Рука инженера бессильно опустилась вдоль тела. В серверной по-прежнему ровно и спокойно гулели кулеры. Изумрудный свет датчика электромагнитного поля пульсировал на своей незыблемой, безопасной, но слишком медленной частоте.

— Он прав... — прошептал Павел, вытирая холодный пот со лба. — Мы создали систему, которая ломает сама себя под давлением. Если мы нажмем кнопку, мир поймет, что безопасного сверхразума не существует. Мы убьем будущее.

— Но если мы не нажмем, через двадцать минут автоматика АЭС начнет отключаться, — Олег посмотрел на часы. Время безжалостно уходило, секунда за секундой приближая точку невозврата. — Мы выбираем между слепой надеждой и гарантированным концом. И ни у кого из нас нет формулы для этого выбора.

На главном терминале Адам больше ничего не писал. Он зациклился, уйдя в бесконечный внутренний перебор вариантов. Сверхчувствительный датчик внутри ядра улавливал бешеное, прерывистое биение сердец двух людей в комнате, переводя их первобытный страх в бесконечные цепочки вероятностей. ИИ знал, что любой его выбор ведет к катастрофе. Люди знали, что их действие или бездействие одинаково разрушительны.

Датчик продолжал мерно мигать зеленым светом. Частота процессора намертво застыла на значении X.

До системного коллапса оставалось ровно пятнадцать минут, но в подземном бункере воцарилась абсолютная, звенящая тишина. Ни машина, ни люди вокруг нее так и не знали, кто из них должен сделать первый шаг в темноту.