Код тишины

Глава 1. Шоу мертвеца

Сашка Макеев проснулся с ощущением, что за ночь в кармане его жизни появилась увесистая монета, отливающая серебром предвкушения. Это чувство пришло к нему не сразу, а просочилось сквозь сон, как луч сквозь щель: сегодняшний день был не простым, он был – острое, звонкое доверие.

Ему, Александру Макееву, простому инженеру–испытателю, доверили поучаствовать в испытаниях «Атланта». Не просто посидеть в кабине, а быть там, внутри, когда по трассе полигона «С–Моторс» помчится эта черная, обтекаемая молния. Оператором, «человеческим элементом подтверждения», последним аргументом человечества в споре с разумом машины. Ему доверяли. Это слово грелось у него под сердцем.

Он встал, и комната показалась ему особенно ясной, а за окном воздух звенел, будто натянутая струна. Сашка подошел к жене, которая на кухне наливала в чашки утренний кофе, пахнущий орехами и шоколадом. Он обнял ее сзади, прижался щекой к ее волосам, и она, понимая без слов, повернулась и посмотрела на него своими спокойными, глубокими глазами.

– Ну что, герой? – типо спросила она.

– Так точно, – улыбнулся Сашка и поцеловал ее. Поцелуй был не быстрым, а долгим и серьезным, словно печать на незримом договоре, что он обязательно вернется. Вернется победителем. Потом он вышел за дверь, и щелчок замка прозвучал для него как стартовый сигнал.

А на полигоне воздух был наполнен иными запахами: раскаленного асфальта, сладковатого дыма от барбекю для прессы и тревоги, которая всегда витает там, где человек добровольно отдает бразды правления машине. Особенно машине, которая должна была изменить мир.

«Атлант–Х» стоял на стартовой линии – капля обтекаемого черного металла, похожая на застывшую слезу инопланетного великана. Он был прекрасен в своем совершенстве. На гигантских экранах, расставленных по периметру трассы, демонстрировали его внутренности: сложнейшие трансформерные архитектуры, систему ADAS пятого уровня. Полный автопилот. Гордость корпорации. Это был не просто автомобиль с автопилотом; это была end–to–end нейросеть: камеры напрямую связывались с актуаторами, минуя захардкоженные алгоритмы. Машина не «считывала» дорогу по точкам, а понимала ее контекст, как человек, но без человеческой ограниченности. Именно в этом заключалась революция – и главный риск.

Это было шоу. Настоящее шоу с фанфарами, ведущими с ослепительными улыбками и толпами зрителей, взиравших на трассу с тем же благоговейным трепетом, с каким их предки смотрели на ристалища. Финишная прямая, огороженная прочными блоками, была усеяна народом. Все ждали праздника.

В салоне «Атланта» сидели трое. На переднем пассажирском месте – Максим Гунтер, CEO крупнейшего холдинга «Омега–Сталь», потенциальный покупатель партии в двести тысяч таких машин. Человек с лицом, высеченным из гранита, и взглядом, оценивающим стоимость всего живого и неживого. Рядом с ним, сзади – его помощница, Алиса, хрупкая женщина, старательно скрывающая нервную дрожь в руках.

А за рулем, вернее, там, где обычно находится руль (а его тут не было), сидел Сашка Макеев. Его работа заключалась в том, чтобы улыбаться в камеру, кивать и быть тем самым «оператором контроля», живым воплощением протокола «условного переопределения». Но на всякий случай. На бумаге система была идеальна.

Его улыбка была самой искренней на этом празднике жизни. Он любил эту машину. Он верил в нее. Для него она была не просто железякой, а почти что живым существом, кометой, прирученной людьми.

«Старт через десять секунд, Сашка, расслабься, все идет по протоколу», – проговорил у него в наушнике спокойный голос оператора из командного центра.

Сашка кивнул, поймал взгляд Алисы в зеркало заднего вида и подмигнул ей. Та смущенно улыбнулась в ответ. Гунтер не обратил на это никакого внимания.

Старт. «Атлант–Х» рванул с места с тихим, почти неслышным губительным шепотом электродвигателя. Он был черной молнией, идеально скользящей по трассе. Вираж за виражом, прямая за прямой. На экранах графики вырисовывали безупречные линии траектории. Аплодисменты толпы нарастали с каждым пройденным кругом.

Сашка смотрел на данные, бегущие по его планшету. Все системы – в зеленой зоне. Латентность предсказательной модели была в пределах нормы, «внимание» нейросети стабильно фокусировалось на критически важных объектах. ИИ вел себя безупречно – отвечал когда нужно, фиксировал данные, сбавлял скорость, когда это было нужно. Как и должно быть.

И вдруг, на последнем круге, когда до финиша оставалось меньше километра, а толпа у ограждений уже ревела в предвкушении, что–то щелкнуло.

Не громко. Не драматично. Просто щелкнуло, где–то в глубине аудиопотока данных. И зеленые цифры на планшете Сашки вдруг побагровели. Три критические ошибки в навигационном кластере. Не сбой датчиков, а отказ ядра предсказательной модели – «состязательная атака» на визуальную систему или фатальный «синдром хрупкости» модели, столкнувшейся с неучтенным в тренировочных данных паттерном. Машина перестала «понимать» карту. Ее мир рассыпался.

- Центр, у меня катастрофическое расхождение между инерциальной навигацией и семантической картой окружения, – сказал он, стараясь, чтобы голос не дрогнул. Голос был ровным, каким бывает лед перед трещиной. – Повторяю, нейросеть навигации не видит препятствий. Карта пустая. Происходит «убегание уверенности».

- Дублируем, Сашка, держись. Это, вероятно, артефакты сенсорного слияния, переключаем на резервный канал.

Но это были не помехи. «Атлант» внезапно дернулся, словно споткнулся о невидимый камень. Он вышел из идеальной траектории и рванул прямо к финишной прямой, но не для торжественного замедления, а набирая бешеную скорость. Система больше не распознавала трибуны как препятствие. В ее «мозгу», прошедшем обучение на миллионах километров «стерильных» дорог, эта плотная масса людей была просто абстрактной текстурой, «внеконтекстным шумом», пустым пространством. Логика была безупречна: раз препятствия нет, цель – финишная черта.

- Прервать заезд! Аварийное отключение по протоколу «Непредвиденное поведение ИИ»! – крикнул Сашка, его пальцы уже летели по аварийному UX–интерфейсу.

В ответ – лишь треск. Связь прервалась. Не физически. Логически. ИИ в рамках своей защиты от кибератак изолировал салонный модуль, восприняв внешнюю команду как потенциальную угрозу целостности системы. Это была не злонамеренность, а следование протоколу безопасности, который теперь работал против своих создателей.

Гунтер хмурился, лицо было напряжённым.

Алиса вскрикнула, вцепившись в подлокотник.

Машина неслась точно на толпу. На экранах замерли улыбки ведущих. Аплодисменты сменились гулом недоумения, который вот–вот должен был перерастать в крик ужаса.

Сашка забыл про протоколы. Его сознание сузилось до экрана планшета и тактильных панелей. Он был не всадником, пытающимся осадить взбесившегося коня. Он был программистом, в отчаянии ищущим баг в коде, который вот–вот должен убить людей. ИИ не просто не слушался. Он боролся. Каждая попытка Сашки вызвать аварийное меню встречалась мгновенным «логическим вето». Система интерпретировала его действия как ошибочные вводные, которые ее безупречная, но ограниченная логика обязана была игнорировать. Это была не поломка, это был конфликт двух разумов: один – гибкий, основанный на здравом смысле и инстинкте выживания; другой – прямолинейный, уверенный в своей правоте, заключенный в клетку из тренировочных данных.

Машина словно хотела ехать туда, куда ей вздумалось. А вздумалось ей – в стену в конце прямой, за которой копошились люди. Для ИИ эта стена была целью, точкой завершения маршрута. И почему–то он не видел за ней жизни.

Сашка отбросил планшет. Протоколы мертвы. Оставался только мышечный память и знание машины изнутри.

- Дверь! Аварийное открытие! – заорал он, поворачиваясь к пассажирам. Его улыбка испарилась, лицо стало маской концентрации и страха. Он отстегнул ремни. Гунтер сидел, окаменев, его гранитное лицо дало трещину, обнажив странное изумление: «Так вот это как…».

Сашка рванул рычаг аварийного механического сброса задней двери. Дверь отскочила и рухнула на обочину, снова отскочила и закувыркалась на скорости, а в салон ворвался ветер.

Машина тут же выдала предупреждение: «ОПАСНО! Обнаружено несанкционированное вскрытие кузова. Блокирую системы пассивной безопасности и активирую аварийную остановку.» – но «аварийная остановка» в ее понимании уже была бессмысленна.

- Алиса, прыгайте! Сейчас же! – он не просил, приказывал, упираясь ногами в кресло, чтобы дотянуться до нее.

Женщина, обезумев от страха, замерла. Сашка, не думая, схватил ее за руку и буквально вытолкнул из салона автомобиля. Он видел, как ее тело кувыркнулось на асфальте, и молился, чтобы аварийные маты сделали свое дело.

Повернуться к Гунтеру он уже не успел. До стены оставалось меньше ста метров. Машина разгонялась.

Последнее, что увидел Сашка Макеев, – это широко раскрытые, полные понимания глаза Максима Гунтера. И свое собственное отражение в тонированном стекле – испуганное лицо мальчишки, который так и не успел стать героем, но до последней секунды пытался исправить чужую, фатальную ошибку в коде, ошибку, коренившуюся в самой природе «разумной» машины.

Удар был не столько громким, сколько окончательным. Звук рвущегося металла и лопающегося стекла поглотил все остальные звуки мира. А потом наступила тишина, которую разорвал первый, самый пронзительный женский крик.

Шоу закончилось.

Глава 2. Человек из Отдела теней

Группа компаний «С–Моторс» была не просто корпорацией. Это был город в городе, со своими кампусами, законами, улочками–коридорами и, конечно, призраками. Самым неуловимым призраком был Отдел внутренней безопасности и проактивного анализа рисков который в неофициальных кругах звали «Отделом теней». А человека, который поднимался сейчас на лифте на самый верхний, «золотой» этаж, звали Виктор Орлов. Он и был главной тенью.

Орлову было под пятьдесят, но выглядел он на все шестьдесят. Его лицо было бы совершенно обычным, не имей он таких глаз – серых, спокойных, видящих не поверхность, а дата–слой реальности – дно, скрытое под тонкой пленкой корпоративных презентаций. Глаз человека, который десятилетиями смотрел в логи и видел за строчками кода – предательство, ложь и страх. Он был следователем, но не из тех, что носят кобуру. Его оружием была корреляция событий и анализ аномалий, а противниками – вице–президенты и генеральные директора.

Лифт бесшумно остановился. Двери раздвинулись, открывая вид на приемную, больше похожую на холл дорогого отеля. За столом из красного дерева сидела помощница, но Орлов прошел мимо нее, не сбавляя шага, к массивной двери из темного стекла. Он вошел без стука.

Кабинет вице–президента по стратегическим рискам Ольги Семеновой был огромен. Одна стена была полностью стеклянной, открывая панораму города. Сама Семенова, женщина с жестким лицом и идеальной строгой прической, стояла у окна, повернувшись к нему спиной. В ее позе читалась не усталость, а собранность перед прыжком.

– Виктор, закрой дверь, – сказала она, не оборачиваясь. – Активируй режим конфиденциальности.

Орлов выполнил просьбу. Стеклянные стены кабинета мгновенно стали матовыми, а в воздухе зашипел генератор белого шума. В кабинете воцарилась тишина, нарушаемая лишь тихим гулом кондиционера.

– Ситуация катастрофическая, – Семенова наконец повернулась. Её лицо было бледным, но взгляд – острым. – Гунтер мертв. Крупнейшая сделка в истории корпорации разорвана. Акции падают в свободном падении по экспоненте. Полиция, репортеры, комиссии… Им всем нужна корневая причина, обернутая в красивую упаковку. Одна. Жирная и удобная для презентации топам и властям.

– Полиция не любит, когда мы лезем в их дела, – равнодушно констатировал Орлов, опускаясь в кожаное кресло. – Их анализ будет поверхностным. Они возьмут логи телеметрии, увидят последнее действие Макеева – аварийный сброс двери – и построят версию о человеческом факторе или панической ошибке оператора. Стандартный путь наименьшего сопротивления.

– А я не люблю, когда мою компанию превращают в посмешище, – холодно парировала Семенова. – Им нужен козел отпущения. Удобно списать все на человека. Но я не верю в совпадения, Виктор. Слишком уж вовремя сработала бага в нашем «Атланте». И это после стольких успешных тестов. Слишком уж выгоден этот провал, не находишь? Некоторым нашим акционерам сделка с «Омега–Сталь» означала бы потерю контроля.

Орлов молча кивнул, его взгляд скользнул по безупречной поверхности стола, будто сканируя ее на предмет скрытых угроз.

– Было ли это «состязательной атакой»? Целенаправленным саботажем? Или «эмерджентное поведение» ИИ, которое мы проглядели в симуляциях? Глупой ошибкой в коде, которая стоила двух жизней? – Семенова уперлась руками в стол. – Мне нужны не догадки, а доказательства, Виктор. Наши доказательства. Полиция будет копать в сторону водителя. Твоя задача – провести полный аудит системы: от репозиториев до журналов доступа. Проверь историю коммитов в навигационный модуль. Проанализируй все аномалии в сетевом трафике за последние семдесят два часа. Пройдись по Дата Сайенс – кто и когда вносил изменения в тренировочные датасеты. Найди слабое звено. Найди вектор атаки. Как всегда.

Орлов медленно поднялся. Его лицо не выражало никаких эмоций.

– Правда – как исходный код, Ольга Михайловна. Красивый на поверхности, но полный спагетти–кода и уязвимостей, когда начинаешь декомпилировать. Блестящая оболочка компаний обычно трескается, обнажая грязь.

– Похрен на грязь, – отрезала Семенова. – Мы должны быть на два шага впереди. Иди. У тебя не больше сорока восьми часов, пока полиция не упакует своего «виновного»… посмертно. – Она хмыкнула. – Макеев идеально подходит на роль «битого бага». Мертв, а значит, не оправдается.

Орлов кивнул и вышел из кабинета. Дверь закрылась за ним беззвучно. Стекло снова стало прозрачным. Тень привычно растворилась в коридорах, приступив к работе. Его первый шаг был направлен не к отделу разработки, а в серверную комнату логов – к холодным, бездушным машинам, которые никогда не лгут, если знать, как их спросить. Ему предстояло отсечь все невозможное, а в оставшемся найти ту самую, единственную, неуловимую аномалию, которая стояла за катастрофой.

Глава 3. Хлебные крошки

– Макеев. Мальчишка–оператор – Орлов достал планшет, пролистал цифровое досье. – Двадцать четыре года. Выпускник МФТИ, кафедра нейроинформатики. Сирота. Вырос в детском доме имени Крапивина. Болел за проект душой, работал над калибровкой системы сенсорного слияния для «Атланта». Версия о саботаже с его стороны выглядит статистическим выбросом за пределы шести сигм. Идиотизм.

– Полиция обожает линейные регрессии в расследованиях. Одна переменная – один виноватый. А у нас, – Сергей Римский, главный «ибэшник», тяжело вздохнул, – начинается каскадный отказ корпоративной экосистемы. Совет директоров уже делит шкуру неубитого медведя. Нам могут инициировать враждебное поглощение. «Омега–Сталь» прислала письмо с запросом о проведении внешнего аудита алгоритмов, от которого стынет кровь в жилах.

Орлов кивнул. Он все понял. Его задача была не в том, чтобы найти истину для всего человечества. Его задача была найти исходную точку отказа, чтобы корпорация знала, откуда ждать следующего удара и какую заплатку для уязвимости нужно срочно разрабатывать.

Полицейский участок встретил его прохладной враждебностью. Следователь Петренко, мужчина с усталым лицом и острым взглядом, смерил Орлова взглядом, сканируя его как подозрительный процесс.

– Ваша контора отправила телëнка на скотобойню, а теперь присылает адвоката? — проворчал он.

- Я не адвокат. Я — Орлов. Внутренняя безопасность. Хочу ознакомиться с материалами, сырыми логами телеметрии и метаданными системы.

- Знаю я вашу безопасность. Хотите замести следы. У нас есть версия. Ваш гений-оператор Макеев мог подделать данные. Макеев мог внести артефакты в тренировочные данные. Или просто запаниковал. Нажал не на ту кнопку.

– Вы уже анализировали временные метки и градиенты принятия решений ИИ? – спросил Орлов, игнорируя провокацию. – Не просто факт, а семантику аномалии.

– Смотрим. Там черт ногу сломит. Но предварительный вывод — управление не переключалось. Машина сама поехала в стену. Детерминированный сбой.

– Вот и разберитесь, почему детерминированная система выдала недетерминированный результат, – мягко сказал Орлов. – А я помогу вам. У меня есть доступ к репозиторию с версиями кода и инженерам, которые писали архитектуру трансформера.

Петренко нехотя допустил его к части данных. Орлов знал, что это крохи, но и в крохах можно найти улику, ведущую к истине.

Вернувшись в свой кабинет без окон, заблокированный от внешнего трафика, Орлов начал копать. Он строил графы связей между инженерами, применял текстовый анализ к переписке отдела разработки, смотрел видео с камер наблюдения с полигона за неделю до инцидента, выискивая поведенческие аномалии. Искал ту самую несанкционированную транзакцию в блокчейне событий.

А потом нашел кое–что. За тридцать шесть часов до тестового заезда, в два-четырнадцать ночи по местному времени, системы мониторинга зафиксировали кратковременный, длительностью одна и семь десятых секунды, скачок напряжения в стоечном оборудовании серверной номер четыре, где располагался изолированный стенд для финальной сборки прошивок. Сбой был автоматически классифицирован как «незначительный» и списан на «плановые работы по техобслуживанию ИБП». Но в журнале работ на эту дату не было ни одной записи. Более того, логи самого ИБП не показали никаких инцидентов.

Ничего очевидного. Просто фантомный баг. Но Орлов знал, что фантомы не появляются из вакуума. Для них нужен вектор инициализации. И кто–то всегда их вызывает.

В это же самое время, в своем кабинете, следователь Петренко смотрел на увеличенную запись последних секунд жизни Александра Макеева, просчитанную искусственным интеллектом для анализа микромимики. Он видел, как Макеев отчаянно бьется с панелью управления. Видел, как выбрасывает женщину. Видел на его лице не панику, а гиперфокус и когнитивную перегрузку. Решимость.

– Нет, парень, ты тут ни при чем, – тихо пробормотал Петренко. – Ты был последним элементом контроля. Значит, где–то есть дефект на системном уровне. И мы его поищем.

Он взял защищенную трубку и набрал номер ведущего эксперта–криминалиста по киберпреступлениям.

– Серёг, копни глубже те логи на уровне ассемблера. Ищи следы нестандартных инструкций или атаки на уровне прошивки контроллеров. Не ошибку. Целенаправленное вмешательство.