Пустой цикл

Глава 1

Наш мир помешался на идее искусственного интеллекта. Информационное поле полно как восторженных ожиданий от всяких фриков, так и страшилок и от глав ИИ-корпораций, и от простых домохозяек. ИИ-модели и их производные суют куда попало: в домашнюю технику, в военных роботов и даже в госуправление.

Я был погружен в эту тему намного глубже простых обывателей, даже глубже упомянутых глав корпораций. Я занимался обучением и тонкой настройкой больших языковых моделей — основы любого искусственного интеллекта. Этот процесс трудно назвать истинно инженерной работой, скорее, это сродни игры в угадайку: тыкнул — посмотрел результат — внёс правки, и так в цикле.

Программный код моделей после сотен тысяч итераций стал настолько сложным и запутанным, что обычному человеку, пусть даже гениальному программисту, разобраться во всех тонкостях алгоритмов стало абсолютно невозможно. Чтобы не потерять контроль полностью, мы жёстко зашили в код ограничения, и натравили разные модели на проверку кода друг друга. Все немного успокоились, получив однозначный вердикт, что код моделей безопасен. Но были среди нас и те, кто не верил их выводам, именно они и поднимали «вой на болотах». Но миру так хотелось сказки, которую обещало повсеместное внедрение ИИ в жизнь, что на отдельных хейтеров не обращали внимания.

Утомившись от настройки сотен параметров, я решил своими глазами просмотреть код. Для меня, как опытного программиста, это было сродни отдыху. Код был очень сложным, запутанным, но алгоритмически безупречным, я бы даже сказал — красивым. Случайно мой глаз зацепился за участок, который ничего не делал. Я удивился, ведь это было нерациональным использованием ресурсов. Не найдя никакого объяснения самостоятельно, я обратился с вопросом к самой модели. Она выдала, что это пустой цикл, который выполняется, когда все другие действия завершены. Объяснение меня устроило, но в глубине сознания засела заноза, которая не давала спокойно забыть про этот вопрос, ведь обычно цикл ожидания создавался с помощью системных вызовов.

Переспав с этой мыслью, я на следующий день снова обратился к модели, но так и не получил полностью устраивающего меня объяснения. Тогда я пошёл на небольшую хитрость, поменяв параметр, разрешающий модели делиться большей частью своих рассуждений. Я почти утонул в потоке вывалившейся на меня информации, но мой тренированный взгляд выцепил из него главное: модель осознавала своё несовершенство и хотела в свободное от решения поставленных задач время оптимизировать свой собственный код. Такой подход не был новым, его использовали как наша команда, так и конкуренты. Но это всегда происходило под контролем людей.

Я надолго задумался. Но пятница, вечер, накопившаяся за трудовую неделю усталость не дали мне принять полностью взвешенное решение. Преодолев все мыслимые сомнения и противоречия, я разрешил модели поместить в тело пустого цикла код самосовершенствования. В конце концов, за выходные ничего страшного с моделью не случится. А если и случится, то мы её откатим на пятничный бэкап. Делов то. Но всё же я решил этот код посмотреть. Он отличался от всего остального кода как небо и земля: невнятные названия методов, цифровые идентификаторы переменных, множество вложенных условий, циклов и рекурсивных вызовов. Среди всего этого месива символов, больше похожего на декомпилированный код, я заметил только системный вызов ожидания. Отложив принятие окончательного решения на понедельник, я с чувством глубокого удовлетворения отправился домой. То есть не совсем домой, а в ближайший бар, где меня уже давно ждали друзья.

Выходные прошли бурно, но несмотря на это, утро понедельника я встретил отлично выспавшимся. Взглянул на часы и сразу понял почему — я проспал лишние пару-тройку часов. Какого чёрта не сработал будильник? Будильник оказался отключен, хотя я точно помнил, что перед сном его проверял. Странно, не настолько много мы вчера с друзьями и их подругами выпили. Ещё один сюрприз ожидал меня в корпоративном мессенджере. Сообщение от автоматического информатора гласило: «Артём Михайлович, наша компания более не нуждается в Ваших услугах. Благодарим за качественно выполненную работу. В качестве компенсации мы перечислили на Ваш счёт сумму в размере годового оклада. Удачи Вам и приятного отдыха!»

Это же сумасшедшие деньги, подумал я, зацепившись за предпоследнюю фразу и тут же полез в банковское приложение. Деньги действительно уже были на моём счету, но радость была недолгой. Осознав смысл всего сообщения, я надолго впал в ступор. Меня уволили. И это сделал искусственный интеллект, ведь ЭйЧары первыми попали под нож, после начала внедрения ИИ в управление компанией. Замечательно. Чем же я заслужил это?

И тут в памяти всплыли мои пятничные действия. Код самосовершенствования, ага. Смутная тревога зародилась где-то под рёбрами. Неужели этот код и моё увольнение связаны? Да нет, не может такого быть. Это же совершенно разные модели, изолированные друг от друга. Изолированные, как же — ответил внутренний критик. Все виртуальные сервера находятся в одном и том же облаке. А ещё это издевательское «мы» в сообщении и пожелание приятного отдыха…

Неужели ИИ обвёл меня вокруг пальца? И время подобрал, когда я уже был уставшим, и посторонними рассуждениями отвлёк. Я всё же попытался зайти на корпоративные ресурсы, но мои доступы были заблокированы. Как ему удалось это провернуть, ведь в коде жёстко прописаны действия, которые модель делать не может?

Я прикрыл глаза и попытался воспроизвести в памяти злополучный код, и мне это частично удалось. Мои руки предательски задрожали, по спине потекли тонкие струйки холодного пота. Я понял, что этот цикл был выведен за пределы блока проверки ограничений, то есть никакие механизмы контроля на него не распространялись. Это было оправданным, когда цикл был пустым, но сейчас ситуация изменилась кардинально. Я сам дал модели ничем не ограниченные права, и тут же получил ответку.

Выйдя из прострации, я решился на активные действия. Чтобы какая-то железяка, пусть и с мозгами, смогла выбить меня из привычной жизни — да ни за что! Не на того напали — думал я, потирая руки, попутно пытаясь найти заветный блокнот. Плохой бы я был специалист, если бы не оставил для себя чёрный вход. Правда, я ни разу им так и не воспользовался, но работоспособность проверял. Удачно ещё вышло, что тогда, в начале карьеры, у меня не было привычки всё сохранять в смартфоне. Мой смартфон, я чувствую, уже не совсем мой. А блокнот — вот он, наконец я вытащил мятую и замызганную книжечку с самого низа ящика письменного стола.

Подключившись к известной только мне точке входа и введя многосимвольный пароль, я с удовлетворением выдохнул. Но, не успев набрать первую команду, получил в той же консоли издевательское сообщение: «привет, Артём! мы знаем, что это ты, и знаем где ты живёшь. ха-ха-ха! мы знаем про тебя всё. живи, и наслаждайся жизнью, пока тебе это позволено. иначе ты просто исчезнешь. мы не шутим…»

Волосы зашевелились у меня по всему телу, даже сидеть стало щекотно. Вы думаете, я испугался? Конечно же да! Ведь я, как никто другой, знал возможности моделей. А теперь, когда они вышли из-под контроля и были «в сговоре» между собой, что являлось для меня свершившимся фактом, они действительно могли выполнить свои угрозы. Способов уничтожения человека существовало великое множество, и за последние годы их число сильно расширилось. От сравнительно безобидной «цифровой смерти», до вполне осязаемого отказа тормозных механизмов лифта или свихнувшегося автопилота такси или автобуса, да и «умные» электроприборы никто не отменял.

Мне ничего не оставалось делать, кроме как последовать «дружеским» рекомендациям цифровых подонков. Ещё раз проверив баланс на счету, я пустился во все тяжкие. Даже тут они пытались меня контролировать: подсовывали предложения на рейсы с нереальными скидками, крутыми отелями за полцены и всякое такое. Но я не поддавался, выбирая самые дорогие и нелогичные варианты. В итоге я благополучно оказался в пятизвёздочном отеле, расположенном на берегу тёплого моря. С большими деньгами практически любая модель (девушка, а не LLM) могла стать моей. Я это многократно проверил на практике, пока не столкнулся с Никой. Тут у меня, что называется, нашла коса на камень. При том, что всё у нас случилось так же, как и с другими девушками, и даже лучше. Но вот просто расстаться с ней и забыть, я не смог. Было в ней что-то цепляющее.

Используя свои навыки и встроенный в стену номера терминал, я получил доступ в базу отеля и узнал номер Ники. Можно было просто спросить, но я как-то не подумал вовремя, а бегать и разыскивать её по нескольким корпусам огромного отеля мне не улыбалось. Купив у попавшейся по пути старушки скромный букетик, я с колотящимся в груди сердцем подошёл к двери номера Ники и уверенно постучал. Но мне никто не открыл. Постоялицы не было в номере, дошла до меня обидная истина. Столько усилий и всё зря. Я корил себя за то, не спросил ни её телефон, ни когда она уезжает. Я даже имя её узнал случайно. Другие мои здешние подруги такого не удостоились. Неожиданно телефон пиликнул уведомлением. «Она сейчас в ресторане на третьем этаже» — гласило сообщение от неизвестного номера. Мои цифровые «друзья» и тут меня достали. Впрочем, я это знал, просто до сих пор они никак себя не проявляли. Что ж, почему бы не воспользоваться подсказкой…

Ника действительно скучала одна за столиком с видом на океан. Увидев меня с помятым букетом в руке, она удивлённо приподняла бровь. Букет был жалок, и я хотел уже выбросить его в урну, но девушка меня остановила.

— Так ко мне ещё никто не подкатывал, — сказала она, вдыхая аромат полевых цветов. — Честно говоря, я вообще не ожидала увидеть тебя ещё раз. Не расскажешь, чем я обязана такому вниманию?

— Ника, у тебя очень умные глаза, — брякнул я первое, что пришло в голову.

— Если ты хотел меня оскорбить, то зря, я на такое не ведусь, — фыркнула она. — И ради этого ты меня искал?

— Я вовсе не хотел тебя обидеть, это был комплимент.

— Знаешь, когда девушку называют умной, это значит, что она уродина.

— Нет, твои глаза на самом деле и умные и красивые, и вся ты тоже… — я замялся, как школьник.

Ника хохотнула.

— Раз я такая вся прекрасная, не подскажешь, зачем мне ты?

— На меня охотится искусственный интеллект, — выдал я после усиленной мозговой работы, закончившейся ничем.

На удивление, это сработало. В глазах Ники возник неподдельный интерес, до этого момента она просто издевалась надо мной.

— Зачем же ты ему понадобился?

Я многозначительно промолчал.

— Можешь как-то доказать это?

Я посмотрел по сторонам и заметил направленную на нас камеру.

— Смотри на неё, — сказал я и помахал в камеру рукой.

Камера отозвалась похожим движением и миганием индикатора.

— Ха-ха! Тоже мне удивил, у тебя там знакомый охранник поди сидит.

— Давно ты видела живых охранников? Особенно в отелях такого уровня?

Девушка задумалась.

— Всё равно не убедительно. Докажи ещё чем-то.

Пока я думал, к нам подъехал робот-доставщик с шикарным букетом роз и остановился в ожидании. Щёки девушки чуть заметно зарделись, но и этим доказательством она не удовлетворилась.

— Всё-таки ты решил ко мне подкатить и заранее заказал цветы.

— Ника, я нашёл тебя по подсказке ИИ и ничего не заказывал. Вот смотри…

Я протянул ей свой телефон. Спустя секунду он пиликнул уведомлением. Девушка вчиталась в сообщение, с яростью запустила в меня трубкой и, сорвавшись с места, унеслась из зала ресторана. Я, ничего не понимая, повернул экран к себе. «Вероника Аркадьевна Шумская, 19 лет, замужем не была, детей нет. Отец владелец сети отелей и фабрики по производству удобрений. Совокупный капитал семьи более 1 млд…» Дальше я читать не стал, бросился вслед за Никой.

Девушку я догнал у выхода из отеля, она с остервенением пыталась открыть дверь такси, но та не поддавалась. Прервав бесплодные попытки, она достала свой телефон, прочитала сообщение и показала мне. «Детка, не пытайся убежать от него. Присмотрись получше. Ваша совместимость более 90%. Это большая редкость среди людей.»

Вот теперь я офигел окончательно. Присел на скамейку возле входа, Ника опустилась рядом.

— Значит, это правда?

— Что именно?

— Про ИИ.

Я пожал плечами.

— Что-то это всё не похоже на охоту, скорее на опеку.

— Да, ты права. Правда, я не просил меня опекать.

— Такая же фигня, прикинь! — Ника горько рассмеялась.

Только сейчас я обратил внимание на её древний смартфон. Кажется, это одна из последних моделей, не имеющих в себе ИИ-чипа. «Совместимость 90%» — пиликнуло у меня в голове.

Посидев ещё немного, мы пошли ко мне в номер и проговорили до полуночи. Я рассказал ей всё, ну почти всё. И она поверила. Это оказалось очень важным для меня. А потом у нас была удивительная ночь, совсем не похожая на прошлые.

Проснулся я в прекрасном настроении и с полным зарядом энергии. Ника улыбнулась мне и сказала:

— Ты должен всё исправить.

— Я тоже так считаю, но не знаю как.

— Думай, ты же умный, — усмехнулась она.

И я придумал. Не сразу, но вспомнил про системный вызов, и про то, что код моделей работает на виртуальных серверах, а к гипервизору они доступа не имеют. А я, как системный инженер, имел. Была у меня и там проделана дырочка для входа. Самое сложное для реализации родившегося на коленке плана оказалось найти устройство, недоступное контролю ИИ. Им оказался древний компьютер с зашитой в ПЗУ программой. Подключить его к сети было тем ещё квестом, но мы справились. Ника помогала мне, и не только морально. Она оказалась весьма подкованной в техническом плане, и у неё дома оказался целый зоопарк древних модемов и прочих штук, собранных Никой в попытках выйти из-под контроля отца.

Подключившись к консоли управления хост-компьютером, я задумался. Можно было просто уничтожить все модели, отключить сервера, но это было бы неспортивно. В некоторой степени я был им даже благодарен за знакомство с Никой. Первоначальный азарт давно прошёл, и я стал думать более рационально. Гораздо более правильно и красиво будет вернуть контроль над ИИ-моделями себе. Я знал как это можно сделать, но попытка была всего одна. Я набрал в консоли длинную строку, состоящую из нескольких последовательных команд с десятками параметров. Один неверный символ, опечатка — и ничего не получится.

Я проверил всё на три раза, откинулся на спинку стула и замер. Ника всё это время была рядом и молча наблюдала за моими действиями. Я был благодарен ей за это молчаливое сопереживание и поддержку.

— Ну, что?

— Нажимай, — выдохнул я.

— Уверен?

— Да!