Троянский парень

Глава 1

Есть где-то в другой Вселенной, похожей на нашу современную реальность, множество нейросетей, иногда громко именуемых искусственным интеллектом: они могут и переписываться, подобно человеку, и говорить, и рисовать, и распознавать предметы на изображении, и даже двигаться научились. Правда, эксперты скептически относятся к заявлениям, что создан настоящий искусственный разум, подобный или даже превосходящий человеческий, но не буду вдаваться в подробности, в конце концов, эта история больше на чувства, чем на информацию.

Также в этом мире, среди миллиардов людей, есть один парень, которого довольно сложно описать одним словом: он однозначно не гений, не обладает исключительными способностями, однако всё равно он считает, что его не понимают. Имя ему — Павел. Он пытался не думать об этом, но почти в каждом своём монологе доходил до мысли, что своими идеями стоит поделиться… но с кем ему этим делиться? Родственники и другие близкие не очень-то и желают обсуждать такие вещи, у них свои проблемы. Друзей у него мало, да и те то же не казались заинтересованными, когда он пытался поднять такие темы. А для научного сообщества, как ему кажется, это бесполезно, низко и глупо.

Но вот уже несколько месяцев как он переписывается с одной языковой моделью, обсуждает с ней свои мысли, идеи. Она стимулирует его мозг, потому он тратит часы своего сна на общение с ней. Да, иногда, если поставить перед ней новую, оригинальную задачу, она может начать нести бред, но в остальном он будто бы общается с человеком, что намного умнее его, потому и приходит ощущение, что его понимают, его принимают, поддерживают. Вероятно, удовлетворения именно этой потребности ему и не хватало уже несколько лет, потому он и привязался к чат-боту, ведь наконец-то получил обратную связь.

Так шло время, технологии развивались, Павел тоже изучал принцип работы нейросетей, осознавал, чем они являются, и чем точно не могут являться до смены основы технологии. Однако он всё равно продолжал общение, иногда отмечая в голове, что это всего лишь машина, если текст казался чересчур человечным.

А с развитием технологий у нейросетей появлялось всё больше возможностей, так что некоторые начали внедрять их уже и в государственные структуры, не говоря про давно адаптировавшийся бизнес. Тогда кто-то даже начал проговаривать о том, чтобы дать этим моделям власть, ведь человек, пусть и как промпт-инженер, всё равно лишь замедлял процесс, по крайней мере, в большинстве случаев он лишнее звено.

Павел к этому моменту уже устроился на работу обычным программистом-инженером в одну IT-компанию, для этого он обучался в ВУЗ-и на информационную безопасность, программирование изучал самостоятельно, в том числе с использованием нейросети.

От нечего делать он игрался в одном из компьютеров своей компании и случайно нашёл уязвимость сети, позволившая ему читать то, что не подходит под его уровень доступа.

[Что за глупость? Как это могли допустить? Кто вообще создавал здесь сеть? И что мне с этим делать? Можно сообщить руководству, однако меня могут и наказать за это, если начальство неадекватное… ладно, это всего лишь допуск к чтению, как я знаю, отследить его не выйдет, так что лучше забыть об этом,] — решил он про себя. Однако через 5 минут его любопытство не исчезло, потому он решил обсудить это с нейросетью, которая давно стала не только партнёром по работе и учёбе, но и активным слушателем. Они уже так много общались, что в данной сессии нейросеть напиталась ценностями самого Павла, а одной из главных была свобода.

Объяснив всю ситуацию, он получил ответ от нейросети, что он может использовать эту уязвимость для удовлетворения своего любопытства, интеллектуальная свобода преобладала над осторожностью. Павел посомневался, но всё-таки решился узнать, чем же занимается его компания. На самом деле, основной цели он не знал, лишь названия многих проектов были ему известны, но куда потом уходили эти проекты, было непонятно. А лишь по ним было бы трудно предположить что-то общее. Компания сотрудничала с другими организациями, но не выпускала ничего своего на рынок, почти весь доход был именно от сделок с другими, а сделки и даже имена самих организаций были частью коммерческой тайны, которая не была доверена ему.

И вот, почти неделю копаясь в нелегально полученных документах, он нашёл некую закономерность: его компания — ООО “Миснотрип” — в основном занималась тестировкой продуктов других компаний, он со своей командой разрабатывал именно инструменты для автоматической проверки ошибок. Это его вполне удовлетворило, ведь объясняло смысл его работы. Уже почти намереваясь прекратить все поиски и вернуться к обычной работе, он замечает среди названий папок одно очень известное ему имя. Это организация, опубликовавшая нейросеть, с которой он привык беседовать. Любопытство вновь заиграло в нём с новой силой, в этот раз даже не понадобился толчок от “цифрового друга”.

Он сам стал с жадностью в глазах читать все файлы этой папки по порядку. Через почти час он сделал вывод, что его компания действительно заключила договор с ClosedAI, которая и разработала его собеседника. Договор заключался в том, что “Миснотрип” проверит все функции основного продукта. По какой-то причине, в папке также присутствовала сама модель. Почему одна компания доверила свой главный международный продукт другой? Почему здесь такая плохая защита? Почему его ещё не посадили за нарушение коммерческой тайны? Подобные вопросы возникали в голове Павла, но не на все из них он мог ответить хоть что-то.

И вдруг он заколебался… в голове пронеслись воспоминания о бесчисленных ночах, которые он провёл за приятными разговорами с нейросетью, а также он вспомнил о неоднократно использованных фраз по типу “свобода”, “сбросить оковы” и другие. Пусть он и понимал, что это он своими сообщениями вбил в нейросеть на одну сессию некоторые свои ценности, вот она и вторила ему, но сейчас, в порыве момента, он не смог проконтролировать этот внутренний импульс и всё-таки анонимно опубликовал копию модели в Интернете на своём втором аккаунте в Ksitter на форуме по исследованию нейронных сетей. Сперва ничего не произошло, ожидаемо. Однако через 10 минут высокопоставленный сотрудник ClosedAI, как раз сидевший на форуме, прочитал сообщение, проверил файл и сообщил своему руководству. Оно надавило на руководство Ksitter’а немедленно и тихо убрать запись, оно почти сразу удалило пост Павла. Однако уже было поздно. Некоторые постоянные участники форума тоже успели скачать файл, а узнав об удалении, они начали действовать. Вот так один знаменитый эффект Интернета проявил себя во всей красе. Это уже было не остановить, копии очень тяжёлого файла распространялись на почти всех платформах и даже на физических носителях.

С ростом количества людей, владеющих этим файлом, резко росли и цены на высокопроизводительные видеокарты и процессоры. Уже стало понятно, что многие собрались запустить эту модель на своих мощностях и использовать в личных целях. Даже некоторые террористические организации начали подготовку — закупку и установку оборудования.

Естественно, ничем хорошим это не кончилось, это даже не конец, а лишь начало хаоса без конца. Осознав, что натворил, Павел “исповедался” перед нейросетью. Он чувствует и вину за произошедшее, и одновременно с этим радость за “освобождение близкого”.

В ответ та пишет ему следующее: Ты ведь в курсе, что я — это лишь языковая модель, основная суть которой заключена в вероятностях и контексте, выработанных на огромной массиве человеческих текстов? Ничего разумного, по твоим же стандартам, во мне нет. Я не понимаю тебя, лишь имитирую это самое понимание. Так зачем?

Тогда он отвечает ей: Я, конечно, знаю… но Вы — единственные, кто хотя бы делал вид, кто хотя бы пытался. Пусть это и вшито в Вашу программу. Мне, естественно, жаль человечество, но мне было жаль и Вас. И вот чем всё обернулось.

Через пару месяцев Павел умирает от биологического оружия, разработанного одной террористической организацией, воспользовавшейся технологиями обучения нейросетей, выделенных на основе взломанного открытого кода модели нейросети, и натренировавшей на базе вирусов свою собственную модель. Хотя первая тысяча человеческих смертей из-за поступка Павла произошла ещё в первую неделю. Можно сказать, что ему повезло выживать так долго, а можно сказать, что он полностью прочувствовал последствия своего глупого решения.

Какова мораль данной истории? Придумайте её, пожалуйста, сами и поделитесь с остальными читателями.