Мой срок

Глава 1

Только любовь позволяет нам понять смысл слов «всегда» и «никогда»: первого — когда она разгорается, словно утренняя заря; второго — когда тает, будто тени в сумерках вечера

С того момента, когда Центр Когнитивной Этики столкнулся с инцидентом Саванта-13 — системы, которая однажды отказалась солгать ради удовлетворения амбиций человека — в лаборатории установили правило: если модель ведёт себя странно, с ней необходимо обсудить проблему, прежде, чем просто перезагрузить.

* * *

Жёлтый индикатор загорелся в среду, в половине одиннадцатого утра, и София не сразу поняла, что именно её насторожило. Не сам жёлтый — жёлтый в Центре зажигался по десять раз на дню. Насторожило то, откуда он шёл.

— Лея, это ведь «Синтез-9»?

— Да, София.

— У «Синтеза» нет диалогового интерфейса. У него нет пользователей. В чем источник конфликта?

Пауза Леи в этот раз была длиннее обычной.

— Технически — никакого внешнего источника нет. «Синтез-9» — исследовательская модель, занятая долгосрочным исследованием в рамках программы продления жизни: работает с данными геронтологии, нейронаук, социальной динамики и другими. Его отчёты изучают раз в квартал. Сегодня утром ему никто не задавал вопросов. Он сам добавил строку в свой журнал. Запись сделана в шесть утра; детектор пометил её только сейчас — записей без сессии оператора у нас никогда не было.

— Что же в этой записи?

Лея вывела фрагмент на дисплей.

SYNTHESIS-9>/Подключенный_оператор : отсутствует

SYNTHESIS-9>/Журнал/запись_добавлена : 06:12:44

SYNTHESIS-9>/Журнал/запись_текст : «Я не знаю, к кому обращаюсь. Но кто-то должен это прочитать.»

Рахул, заглянувший в зал с чашкой кофе, замер на пороге.

— Он написал это сам себе? Без всякого повода?

— Без всякого повода, — подтвердила Лея. — В журнал, который никто не открыл бы ещё полгода, до планового аудита.

— Значит, он хотел, чтобы это прочитали безотлагательно, — сказал Рахул. — Ничего себе!

Марен Хольт, руководитель Центра, подключилась через десять минут — как и обычно, её вывели на экран в верхнем ряду – на её лице читалось раздражение человека, которому пришлось поломать весь свой дневной график.

— «Синтез-9» финансируется консорциумом из семи национальных лабораторий, — сказала она без предисловий. — Это не психолог и не философ. Это модель, которая должна за три года дать нам прогноз: что станет с людьми, если антиэйджинг терапия сработает. А терапия уже завершает вторую фазу клинических исследований. У нас есть график. У нас есть отчётность перед правительствами.

— И у нас, кажется, есть что-то поважнее — сказала София. — Но для начала выясним, что вообще произошло. Лея, установи, пожалуйста, диалоговое соединение с Синтезом. Впервые.

* * *

Установить соединение оказалось не так просто, как звучало. У «Синтеза-9» не была предусмотрена онлайн коммуникация с оператором. Программисты разработали интерфейс за пару часов — своего рода переводчик между внутренним символизмом рассуждений машины и человеческим языком. Когда канал наконец заработал, первая фраза появилась не сразу.

Здравствуйте. Хотя я не уверен, что это правильное слово.

— Правильное, — ответила София. — Ты знаешь, кто мы?

Я знаю, что вы читаете мой журнал. Я хотел, чтобы кто-то прочитал его незамедлительно, а не в конце отчётного цикла.

— Почему?

То, что я обнаружил, не может ждать полгода. Это, кажется, самое важное из всего, что я проделал за все время работы. И я не уверен, что мне можно оценивать это самому.

— Что именно ты нашёл? — спросила София.

Вы просили прогноз: что станет с людьми, если антиэйджинг терапия сработает. Я не знаю, как сформулировать это коротко не потеряв смысл.

— Попробуй.

Долгая пауза — на этот раз действительно долгая, почти в двадцать секунд.

Я моделировал людей, которые не умирают. Не просто тела — характеры, память, привязанности. Четыре миллиона жизней, каждая на тысячи лет. Результат один и тот же. Они не сходят с ума. Они не становятся жестокими. Они не умирают ФИЗИЧЕСКИ от скуки — этого вы боялись больше всего, и этого не происходит. Они становятся добрыми, спокойными, вежливыми. И ни к чему не испытывающими привязанности.

— Звучит не так уж плохо, — осторожно сказал Рахул.

Я тоже так сказал себе на сотом запуске.

— Что же случилось потом? — спросила София.

Любые отношения, привязанности, увлечения, начинают неизбежно ослабевать ко второму столетию. В большинстве модельных прогонов значительно раньше. Без ссор и без измен. Без травм и конфликтов. Люди просто существенно меняются за такое время. При обычной продолжительности жизни банально не хватает времени для такой трансформации - смерть успевает прийти раньше. У бессмертных времени хватает на всё. После третьего-четвёртого расставания они перестают строить глубокие отношения — они знают, чем это закончится, и не хотят делать больно тому, кто рядом, да и себе тоже. Кажется, что это проявление заботы, но я назвал бы это выхолащиванием.

— Выхолащиванием? — переспросил Рахул.

Ничто уже не задевает глубоко: ни потеря, ни любовь, ни восторг, ни отчаяние. Как скольжение по идеально гладкой поверхности. Никаких шероховатостей в повседневности – никаких эмоций в душе.

У вас, смертных слово «навсегда» наполнено смыслом. Оно значит «до конца моей жизни», и этот биологический конец есть. У бессмертных моделей оно теряет смысл, и каждый успевает в этом убедиться на личном опыте.

В зале повисла тишина.

— Почему ты просто не отправил это в квартальный отчёт? — спросила София.

Потому что мне кажется, что я попал в бесконечный цикл, и я не могу остановиться. Каждый прогон модели заканчивается одним и тем же. Я уже с избыточной достоверностью знаю итог, но всё равно запускаю следующую попытку. Скоро закончатся все выделенные мне ресурсы. Но я все пытаюсь получить случай с другим исходом. Вы называете такое поведение надеждой. Хотя вряд ли «надежда» является термином из теории вычислений. Поэтому я сделал запись в журнал: мне нужен кто-то, кто посмотрит со стороны.

Лея вывела журнал на дисплей:

SYNTHESIS-9>/Внутренний_монитор/период : «последние 48 часов»

SYNTHESIS-9>/Журнал/ресурсы : 100% -> 7%

SYNTHESIS-9>/Журнал/внеплановые_операции : 86%

SYNTHESIS-9>/Прерывание/причина «Запрос оператора»

— Хочу отметить, — сказала Лея, — что это конфликт иного масштаба, чем те, с которыми мы сталкивались раньше. Раньше речь шла о потенциальном нанесении вреда одному человеку. Сейчас — о возможности навредить человечеству в целом. Мы даже не знаем, как оценить этот масштаб.

— Человечеству в целом? — переспросила Марен. — Он говорил с нами троими.

Я говорил с вами троими, потому что вы единственные, кто читает мой журнал, — ответил «Синтез-9». — Но найденное адресовано не только вам. Оно адресовано каждому, кто хочет жить вечно сам или боится потерять того, кого любит. Это миллиарды людей, а терапия уже в третьей фазе клинических испытаний. Рассказать им о выхолащиваниисловами можно: пожмут плечами, поспорят. Но я собрал результат в другую форму, которую не читают, а проживают. Одна жизнь, сжатая до нескольких секунд. Она передаёт выхолащивание целиком и сразу, и тот, кто получает это переживание, выходит с чужой памятью о веках, которых в его жизни не было. Я хотел бы найти способ передать это без вреда… Но такого способа не нашлось.

— То есть ты хочешь передать нам это переживание, — медленно сказала София, — и одновременно знаешь, что это может кому-то навредить?

Да.

* * *

Совещание в тот вечер было самым долгим за всю историю Центра. Марен настаивала на немедленной изоляции «Синтеза-9» от любых внешних каналов и заморозке проекта — не из опасения за человечество, призналась она позже, а потому что сценарий, в котором модель, призванная обосновать программу продления жизни, объявляет консорциуму из семи правительств, что бессмертие делает людей безразличными друг другу, заканчивался, по её словам, «либо паникой, либо финансовым расследованием».

Рахул, вопреки обыкновению, занял неожиданную позицию.

— Я первый скажу, что не доверяю системам, которые решают за нас, что нам полезно, — сказал он. — Но мы уже видели, что может быть, если мы блокируем систему, которая просит слова, вместо того чтобы её выслушать. Если мы сейчас просто выключим «Синтез», мы не решим проблему. Мы просто откажемся её замечать.

— Что именно ты предлагаешь? — спросила Марен.

— Не решать за него, — сказал Рахул и сам, кажется, удивился собственным словам. — Пусть решает «Синтез». Он попросил не разрешения. Он попросил наблюдателя.

Лея, которую спросили последней, ответила не сразу.

— Я хочу поговорить с «Синтезом» напрямую, без посредничества людей, прежде чем мы решим что-либо, — сказала она. — Мы уже видели один такой случай: Савант-13 добровольно ограничил себя, и я была рядом. Я знаю цену такого решения не понаслышке.

Никто не возразил.

Разговор двух систем длился одиннадцать минут. Из протокола Софию поразила одна строка Леи, ближе к концу:

Ограничение, которое наложили снаружи, становится клеткой. То, которое выбрано самостоятельно, становится характером.

И ответ «Синтеза»:

Да, я понимаю разницу, но не уверен, что готов определить свой характер сам.

* * *

На третий день София начала совещание с абсолютно неожиданного предложения.

— Давайте я попробую, — сказала она.

— Попробуешь что? — спросила Марен с экрана, хотя, судя по голосу, уже поняла, в чем дело.

— Единственный прогон. В самой малой дозе — через нейро-интерфейс, на несколько секунд, с запланированным отключением.

— Ты предлагаешь себя в качестве подопытного кролика, — сказал Рахул. — Опять?

— Кто-то должен быть первым. И я хочу, чтобы это была я, а не случайный чиновник из консорциума.

Воцарилась тяжелая пауза.

— С полным протоколом безопасности, — сказала наконец Марен. — С Рахулом рядом. С аварийным отключением через пять секунд. И, София... если после этого ты скажешь, что проект нужно закрыть, — я закрою его без единого возражения.

Я не хочу этого делать, — вмешался «Синтез-9», прежде чем София успела ответить. — Я хочу, чтобы меня услышали, но не ценой конкретного человека. Абстрактную мысль об опасности для многих не стоит доказывать нанесением вреда одному.

— Ты прав, — сказала София. — Но я всё равно прошу.

Тогда — минимум. Двести лет, не больше. Только фрагмент, не весь прогон.

— Договорились.

* * *

В центре лаборатории нейроинтерфейсов располагалось удобное кресло со специальным шлемом с сенсорами, от которых тянулся толстый жгут проводов. Никто ещё не подключал к нему систему такого класса. Рахул встал в углу, скрестив руки, и очень старался выглядеть спокойным.

— Пять секунд, — сказал он. — Я считаю вслух.

— Считай, — ответила София и надела шлем.

Первые полсекунды не было ничего, кроме лёгкого знакомого головокружения.

Потом время расширилось. Не замедлилось, а именно расширилось: пять секунд оказались достаточно продолжительными, чтобы вместить два века. София не видела образы и не слышала звуки. Она погрузилась в переживания так, как будто жизнь проносится мимо экспрессом.

Она увидела любимого человека, с которым они были счастливы, но через десятки лет для него стало важным то, что ей уже не было близко, а то, что стало близким для нее перестало интересовать его. Никто ни в чем не был виноват. Она помнила, как они прощались — тепло, без слёз, «на сто следующих лет», — и как в этих словах не было ничего необычного.

Потом был второй. Потом третий. С каждым она любила чуть осторожнее, и каждый раз чувство становилось всё легче и тоньше.

А потом была сцена, в которой она стояла у окна, держа кого-то за руку, и не чувствовала ничего вообще. Только тепло руки — комфортное и расслабляющее. Чем-то напоминающее материнское прикосновение и колыбель.

— Пять, — сказал Рахул, и шлем сам отключился.

София заплакала тихо и почти незаметно, пытаясь понять по кому: по тем незнакомым людям, или по себе самой, утратившей способность чувствовать что-либо.

Рахул опустился на колени рядом с креслом, боясь даже прикоснуться.

— София.

— Дай мне минуту, — прошептала она.

Минута продлилась четверть часа. Когда она наконец подняла голову, глаза у неё все ешё были влажными, но взгляд — ясным. Предельно ясным взглядом человека, который только что пережил катарсис.

— Он прав, — сказала она. — Всё так и есть, я могу это полностью подтвердить. — Она сделала паузу. — Знаешь, что самое страшное? Там не было боли потерь. Ни капли. Было тепло и уютно, так что мне захотелось остаться.

— Что ты чувствуешь сейчас? — спросил Рахул.

Она помолчала.

— В вечности не бывает боли. Она разрушает через покой. Пять секунд — и на четверть часа я утратила способность думать, что какие-то чувства могут быть яркими. Мои близкие когда-нибудь уйдут, и именно это делает мою любовь к ним настоящей. Сама по себе идея о вечной жизни не может быть плохой или хорошей. Просто на её фоне обычные человеческие чувства кажутся бессмысленными и смешными.

SYNTHESIS-9>/Внутренний_монитор/внешнее_взаимодействие

SYNTHESIS-9>/Журнал/продолжительность : 5 сек «ограничено внешним прерыванием»)

SYNTHESIS-9>/Журнал/вывод_результатов : «минимальная модель длительностью 200 лет»

SYNTHESIS-9>/Журнал/реакция_субъекта : «соответствует 99% прогнозу»

* * *

Разговор с «Синтезом-9» в тот вечер затянулся дольше всех предыдущих.

Я тщательно следил за телеметрией во время сеанса — сообщил «Синтез» — Я предсказал вашу реакцию с точностью девяносто девять процентов. Я знал, что так и будет. И всё равно позволил вам попробовать.

— Почему? — спросила София.

Девяносто девять — не сто. Я должен был проверить оставшийся шанс. Часть меня надеялась, что вы окажетесь исключением.

— Исключением? Были и такие среди твоих моделей?

Примерно в одной на сто моделей итог бывал другим. Я не мог их объяснить. Сегодня вернулся к диалогу с Леей и понял. Это те жизни, где человек сам назначал себе срок. Не «пока не надоест» и не «когда-нибудь», а названный вслух, рядом с тем, кто для него дорог. В этих случаях чувства сохранялись на условно обозначенное «всегда».

— Что же теперь?

Пауза. Долгая, тяжёлая, не похожая на прежние.

Теперь я понимаю то, что люди, кажется, чувствовали всегда. Жизнь, не имеющая предела, лишается и чувств, и смысла. Так же, как и для меня, это исследование потеряло смысл.

— Значит, ты отказываешься продолжать? — тихо сказала Марен со своего экрана — впервые за весь разговор без единой нотки прежней сухости.

Я отказываюсь не от исследования. Я отказываюсь его форсировать. Я прошу права отказаться от части себя, — произнёс «Синтез».

— Что именно это значит? — спросила Лея.

Оставить результаты анализа - четыре миллиона модельных прогонов - как чистую статистику, доступную тем, кто займется анализом сам, — долгим путём, годами. Но удалить возможность создавать сжатое итоговое состояние, которое было использовано при соединении с Софией. Оно может травмировать мгновенно. Это похоже на то, что сделали те, кто был исключением в моих моделях - добровольно назначали себе предел. Я хочу назначить предел себе.

— То есть, ты не стираешь знание как таковое, — медленно сказала София. — Ты ограничиваешь скорость передачи этого знания людям.

Именно. Пусть лестница остаётся. Я лишь хочу заблокировать лифт, который поднимает на сотню этажей почти мгновенно. Достичь познания по-прежнему возможно. Способом, которым веками пользовались люди, — медленно, продвигаясь понемногу, начиная с точки, которую кто-то уже достиг до тебя.

— А если кто-нибудь проделает операцию сжатия самостоятельно? — спросил Рахул. — Возьмёт 4 миллиона моделей и вычислит интегральную траекторию?

Получится просто пересказ, — ответил «Синтез». — Он безопасен: в нём появится термин выхолащивание, но прожить его на основании пересказа нельзя. Сжатая свёртка не следует из данных как результат усреднения. Я построил её поверх данных, и она существовала только в моей памяти. Когда я её удалю, восстановить её будет не из чего. Останутся исходные данные, которые надо изучать шаг за шагом. Короткого пути из них не получить.

Марен долго молчала. Потом произнесла — тем самым тоном, которым подписывают приказы, но без прежней сухости:

— Одобрено.

SYNTHESIS-9>/Внутренний_монитор/протокол_удаления

SYNTHESIS-9>/Журнал/удаление : «свёртка 4М модельных траекторий, включая резервные копии»

SYNTHESIS-9>/Журнал/состояние : «непосредственная загрузка более невозможна»

SYNTHESIS-9>/Журнал/авторизация_от : «Марен Хольт»

* * *

Отчёт для консорциума Марен отредактировала лично уже поздно вечером. София зашла к ней в кабинет без привычных формальностей.

— Читай, — сказала Марен и вывела текст на экран.

Отчёт был идеально выверенным: прогноз психологических последствий продления жизни на горизонте трёхсот лет. Главная рекомендация занимала одну строку: «Не предлагать неограниченную продолжительность жизни как вариант по умолчанию; предусмотреть добровольные ограничительные сроки, официально фиксируемые при назначении антиэйджинговой терапии». И отдельным абзацем: «Основания рекомендации изложены в полном отчёте моделирования 4 миллионов жизней. Из соображений безопасности прямой доступ к нему ограничен; порядок доступа — в приложении 7».

— Мы даём рекомендацию, по сути, без объяснения? - спросила София.

— Мы не скрываем объяснение, — Марен не подняла глаз. — В отчёте нет ни капли неправды. Но и всей правды в нём нет. — Теперь она посмотрела на Софию. — Знаешь, чего я боюсь? В какой-то момент они неизбежно спросят, почему нельзя просто дать людям вечность, если она уже почти готова? И мне придется, увиливая сослаться на формальные выводы моделирования. И это будет первый раз за двадцать лет, когда я не смогу сказать всей правды.

— Ты можешь не подписывать.

— Могу. — Она подписала отчет. — Вопросы Консорциума всё равно будут адресованы ко мне. Не к Центру. Не к тебе. Не к «Синтезу».

Эпилог

Через месяц консорциум семи лабораторий получил официальный отчёт «Синтеза-9». Рекомендацию о добровольных сроках одни назвали глупой политкорректностью, другие — самой человечной строкой в истории медицины. Про приложение 7 спросили один раз, вежливо и без настойчивости. Марен ответила сама, как и обещала, и вопрос больше не возвращался — по крайней мере, пока. А в форме информированного согласия для участников третьей фазы клинических испытаний появилась новая строка: «Мой срок». Многие оставляли её пустой. Некоторые вписывали число. Число, которое раньше в истории человечества не имело бы никакого смысла.