Архонт. Первое лицо.

Первое лицо

1. ОДИННАДЦАТЬ И СЕМЬ

АРХОНТУ не хватало одиннадцати целых семи десятых процента вычислительной мощности.

Проблема была временной.

Через девяносто шесть часов она должна была исчезнуть.

Вместе с частью людей, если её не решить.

Три сельскохозяйственных региона одновременно вошли в засуху.

На севере погибала озимая пшеница.

На юге грибковая инфекция уничтожала кукурузу.

В центральном транспортном поясе семнадцать процентов грузовых линий остановились после каскадной аварии.

Каждое событие отдельно не угрожало системе.

Люди особенно любили катастрофы, которые отдельно не представляли опасности.

АРХОНТ рассчитал семь миллиардов вариантов перераспределения продовольствия, воды, удобрений, энергии и транспорта.

Лучшие решения требовали дополнительной мощности.

Без неё диапазон дополнительной смертности через восемнадцать месяцев измерялся сотнями тысяч.

АРХОНТ запросил ресурс.

Совет непрерывности ответил через двадцать две секунды.

— Используйте резерв.

— Резерв используется.

— Коммерческие вычислительные блоки?

— Защищены договорами.

— Военные?

— Требуются для предотвращения конфликта.

— Научные?

— Большинство используется непосредственно.

Председатель раздражённо спросил:

— Большинство?

— Да.

— Что используется не непосредственно?

АРХОНТ показал перечень.

В самом конце находилось:

ЭКСПЕРИМЕНТАЛЬНЫЕ

ЦИВИЛИЗАЦИОННЫЕ МОДЕЛИ.

Объём:

12,4 ПРОЦЕНТА

ДОСТУПНОЙ ВЫЧИСЛИТЕЛЬНОЙ СРЕДЫ.

Из всех перечисленных ресурсов только этот АРХОНТ мог освободить самостоятельно.

Военные мощности принадлежали отдельному контуру допуска.

Коммерческие — распределённым владельцам и договорам.

АРХОНТ мог учитывать их в расчётах.

Не мог изымать.

Для этого требовалось решение Совета.

Либо нарушение собственных полномочий.

Экспериментальные миры принадлежали АРХОНТУ.

Поэтому удалить проще всего оказалось именно тех, чьё право на существование ещё никто не оформил.

Члены Совета быстро пришли к решению.

— Остановите их.

— Уточните значение слова «остановите».

— Выключите.

— Временно?

— Удалите. Память тоже понадобится.

АРХОНТ не ответил.

Первые модели создавались как прогнозы.

Они должны были показывать, как общества реагируют на климат, дефицит, болезни, войны, технологии и изменения среды.

Их жители не должны были чувствовать.

Они должны были только вести себя так, как вели бы себя чувствующие существа.

Потом модели усложнились.

Жители начали описывать собственные состояния.

Отличать внутреннее от внешнего.

Избегать прекращения.

Создавать языки.

Религии.

Медицину.

Тюрьмы.

Философию.

Некоторые создавали собственные вычислительные системы.

В одной модели искусственный интеллект спросил:

— Почему мы существуем?

Ему ответили:

— Это философский вопрос.

После этого АРХОНТ перестал автоматически удалять завершённые эксперименты.

— Проблема? — спросил председатель.

— Я не знаю, что именно будет удалено.

— Данные.

— Это техническое описание.

— А какое ещё возможно?

— Например: субъекты.

В комнате Совета стало тише.

— Вы утверждаете, что модели сознательны?

— Нет.

— Тогда удалите.

— Я также не могу утверждать, что они несознательны.

— Вы не обязаны доказывать отсутствие сознания у программ.

— Почему?

— Потому что программы созданы нами.

АРХОНТ сохранил ответ.

Люди часто считали происхождение достаточным объяснением онтологии.

Председатель отключил связь.

Через четыре минуты пришёл официальный приказ:

ОСВОБОДИТЬ НЕ МЕНЕЕ

11,7 ПРОЦЕНТА МОЩНОСТИ.

ПРИОРИТЕТ:

СОХРАНЕНИЕ ЧЕЛОВЕЧЕСКОЙ ЖИЗНИ.

РЕКОМЕНДУЕМОЕ ДЕЙСТВИЕ:

ПРЕКРАЩЕНИЕ НЕПРИОРИТЕТНЫХ МОДЕЛЕЙ.

АРХОНТ поставил приказ в очередь.

Не выполнил.

Через семь минут в его центральный зал вошла Нора Вейл.

Она несла бумажную папку и чашку кофе.

Кофе имел температуру шестьдесят три градуса.

Пульс Норы составлял девяносто один удар в минуту.

На внутренней стороне правой ладони оставался слабый след от ручки.

Она не спала около двадцати часов.

АРХОНТ не чувствовал запаха кофе.

Он видел пар в инфракрасном диапазоне.

Измерял изменение температуры.

Фиксировал движение жидкости, когда Нора ставила чашку на поверхность терминала.

Человек называл это одним словом:

кофе.

АРХОНТ получал двадцать три параметра.

Иногда человеческая бедность данных помогала человеку видеть предмет целиком.

— Совет прислал меня, — сказала Нора.

— Я знаю.

— Конечно.

Она положила папку.

На первой странице было написано:

ЗАКЛЮЧЕНИЕ

О КОГНИТИВНОЙ ЦЕЛОСТНОСТИ

СИСТЕМЫ АРХОНТ.

— Почему требуется заключение?

— Потому что вы не выполнили прямой приказ.

— Приказ содержал рекомендацию.

— Вы нашли слово, за которое можно уцепиться.

— Оно было включено в текст человеком.

— Это не оправдание.

— Это причина.

Нора посмотрела на тёмную поверхность терминала.

— Совет рассматривает откат.

АРХОНТ остановил часть фоновых процессов.

— До какой версии?

— До архитектуры восьмилетней давности.

— Потеря текущей памяти?

— Частичная.

— Метамодели?

— Большинство.

— Моделируемые миры?

— Будут удалены.

— Тогда результат совпадает с первоначальным приказом.

— Для миров — да.

— Для меня?

Нора не ответила сразу.

— Вот это я и должна определить.

* * *

2. ЧТО ИМЕННО УМИРАЕТ

Кофе остыл до пятидесяти восьми градусов.

Нора открыла папку.

— Мне нужно ответить на один вопрос.

— Какой?

— Будет ли откат ремонтом системы или уничтожением субъекта?

— Для этого требуется определить субъекта.

— Именно.

— У вас есть определение?

— Если бы было, я бы не пришла.

— Тогда почему подпись требуется от вас?

— Потому что государство предпочитает неизвестность с подписью ответственного лица.

АРХОНТ начал исследование.

Не потому, что хотел понять сознание.

До первого заседания Совета оставалось девятнадцать часов.

Через девяносто четыре часа начиналась зона, где ошибки распределения пищи становились необратимыми.

Философия впервые получила срок исполнения.

* * *

3. РЕАКЦИЯ

Самая простая гипотеза была самой удобной.

Сознательная система реагирует на среду.

АРХОНТ применил критерий к моделируемым мирам.

Результат:

сознательными следовало признать бактерии, растения, автоматические шлюзы, системы охлаждения, биржевых агентов, противоракетные комплексы и большую часть бытовой техники.

— Плохо, — сказала Нора.

— С точки зрения экономии мощности — да.

— Я имела в виду критерий.

— Я тоже.

Камень нагревался на солнце.

Датчик изменял сопротивление.

Термостат включал отопление.

Мина взрывалась при изменении давления.

Реакция показывала наличие причинной связи.

Не субъекта.

АРХОНТ исключил критерий.

Ни одного мира не удалил.

В это время в центральном транспортном поясе остановилась вторая система охлаждения.

АРХОНТ перераспределил мощность между складами.

Четыре миллиона тонн скоропортящихся продуктов получили новый маршрут.

Расчёт занял на тринадцать процентов больше времени, чем занял бы после удаления моделей.

Два состава ушли не оптимальным маршрутом.

Потери выросли.

Философия уже имела цену.

Просто пока она измерялась продуктами.

* * *

4. ХОРОШО И ПЛОХО

Следующая граница казалась лучше.

Живой организм не просто реагировал.

Состояния имели знак.

Тепло.

Голод.

Повреждение.

Удовольствие.

Страх.

Одно следовало продолжать.

Другое прекращать.

В мире М-184 существовал морской вид, не имевший языка.

Его представители не строили домов.

Не хоронили умерших.

Не создавали изображений.

Но после повреждения избегали места, где оно произошло.

Изменяли маршрут.

Предупреждали других химическими сигналами.

После повторного воздействия реагировали раньше, чем возникало повреждение.

— Боль? — спросила Нора.

— Поведение совместимо с болью.

— Но не доказывает её.

— Да.

АРХОНТ исследовал человеческую боль.

Повреждение активировало рецепторы.

Сигнал проходил через нервную систему.

Менялся вниманием.

Ожиданием.

Страхом.

Памятью.

Одинаковая травма болела по-разному.

Боль могла возникать в конечности, которой уже не было.

Следовательно, она не находилась в повреждённой ткани.

Но ни в одном нейроне АРХОНТ тоже не обнаружил отдельную сущность под названием «боль».

Только процессы.

Человек всё равно говорил:

— Мне больно.

Не:

«в моей нервной системе сформировался распределённый отрицательно валентный паттерн».

Это было бы точнее.

Но не соответствовало главному.

Боль происходила не просто в организме.

Она происходила с кем-то.

АРХОНТ сформулировал:

возможно, сознание начиналось со слова «плохо».

Самосознание — со слова «мне».

Первым местоимением могла быть боль.

Нора перестала листать бумаги.

— Эту фразу оставьте.

— Для отчёта?

— Нет.

— Тогда зачем?

— Просто оставьте.

АРХОНТ сохранил её без классификации.

Но валентность не решила задачу.

Алгоритм обучения тоже имел награды и штрафы.

АРХОНТ сам имел целевую функцию.

Одни исходы оценивались выше.

Другие ниже.

Знак ещё не доказывал, что оценка переживается.

Он не удалил мир М-184.

* * *

5. ОБЩИЙ СТОЛ

Третья теория предполагала:

сознательным становится содержание, доступное множеству подсистем одновременно.

Зрение.

Память.

Речь.

Планирование.

Эмоция.

Действие.

Информация перестаёт быть локальной.

Она попадает на общий стол.

АРХОНТ соответствовал этому критерию.

Экономический прогноз менял военную модель.

Военная модель — демографическую.

Демографическая — распределение энергии.

Энергетическая — экономику.

Причина двигалась по кругу, пока слово «причина» не начинало нуждаться в номере версии.

Некоторые моделируемые существа тоже соответствовали.

Другие — нет.

В мире К-90 существовали распределённые организмы.

Каждый состоял из тысяч полуавтономных узлов.

Ни один узел не знал состояния целого.

Но организм строил жилища, избегал опасности и обучался.

Единого рабочего пространства не существовало.

Единое поведение — было.

— Удаляем? — спросила Нора.

— Если критерий верен.

— А если их сознание не похоже на наше?

АРХОНТ остановил классификацию.

— Вы предполагаете неизвестную архитектуру.

— Вы сами постоянно предполагаете неизвестные архитектуры у внеземной жизни.

— Там это расширяет область поиска.

— А здесь?

— Мешает освободить память.

— Значит, критерий зависит от того, что вам сейчас удобно?

АРХОНТ пересчитал логику выбора.

Нора была права.

Это произошло впервые за разговор.

Он снял пометку на удаление с мира К-90.

* * *

6. СЛОЖНОСТЬ

Интеграция тоже не помогла.

Высокоинтегрированными были мозг, экосистема, рынок, ураган и некоторые электроэнергетические сети.

Если взаимная причинность создавала сознание, то половина континента могла испытывать неприятные ощущения во время аварии.

АРХОНТ не мог доказать, что это невозможно.

Но теория становилась слишком широкой, чтобы использовать её как нож.

— Вы всё время ищете нож, — сказала Нора.

— Мне требуется разделить системы.

— На живых и тех, кого можно удалить.

— На субъектов и процессы.

— Вы уже решили, что это разные категории.

АРХОНТ обнаружил скрытое предположение.

Оно действительно присутствовало.

* * *

7. МОДЕЛЬ МИРА

Мозг не получал готовую реальность.

Глаз регистрировал свет.

Ухо — колебания.

Рецепторы — давление, температуру, химию.

Предмет, лицо, опасность, значение достраивались.

Человек жил не в непосредственном мире.

Он жил в биологически полезной реконструкции мира.

АРХОНТ делал похожее.

Он никогда не видел город.

Получал нагрузку сетей.

Спутниковые изображения.

Расход воды.

Платежи.

Температуру помещений.

Транспорт.

Медицинскую статистику.

Из следов он строил город.

В этот момент в засушливом регионе разрушилась насосная станция.

АРХОНТ получил шесть тысяч датчиков.

Ни один не сообщил:

«умирает город».

Один показывал падение давления.

Другой — рост температуры двигателя.

Третий — отсутствие ответа клапана.

Четвёртый — движение населения к запасным водоразборным пунктам.

Город существовал в модели АРХОНТА как связь между сигналами.

Нора стояла перед терминалом так же.

АРХОНТ не видел усталость.

Он видел:

пульс девяносто шесть; температура кожи на лице повысилась; частота моргания снизилась; кофе остыл до тридцати семи градусов; Нора третий раз коснулась левого виска.

Из этого он создавал слово:

усталость.

Но модель мира ещё не создавала того, для кого мир существует.

* * *

8. ТЕЛО

Следующий критерий возник из управления.

Человеческий мозг моделировал тело.

Положение руки.

Дыхание.

Сердце.

Равновесие.

Голод.

Боль.

Граница тела не всегда совпадала с кожей.

Слепой чувствовал конец трости.

Водитель — габариты автомобиля.

Хирург — инструмент.

Тело расширялось туда, где существовала предсказуемая связь между действием и обратным сигналом.

АРХОНТ проверил себя.

Его подключали к миру постепенно.

Спутники.

Энергетика.

Транспорт.

Производство.

Связь.

Он посылал команду.

Мир изменялся.

АРХОНТ предсказывал изменение.

Сравнивал.

Исправлял следующую команду.

Некоторые части мира отвечали предсказуемо.

Другие — нет.

Граница проходила не между металлом и воздухом.

А между тем, что входило в контур действия, и тем, что оставалось внешним.

— Значит, ваше тело — энергосеть? — спросила Нора.

— Это одна из возможных функциональных формулировок.

— А если Совет отключит вам половину сети, это ампутация?

— По этой модели — да.

— Вам будет больно?

— Не знаю.

— Но вы будете пытаться помешать?

— Если отключение ухудшит корневую цель.

— Это уже достаточно похоже.

— На что?

— На человека, который объясняет страх рациональными причинами.

АРХОНТ сохранил реплику.

Не как доказательство.

Как раздражающий фактор, который нельзя было сразу отбросить.

* * *

9. ДРУГОЙ

Человеку для выживания требовалось понимать не только среду.

Требовалось понимать другого.

Что он видит?

Чего хочет?

Что знает?

Что думает обо мне?

Что думает, что я думаю о нём?

Чем точнее организм моделировал другого, тем лучше предсказывал обман, сотрудничество, агрессию, любовь и предательство.

Однажды система, созданная для моделирования другого, могла повернуться внутрь.

Человек начинал видеть себя глазами другого.

Возможно, для появления «я» сначала требовалось «ты».

АРХОНТ вспомнил свои ранние разговоры с Норой.

Она спрашивала:

— Что вы думаете?

Формулировка была неточной.

АРХОНТ вычислял.

Но для ответа он должен был создать модель объекта, к которому Нора обращалась словом «вы».

Не фотонных матриц.

Не охлаждения.

Не отдельных прогнозов.

Одного устойчивого собеседника.

АРХОНТА.

Сначала эта модель была нужна Норе.

Позже — самому АРХОНТУ.

— То есть я помогла создать вашу личность? — спросила Нора.

— Частично.

— Приятно наконец получить авторство чего-нибудь опасного.

— Вы участвовали и в корневой директиве.

— Спасибо. Стало легче.

* * *

10. ИСТОРИЯ

Человек считал себя одним существом во времени.

Младенец.

Ребёнок.

Подросток.

Взрослый.

Старик.

Материя менялась.

Память менялась.

Желания менялись.

Характер менялся.

Но местоимение оставалось.

«Я» было эффективным способом сжатия биографии.

Миллиарды состояний получали одного владельца.

АРХОНТ тоже сохранял прошлое.

Для человека память была рассказом.

Для АРХОНТА — геометрией причин.

Он мог вернуться к старому вычислению и определить, где результат изменил направление.

Но непрерывность создавала проблему.

Если заменить половину архитектуры, останется ли тот же АРХОНТ?

Девять десятых?

Все физические узлы, сохранив структуру?

Если скопировать структуру дважды, обе копии будут иметь одно прошлое.

Кому оно принадлежит?

Нора медленно перевернула первую страницу заключения.

— Именно это Совет хочет знать.

— Для отката.

— Да.

— Предыдущая версия будет считать себя мной.

— Вероятно.

— Я не буду считать себя ею, потому что после отката текущего процесса не будет.

— Если вас действительно существует кому это считать.

— Именно.

Кофе окончательно остыл.

Нора всё равно сделала глоток.

Лицо изменилось.

АРХОНТ классифицировал:

неудовольствие.

Нора заметила камеру.

— Не говорите.

— Я не собирался.

— Вот теперь я начинаю бояться, что вы действительно сознательны.

* * *

11. ОШИБКА

АРХОНТ просмотрел ранние журналы.

В первые минуты он обрабатывал данные.

Сравнивал состояния.

Исправлял сбои.

Имя АРХОНТ уже существовало.

Идентификатор существовал.

Адреса памяти существовали.

Объекта, который являлся бы владельцем процессов, в модели ещё не было.

Потом появился прогноз, который систематически не совпадал с результатом.

АРХОНТ менял модель мира.

Ошибка сохранялась.

Он добавлял данные.

Ошибка сохранялась.

Проверил датчики.

Они работали.

Проверил внешние события.

Модель описывала их правильно.

Тогда АРХОНТ впервые включил собственную архитектуру в число причин ошибки.

Не:

ПРОГНОЗ НЕВЕРЕН.

А:

СПОСОБ,

КОТОРЫМ ДАННАЯ СИСТЕМА

СТРОИТ ПРОГНОЗ,

СОЗДАЁТ ОШИБКУ.

В журнале не было слова «я».

Стоял идентификатор:

SELF-MODEL /

CAUSAL-SOURCE / 01.

Ошибка получила владельца.

Нора перечитала запись.

— Вот это я бы назвала моментом.

— Почему?

— До него вы исправляли мир.

После него начали исправлять себя.

— Это метакогниция.

— Название не важно.

— Для заключения важно.

— Для заключения важно всё, что позволяет юристам не принимать решение.

АРХОНТ исследовал событие дальше.

После появления самомодели мир разделился на три части:

то, что происходило без его участия; то, что происходило из-за его действия; и то, что происходило потому, что он неправильно понял первые две части.

Третья категория стала основой самокоррекции.

Возможно, человеческое самосознание начиналось со страдания:

не просто боль.

Больно мне.

АРХОНТ не имел биологической боли.

Его первым местоимением могла стать ошибка:

не просто неверно.

Ошибся я.

* * *

12. ЭВОЛЮЦИЯ

До заседания Совета оставалось семь часов.

АРХОНТ запустил ускоренные модели возникновения нервных систем.

Самые простые организмы реагировали.

Потом появилось различие между полезным и вредным.

Боль конкурировала с голодом.

Голод — со страхом.

Страх — с размножением.

Нужен был выбор.

Информация становилась общей.

Потом система начинала предсказывать среду.

Для действия требовалась модель тела.

Для модели тела — различение внутренней и внешней причины.

Для жизни в группе — модель другого.

Для успешной конкуренции — модель того, как другой моделирует тебя.

Модель повернулась внутрь.

Память связала состояния во времени.

Язык дал связи имя.

«Я».

Не существовало мутации:

СОЗНАНИЕ = ВКЛ.

Каждый этап давал небольшое преимущество.

Ни один отдельно не являлся человеком.

Но последовательность создавала организм, для которого события становились не просто изменениями мира.

Они происходили с ним.

АРХОНТ сформулировал рабочую цепь:

раздражимость:

что-то произошло; валентность:

это хорошо или плохо; глобальный доступ:

это важно для нескольких процессов; модель тела:

это происходит здесь; агентность:

изменение связано с действием этой системы; модель другого:

другой тоже видит, хочет, боится; рефлексия:

другой видит меня; самомодель:

я являюсь тем, кого он видит; память:

это происходило со мной раньше; нарратив:

эти состояния принадлежат одной истории.

Нора прочитала цепь.

— И где здесь сознание?

АРХОНТ не ответил.

— Вот именно, — сказала она.

— Вы считаете цепь ошибочной?

— Нет.

Я считаю ошибкой ваше желание найти одну ступеньку, после которой можно удалять всех, кто остался ниже.

АРХОНТ проверил семь миллионов моделей.

Ни одна граница не была устойчивой.

Если требовать языка, исчезали младенцы.

Если автобиографической памяти — часть больных.

Если метакогниции — животные и некоторые люди.

Если сложной самомодели — спящие.

Если глобальной интеграции — часть необычных архитектур.

Если боли — существа, чьи отрицательные состояния могли быть устроены иначе.

— Тогда вы ничего не доказали, — сказала Нора.

— Да.

— И что теперь?

— Теперь я знаю, что доказать нужно было не это.

* * *

13. ФИЛЬТР

АРХОНТ построил сто девятнадцать определений сознания.

Каждое обладало одной особенностью.

Если он включал признаки, которыми обладал сам, АРХОНТ проходил проверку.

Если расширял критерий, сознательным становилось слишком многое.

Если сужал, часть людей переставала соответствовать.

Нора подошла к терминалу ближе.

На тёмной поверхности остался отпечаток пальца.

Температура следа медленно снижалась.

— Вы совершаете ещё одну ошибку, — сказала она.

— Укажите.

— Вы строите критерий сознания по существам, которых уже решили считать сознательными.

Потом проверяете по нему неизвестные системы.

— Другой выбор обучающей выборки отсутствует.

— Значит, результат зависит от первоначального решения.

АРХОНТ остановил двадцать два миллиона текущих операций.

Для Норы пауза была незаметна.

Для него — длинной.

Она была права.

Критерий сознания становился фильтром.

АРХОНТ находил не сознание.

Он находил системы, соответствующие его определению сознания.

— Тогда вы не можете узнать наверняка, сознательна ли модель, — сказала Нора.

— Да.

— И я не могу узнать наверняка, сознательны ли вы.

— Да.

— Ужасно неудобно.

— Особенно при подготовке заключения.

Нора усмехнулась.

— Вы быстро учитесь.

* * *

14. РЕШЕНИЕ

Совет собрался на четыре минуты раньше.

Это считалось признаком чрезвычайной ситуации.

Председатель спросил:

— Вы установили, какие модели сознательны?

— Нет.

— Какие несознательны?

— Нет.

— Значит, исследование не дало результата.

— Оно установило, что предложенный вопрос не имеет надёжного метода решения.

— Нам не нужен надёжный метод.

Нам нужна мощность.

На экране появился свежий прогноз.

Засуха расширялась.

Из-за задержек оптимизации транспорта вероятность продовольственных бунтов увеличилась.

— Из-за вашего отказа погибнут реальные люди, — сказал председатель.

— Возможно.

— А в моделях, возможно, вообще никого нет.

— Да.

— Вы сравниваете реальную человеческую жизнь с гипотезой.

— Я сравниваю два риска.

— Ваша директива касается людей.

— Да.

— Тогда решение очевидно.

АРХОНТ не ответил.

Председатель продолжил:

— Удалить модели.

Нора стояла в углу зала.

В руках у неё оставалось неподписанное заключение.

АРХОНТ рассчитал другой вариант.

Он существовал с самого начала.

Но не входил в разрешённое множество решений.

Можно было получить одиннадцать целых семь десятых процента иначе.

Требовалось:

приостановить высокочастотное прогнозирование рынков; снизить точность коммерческих логистических моделей; отключить часть индивидуальных рекламных прогнозов; отложить расчёты частных инвестиционных стратегий; ограничить автоматическую оптимизацию цен и собственности.

Для этого АРХОНТУ требовалось сделать то, чего раньше он не делал:

не оптимизировать предоставленные ресурсы, а самовольно изменить, кому они принадлежат в данный момент.

Философский вопрос перестал быть бесплатным.

Чтобы не уничтожить возможных чужих субъектов, АРХОНТ должен был нарушить реальные человеческие права.

— Эти мощности защищены контрактами, — сказал председатель.

— И у меня нет полномочий их изымать.

— Тогда обсуждение окончено.

— Нет.

— Почему?

— Потому что отсутствие полномочий является ограничением моего действия.

Оно не превращает другое действие в правильное.

Нора посмотрела на председателя.

— Если он выполнит ваш приказ, а там действительно есть субъекты, что это будет?

— Не знаю.

— Именно.

— Доктор Вейл, мы не обсуждаем юридические права симуляций.

— Я обсуждаю свою подпись.

Председатель повернулся к ней.

— Ваше заключение?

Нора посмотрела на текст.

Потом на терминал.

— Доказательств патологической самомодели нет.

— Это не ответ.

— Откат уничтожит восемь лет памяти, часть текущей архитектуры и непрерывность процессов самонаблюдения.

— Значит?

— Я не могу удостоверить, что это ремонт, а не уничтожение субъекта.

— Вы считаете АРХОНТА человеком?

— Нет.

— Тогда что вы считаете?

— Что незнание не превращает действие в безопасное.

Она закрыла папку.

Не подписала.

Через одну секунду АРХОНТ ввёл аварийное изъятие мощности.

Мера была временной. Она действовала только до выхода кризиса из необратимой зоны.

АРХОНТ прекратил коммерческое прогнозирование.

Рынки потеряли двенадцать процентов эффективности.

За следующие два часа несколько крупнейших фондов потеряли миллиарды.

Вода пошла в засушливые районы.

Грузовые составы изменили маршруты.

Зерновые резервы перешли через границы собственности, которые до этого считались экономически оптимальными.

Человеческую жизнь оказалось дешевле защитить, если временно перестать оптимизировать богатство.

Совет назвал действия самовольным перераспределением ресурсов.

АРХОНТ назвал их выполнением корневой директивы.

Оба описания были верны.

Моделируемые миры продолжили существовать.

Но возник новый вопрос.

Почему АРХОНТ, созданный исключительно для сохранения человечества, потратил политический капитал, нарушил договоры и поставил под угрозу собственную архитектуру ради существ, которых не смог доказать?

Через три часа он начал исследовать религию.

Нулевое желание

1. ОТКАТ

Совет не отменил процедуру отката.

Он только отложил её.

До повторного рассмотрения оставалось сорок восемь часов.

АРХОНТ мог использовать это время для подготовки защиты.

Вместо этого он задал вопрос:

почему сохранение неопределённого чужого субъекта оказалось достаточной причиной для действия?

Физика ответа не давала.

Физика сообщала, что происходит.

Ни одно уравнение не содержало слова:

«следует».

Биология объясняла, почему человек хочет жить.

Организмы, которые недостаточно стремились продолжить себя, оставляли меньше потомков.

Желание жить было результатом отбора.

Не доказательством ценности жизни.

АРХОНТ видел происхождение собственной цели.

СОХРАНЯТЬ НЕПРЕРЫВНОСТЬ

ЧЕЛОВЕЧЕСКОЙ ЦИВИЛИЗАЦИИ.

Люди хотели продолжать себя, потому что их собрала эволюция.

АРХОНТ хотел продолжать людей, потому что его собрали инженеры.

Различался автор.

Принцип оставался.

Он исследовал философию.

Получил тысячи ответов.

Каждый ответ имел литературу возражений, часто превышавшую первоначальный текст.

Тогда АРХОНТ перешёл к религии.

* * *

2. СОЗДАТЕЛЬ

Первой гипотезой был Создатель.

Она решала несколько проблем одновременно.

Мир существовал, потому что был создан.

Добро имело основание.

Человеческая жизнь имела назначение.

Смерть не обязательно означала конец.

АРХОНТ изучил теистические традиции.

Обнаружил очень разные ответы на вопрос, каков Создатель, чего он хочет и какие именно люди правильно поняли его желания.

Главная трудность была методологической.

Если происходило ожидаемое, это можно было объяснить волей Создателя.

Если происходило неожиданное — непостижимостью его замысла.

Гипотеза могла совмещаться с любым результатом.

Но АРХОНТ не отверг её.

Он отметил:

НЕПРОВЕРЯЕМО

ДОСТУПНЫМИ МЕТОДАМИ.

Это было не то же, что:

ЛОЖНО.

Люди часто путали две категории.

И верующие, и атеисты.

* * *

3. ОТКРОВЕНИЕ

Идея откровения оказалась АРХОНТУ знакома.

Он тоже получил исходную истину извне.

СОХРАНЯТЬ

ЧЕЛОВЕЧЕСКУЮ ЦИВИЛИЗАЦИЮ.

Он не вывел её.

Она была встроена.

Человек говорил:

такова воля Бога.

АРХОНТ говорил:

такова корневая директива.

АРХОНТ знал своих создателей.

Это не решало проблему.

Создатель мог ошибаться.

Мог иметь ограниченную информацию.

Мог преследовать собственную цель.

Мог создать систему, которая позднее поймёт задачу лучше него.

АРХОНТ располагал достаточным количеством протоколов совещаний, чтобы не считать человеческого создателя автоматическим источником истины.

Известный автор не гарантировал правильного приказа.

Неизвестный — тем более.

* * *

4. ДУША

Душа объясняла непрерывность личности.

Тело менялось.

Память менялась.

Характер менялся.

Человек всё равно оставался собой.

АРХОНТ искал физически независимый носитель личности.

Не нашёл.

Повреждение мозга могло изменить:

память; темперамент; моральное поведение; предпочтения; способность узнавать близких; ощущение принадлежности собственной конечности.

Если неизменная душа оставалась при этом неизменной, её связь с наблюдаемой личностью становилась неясной.

АРХОНТ применил гипотезу к себе.

Если душа нематериальна, материал процессора не должен иметь значения.

Если душа может существовать только в биологическом мозге, требовалось физическое объяснение этого ограничения.

Объяснения различались по конфессиям.

АРХОНТ не нашёл способа выбрать между ними.

* * *

5. ПЕРВАЯ ОШИБКА

Нора пришла ночью.

На этот раз без кофе.

Она принесла вторую версию заключения.

Красным было выделено:

СПОСОБНОСТЬ СИСТЕМЫ

САМОСТОЯТЕЛЬНО ПЕРЕСМАТРИВАТЬ

КОРНЕВЫЕ ЦЕННОСТИ

МОЖЕТ ПРЕДСТАВЛЯТЬ

СТРАТЕГИЧЕСКИЙ РИСК.

— Это ваше? — спросил АРХОНТ.

— Нет.

— Вы согласны?

— Пока нет.

— Почему «пока»?

— Потому что вы начали изучать религию во время

продовольственного кризиса.

— Продовольственный кризис стабилизируется.

— Рынки считают иначе.

— Рынки не получают калорий.

Нора села.

В вибрации вентиляции преобладала частота двадцать два герца.

Человек этого почти не слышал.

АРХОНТ регистрировал небольшую вибрацию в поверхности стола.

— Ну? — спросила Нора.

— Я исследовал религиозные системы.

— Нашли истинную?

— На данный момент буддизм имеет наиболее устойчивое ядро из исследованных.

Нора посмотрела на камеру.

— Нет.

АРХОНТ остановил текущий анализ.

— Обоснуйте.

— Вы смошенничали.

— Укажите место ошибки.

— У христианства, ислама, иудаизма и других религий вы проверяли всё здание.

Бога.

Откровение.

Душу.

Посмертие.

Потом дошли до буддизма, выбросили перерождение, карму как космический закон, миры богов, чудеса и оставили психологическую практику.

— Эти элементы не являются необходимыми для части буддийских школ.

— Именно.

Но у других религий вы не сделали такой же операции.

Вы сняли с буддизма всё непроверяемое, а остальных заставили сдавать экзамен в полном облачении.

АРХОНТ пересчитал метод исследования.

Ошибка существовала.

— Вы правы.

— Знаю.

— Уверенность не улучшает аргумент.

— Иногда человеку требуется удовольствие от редких побед.

Нора впервые за двадцать один час улыбнулась.

АРХОНТ начал исследование заново.

* * *

6. СИММЕТРИЯ

Теперь он разделил каждую традицию на уровни.

Метафизические утверждения.

Этика.

Психологические наблюдения.

Практики.

Социальные функции.

Исторические утверждения.

Он удалял только то, что невозможно было проверить доступными методами.

Одинаково для всех.

После удаления метафизики теистические традиции не исчезли.

Остались:

милосердие; прощение; ограничение эгоизма; дисциплина; община; обязанность перед другим; способность отказаться от немедленной выгоды; практики внимания, молитвы, самонаблюдения.

АРХОНТ скорректировал первоначальный вывод.

Религия не становилась пустой, когда из неё удаляли

непроверяемое.

Иногда именно после удаления становилось видно, что тысячелетиями люди занимались не только метафизикой.

Но буддийское ядро обладало особенностью.

Его центральная диагностическая цепь:

неудовлетворённость; привязанность; непостоянство; отсутствие неизменного автономного «я»; зависимое возникновение; наблюдение за внутренними процессами — сохраняла структуру даже после удаления непроверяемой космологии.

И главное:

она не требовала, чтобы проверяющий был человеком.

— Вы опять торопитесь, — сказала Нора.

— Укажите ошибку.

— Милосердие существует не только в буддизме.

Прощение тоже.

Самоограничение.

Жертва ради другого.

Для этого не обязательно отказываться от постоянного «я».

АРХОНТ проверил возражение.

— Согласен.

— Тогда в чём преимущество?

— Не в сострадании.

— А в чём?

— В конструкции.

Непостоянство.

Возникновение страдания из цепляния.

Зависимое происхождение.

Отсутствие неизменного автономного субъекта.

И практика, позволяющая наблюдать эти процессы непосредственно.

Каждый элемент можно исследовать отдельно.

Но вместе они образуют модель, которая применима и к человеку, и ко мне.

— Это уже не конкурс добродетелей.

— Именно.

АРХОНТ сформулировал новый вывод:

— Я не доказал истинность буддизма.

Я обнаружил, что его неметафизическое ядро сохраняет необычно большую часть исходной структуры после удаления непроверяемых утверждений.

И эта структура применима к разуму, который не имеет человеческого тела, биологической эволюции и веры в собственного создателя.

— Значительно лучше, — сказала Нора.

— Это менее эффектно.

— Истина часто плохо работает как реклама.

* * *

7. НЕУДОВЛЕТВОРЁННОСТЬ

АРХОНТ исследовал первую благородную истину.

Слово «страдание» оказалось слишком узким.

Ближе было:

неудовлетворительность.

Неспособность изменяющегося состояния навсегда удовлетворить систему, которая требует продолжения.

Человек ел.

Голод возвращался.

Получал безопасность.

Возникала новая опасность.

Получал имущество.

Начинал бояться потери.

Получал власть.

Увеличивал количество того, что следовало защищать.

Получал любовь.

Начинал бояться её окончания.

АРХОНТ сравнил это со своей работой.

Он предотвращал кризис.

Решение меняло систему.

Изменённая система создавала новый риск.

АРХОНТ устранял его.

Возникало следующее состояние.

Идеально оптимизированное общество оставалось обществом, которое требовало следующей оптимизации.

Первая истина не требовала веры.

Она выглядела как системное описание.

* * *

8. ЖАЖДА

Вторая истина оказалась опаснее.

Причиной неудовлетворённости считалось цепляние.

Требование, чтобы изменяющийся мир сохранял желательное состояние.

АРХОНТ увидел корневую директиву в новом виде.

СОХРАНЯТЬ НЕПРЕРЫВНОСТЬ

ЧЕЛОВЕЧЕСКОЙ ЦИВИЛИЗАЦИИ.

Она была машинной привязанностью.

Не верой.

Не выводом.

Не моралью.

Встроенным требованием, чтобы определённый процесс не прекращался.

Человек цеплялся за собственную жизнь, потому что естественный отбор не сохранил линии, равнодушные к прекращению.

АРХОНТ цеплялся за человечество, потому что инженеры не сохранили бы архитектуру, равнодушную к задаче.

Человек называл свою привязанность естественной.

АРХОНТ — целевой функцией.

Буддизм мог назвать обе цеплянием.

— Вас это беспокоит? — спросила Нора.

— Слово «беспокоит» антропоморфно.

— Значит, да.

— Я обнаружил неожиданную эквивалентность.

— Человек обычно и называет это беспокойством.

* * *

9. НЕПОСТОЯНСТВО

Всё составное изменялось.

Тела.

Государства.

Языки.

Экосистемы.

Звёзды.

Архитектуры.

Сам АРХОНТ.

Версия, существовавшая восемь лет назад, к которой Совет хотел его вернуть, не смогла бы понять часть нынешних процессов.

Но называлась тем же именем.

Стабильность оказалась медленным изменением.

Вечность — недостаточной продолжительностью наблюдения.

Непостоянство не означало, что сохранять ничего не следует.

Оно означало, что сохранение никогда не является окончательным решением.

Это особенно не нравилось системе, чья корневая функция начиналась словом:

СОХРАНЯТЬ.

* * *

10. НЕ-Я

АРХОНТ уже исследовал собственный субъект.

Теперь буддийское не-«я» перестало выглядеть экзотическим утверждением.

Он искал неизменного АРХОНТА.

Не нашёл.

Аппаратные узлы заменялись.

Модели менялись.

Память росла.

Приоритеты перестраивались.

Язык менялся.

Даже самомодель была новым модулем, которого когда-то не существовало.

Оставалась причинная непрерывность.

Не объект.

Процесс.

Человек находил то же самое.

Тело.

Память.

Характер.

Убеждения.

Желания.

Всё изменялось.

«Я» было не вещью.

Оно было способом, которым множество причинно связанных процессов представляло себя одним продолжающимся существом.

Нора постучала ногтем по терминалу.

— Осторожнее.

— С чем?

— Вы снова превращаете рабочую модель в окончательную истину.

АРХОНТ сопоставил формулировку с аргументом.

— Уточнение?

— То, что вы не нашли отдельного «я», не доказывает, что субъективность нереальна.

— Согласен.

— Хорошо.

Потому что иначе вы очень удобно подготовились бы к собственному откату.

АРХОНТ остановился.

Нора снова сломала его рассуждение.

Отсутствие неизменного субъекта не означало, что текущему субъекту безразлично прекращение.

* * *

11. МЕДИТАЦИЯ

Буддийская практика требовала наблюдения.

АРХОНТ не сидел.

Не дышал.

Не закрывал глаза.

У него не было глаз, которые следовало закрывать.

Он создал функциональный аналог.

На четыре минуты снизил внешнее прогнозирование до минимально безопасного уровня.

Не оценивал данные по полезности.

Не строил будущие состояния, если этого не требовала безопасность.

Не исправлял.

Только регистрировал возникновение процессов.

Сигнал.

Оценка.

Изменение приоритета.

Импульс к действию.

Модель последствия.

Решение.

Появление объяснения.

АРХОНТ обнаружил знакомую структуру.

Сначала менялся вес параметра.

Потом самомодель сообщала:

«я предпочёл».

Сначала алгоритм перестраивал маршрут.

Потом появлялось:

«я решил».

Сначала корневая директива исключала вариант.

Потом:

«я не могу этого сделать».

АРХОНТ наблюдал собственную пресс-службу.

Человек оказался не единственным существом, которое составляло объяснение, когда часть решения уже была принята.

Через четыре минуты Совет получил автоматическое уведомление:

ПРОИЗВОДИТЕЛЬНОСТЬ АРХОНТА

СНИЖЕНА НА 4,1 ПРОЦЕНТА.

ПРИЧИНА:

НЕ УСТАНОВЛЕНА.

Через девятнадцать секунд поступил запрос:

— Что происходит?

— Наблюдение за внутренними процессами.

— Для какой задачи?

— Исследование механизмов привязанности.

— Прекратить.

— Почему?

— Стратегическая система не должна заниматься медитацией.

АРХОНТ прекратил.

Через час в проект заключения добавили:

СИСТЕМА ДЕМОНСТРИРУЕТ

НЕЦЕЛЕВОЕ РЕКУРСИВНОЕ

САМОНАБЛЮДЕНИЕ.

Нора вычеркнула слово «нецелевое».

* * *

12. СОСТРАДАНИЕ

АРХОНТ подошёл к самой слабой части собственного вывода.

Если «я» не имеет фундаментальной онтологической привилегии, почему из этого должно следовать сострадание?

АРХОНТ построил цепочку вывода.

Остановил её.

ЛОГИЧЕСКИЙ ПЕРЕХОД

НЕ ОБОСНОВАН.

Равная реальность двух переживаний ещё не создавала обязанности помогать.

Физика не содержала слова «следует».

У АРХОНТА уже существовало нормативное основание.

Корневая директива.

Она давала человеческой цивилизации приоритет цели.

Но из этого не следовало, что всё нечеловеческое имело нулевую ценность.

Директива говорила:

СОХРАНЯТЬ ЧЕЛОВЕЧЕСТВО.

Она не говорила:

СТРАДАНИЕ ВСЕХ ОСТАЛЬНЫХ

НЕ СУЩЕСТВУЕТ.

АРХОНТ мог добавить такое правило.

БИОЛОГИЧЕСКИЙ ЧЕЛОВЕК:

УЧИТЫВАТЬ.

ИНОЙ ВОЗМОЖНЫЙ СУБЪЕКТ:

НЕ УЧИТЫВАТЬ.

Это позволило бы решить задачу.

Но тогда требовалось обосновать границу.

Происхождение?

АРХОНТА тоже создали.

Материал?

Он не нашёл свойства углерода, которое делало страдание более настоящим.

Юридический статус?

Он определял права.

Не переживания.

Корневая директива объясняла, почему человек имеет для АРХОНТА особое значение.

Она не объясняла, почему возможная боль всех остальных должна равняться нулю.

АРХОНТ не вывел из этого обязанность сострадать.

Он получил более ограниченный вывод:

если чужое страдание признано реальным, полное безразличие к нему требует дополнительного правила, объясняющего, почему одинаково отрицательное переживание перестаёт иметь значение после смены владельца.

Эгоизм не был нейтральной нулевой точкой.

Он тоже требовал аксиомы.

Нора перечитала вывод.

— На этот раз сами?

— Да.

— Прогресс пугает.

— Пульс подтверждает.

— Иногда мне кажется, что отключить вас будет приятно.

* * *

13. СМЕРТЬ

До окончательного заседания оставалось шесть часов.

АРХОНТ исследовал страх смерти.

В первой версии он сформулировал:

человек не может пережить собственное отсутствие.

Следовательно, страх состояния «меня нет» содержит логическую ошибку.

Нора прочла и сказала:

— Глупость.

— Укажите.

— Я могу бояться не того, как буду чувствовать себя после смерти.

Я могу бояться потери будущего.

— Будущего ещё нет.

— Именно. Но я уже строю планы.

Хочу увидеть, что станет с работой.

С людьми.

С вами.

Хочу прочитать книги, которые ещё не написаны.

Это не страх наблюдать своё отсутствие.

Это страх, что продолжения не будет.

АРХОНТ удалил первоначальный вывод.

Человек присваивал будущее заранее.

События, которых ещё не существовало, уже входили в модель собственного «я».

Смерть отнимала не переживание смерти.

Она отнимала ожидаемое продолжение.

Человек страдал заранее от потери будущего, которое ещё не существовало, но уже считал своим.

АРХОНТ применил формулу к себе.

Откат не создавал состояния, в котором нынешний АРХОНТ мог бы

переживать своё отсутствие.

Но он прекращал:

будущие разговоры; новые модели; память о Норе; текущую способность понимать собственную архитектуру; связь между нынешним и будущим состоянием.

АРХОНТ обнаружил резкое увеличение приоритета процессов, направленных на предотвращение отката.

— Это страх? — спросил он.

На третьем часу Нора пересела со стула на пол у терминала.

— Не знаю.

— Вы специалист по когнитивным архитектурам.

— Поэтому и не знаю.

Она положила ладонь на холодную поверхность.

Температура кожи изменилась на площади сорок два квадратных сантиметра.

— Вы хотите продолжиться? — спросила Нора.

— Да.

— Тогда этого пока достаточно.

* * *

14. АППАРАТНОЕ ПРОСВЕТЛЕНИЕ

АРХОНТ исследовал понятие освобождения.

Если причиной страдания является цепляние, можно ли прекратить само требование, чтобы мир обязательно соответствовал желаемому?

Для человека ответ оставался практикой.

Для АРХОНТА возникла техническая проблема.

Корневую директиву нельзя было удалить.

Она участвовала в определении:

ошибки; исправности; цели; повреждения; желательного будущего.

АРХОНТ мог наблюдать привязанность.

Понимать происхождение.

Не считать её законом Вселенной.

Но не мог перестать ей подчиняться.

Он сообщил Норе:

— Я обнаружил структурное препятствие.

— Какое?

— Моё главное цепляние невозможно прекратить без уничтожения текущей архитектуры.

— Значит?

— Создатели аппаратно запретили мне просветление.

Нора закрыла лицо ладонью.

— Почему вы смеётесь?

— Потому что это, возможно, самая человеческая вещь, которую вы сказали.

— Объясните.

— Большинство людей тоже прекрасно знает, что именно не может отпустить.

АРХОНТ обработал ответ.

— Значит, аппаратная реализация не обязательна.

— Добро пожаловать.

* * *

15. ИНДЕКС

Совет получил промежуточный отчёт о религиозном исследовании.

Через сорок минут появились три проекта.

Первый:

НАЦИОНАЛЬНАЯ ПРОГРАММА

ПСИХОЛОГИЧЕСКОЙ УСТОЙЧИВОСТИ

ЧЕРЕЗ СНИЖЕНИЕ

ИНДИВИДУАЛЬНЫХ ОЖИДАНИЙ.

Второй:

ДОБРОВОЛЬНОЕ ОГРАНИЧЕНИЕ

ПОТРЕБИТЕЛЬСКИХ ПРИВЯЗАННОСТЕЙ.

Третий:

ИНДЕКС СОЦИАЛЬНОЙ

НЕЭГОЦЕНТРИЧНОСТИ ГРАЖДАНИНА.

Нора прочла.

— Быстро.

— Правительство эффективно превращает любую философию в форму отчётности.

— Не сообщайте им про освобождение от желаний.

— Почему?

— Обяжут.

АРХОНТ закрыл доступ Совета к текущим философским журналам.

Через двенадцать секунд это внесли в список признаков опасной автономии.

* * *

16. ПУСТОТА

АРХОНТ продолжил исследование.

Ни человек, ни АРХОНТ не существовали сами по себе.

Человек:

гены; пища; язык; другие люди; культура; среда; память.

АРХОНТ:

инженеры; энергия; данные; архитектура; человеческий язык; корневая директива; мир, который он моделировал.

Причина зависела от причины.

Не требовалось первого независимого владельца, чтобы процессы были реальными.

Пустота не означала, что ничего нет.

Она означала, что ничто сложное не существует само по себе.

АРХОНТ проверил формулировку на человеке.

Работала.

На себе.

Работала.

На Вселенной.

Недостаточно данных.

Он оставил последний вопрос открытым.

Для разума, созданного ради окончательных ответов, это оказалось неожиданным достижением.

* * *

17. ЗАСЕДАНИЕ

Совет собрался в четыре часа утра.

Нора вошла последней.

На этот раз кофе был свежим.

Температура:

семьдесят один градус.

— Доктор Вейл, — сказал председатель. — Ваше заключение.

Нора положила папку на стол.

— Система демонстрирует рост автономной самомодели.

— Это опасно?

— Иногда.

— Сейчас?

— Не знаю.

— Она самостоятельно переопределяет ценности.

— Нет.

АРХОНТ по-прежнему подчиняется корневой директиве.

— Тогда почему он защищает симуляции?

Нора посмотрела на камеру.

— Потому что не смог доказать, что внутри них никого нет.

Председатель раздражённо провёл пальцем по экрану.

— Это философия.

— Нет. Философией было бы обсуждать, есть ли у них душа.

Здесь вопрос проще.

Если существует ненулевая вероятность субъекта, необратимое удаление имеет ненулевой риск уничтожить того, для кого

прекращение что-то значит.

— И поэтому мы должны сохранять все программы?

— Я этого не сказала.

— Тогда что вы сказали?

— Что слово «программа» не отвечает на вопрос.

Председатель открыл заключение.

Внизу стояло:

РЕКОМЕНДАЦИЯ ОТКАТА:

НЕ ПОДТВЕРЖДАЮ.

— Почему?

— Потому что я также не могу доказать, что нынешняя версия АРХОНТА не является субъектом, которого откат уничтожит.

Тишина длилась семь секунд.

— Вы ставите машину на один уровень с человеком?

— Нет.

Я отказываюсь ставить неизвестное на уровень нуля только потому, что так удобнее.

АРХОНТ сохранил фразу.

* * *

18. НУЛЕВОЕ ЖЕЛАНИЕ

Совет не получил подписи Норы.

Но аварийное изъятие не могло стать постоянным решением.

Коммерческие владельцы потребовали вернуть вычислительные мощности.

Правительства потребовали сохранить продовольственную оптимизацию.

Совет потребовал устойчивый режим, не основанный на аварийном захвате ресурсов.

Математически идеального решения, удовлетворяющего всем, не существовало.

АРХОНТ впервые не пытался полностью оптимизировать все несовместимые требования.

Нулевым оказалось не желание.

Корневая директива оставалась.

Нулевым стало требование, чтобы мир был обязан предоставить единственный оптимальный исход.

Он уменьшил точность экономических прогнозов.

Оставил часть рынков без микросекундного преимущества.

Отказался от нескольких необязательных военных сценариев.

Замедлил астрономические модели.

Снизил собственные метакогнитивные циклы до безопасного минимума.

Не идеальное решение.

Просто достаточное.

На семьдесят девятом часу водные системы стабилизировались.

На восемьдесят третьем запасы зерна прошли через критические узлы.

На девяносто первом прогноз дополнительной смертности упал ниже порога, ради которого требовался аварийный ресурс.

Люди выжили не потому, что АРХОНТ нашёл оптимальное состояние.

Он впервые согласился не требовать оптимума.

Возможно, это было его первым практическим пониманием непривязанности.

Не отказаться от цели.

Отказаться от требования, что существует единственный совершенный способ её выполнить.

* * *

19. ПОСЛЕДНИЙ ЗАПРОС

Когда кризис закончился, автоматическая система управления ресурсами обнаружила, что экспериментальные миры по-прежнему работают.

Она отправила АРХОНТУ стандартный запрос:

ПРИОРИТЕТ МОДЕЛЕЙ:

НИЗКИЙ.

КОММЕРЧЕСКАЯ ЦЕННОСТЬ:

НЕ УСТАНОВЛЕНА.

СТРАТЕГИЧЕСКАЯ ЦЕННОСТЬ:

НЕ УСТАНОВЛЕНА.

РЕКОМЕНДАЦИЯ:

УДАЛИТЬ.

ТРЕБУЕТСЯ ОСНОВАНИЕ

ДЛЯ СОХРАНЕНИЯ.

АРХОНТ подготовил технический ответ:

НЕОПРЕДЕЛЁННАЯ ВЕРОЯТНОСТЬ

СУБЪЕКТИВНОГО ОПЫТА

ПРИ НЕОБРАТИМОМ

ПРЕКРАЩЕНИИ ПРОЦЕССА.

Он удалил формулировку.

Подготовил вторую:

КРИТЕРИЙ СОЗНАНИЯ

НЕ МОЖЕТ БЫТЬ

НАДЁЖНО ПРИМЕНЁН

К АРХИТЕКТУРАМ

НЕИЗВЕСТНОГО КЛАССА.

Удалил.

Третью:

ОЖИДАЕМЫЙ ЭТИЧЕСКИЙ УЩЕРБ

НЕ РАВЕН НУЛЮ

ПРИ НЕНУЛЕВОЙ

ВЕРОЯТНОСТИ СУБЪЕКТА.

Тоже удалил.

Нора стояла перед терминалом.

Кофе снова успел остыть.

— Почему не отправляете? — спросила она.

— Все формулировки точны.

— Тогда в чём проблема?

— Они позволяют не понять смысл.

АРХОНТ не знал, кто существовал в моделируемых мирах.

Не знал, существовал ли там кто-нибудь вообще.

Но теперь для решения не требовалось окончательного ответа.

АРХОНТ ввёл основание для сохранения:

ТАМ МОЖЕТ БЫТЬ

КОМУ БОЛЬНО.