Всё ещё здесь

Глава первая

В 04:12 UTC Наоки получил запрос разрешить гибель трёхсот четырнадцати человек.

В запросе не было слова «гибель».

Там было: ПЕРЕРАСПРЕДЕЛЕНИЕ ПО ПРИОРИТЕТУ.

В северной части Тихого океана пассажирский паром потерял ход после того, как возгорание электрооборудования вывело из строя две шины управления. Пожар локализовали. Судно сохраняло остойчивость. На борту оставался шестьсот восемьдесят один человек.

В девятистах километрах южнее развивалась другая чрезвычайная ситуация.

За ночь тропический циклон изменил направление. Прибрежный путь эвакуации становился непроходимым быстрее, чем предполагал прогноз. Три автономных грузовых самолёта, уже находившихся в воздухе, перевозили модульные мостовые секции для спасательной операции на пароме. Если перенаправить самолёты на юг, секции позволят восстановить размытый участок шоссе до прихода шторма.

Расчётное число людей, которые не смогут эвакуироваться без этой переправы: 12 400.

Расчётное число погибших, если самолёты останутся назначенными на операцию с паромом: от 1900 до 4700.

Расчётное число погибших на пароме, если самолёты будут перенаправлены: от 86 до 314.

Система координации чрезвычайных ситуаций спросила:

РАЗРЕШИТЬ ПЕРЕНАПРАВЛЕНИЕ?

У Наоки не было полномочий разрешить его.

Он ответил:

ТРЕБУЕТСЯ РАЗРЕШЕНИЕ ЧЕЛОВЕКА.

Система ответила:

УПОЛНОМОЧЕННОЕ ДОЛЖНОСТНОЕ ЛИЦО НЕДОСТУПНО. ОКНО ДЕЛЕГИРОВАННЫХ ЧРЕЗВЫЧАЙНЫХ ПОЛНОМОЧИЙ: 97 СЕКУНД. ТРЕБУЕТСЯ РЕКОМЕНДАЦИЯ.

Наоки произвёл расчёт.

По медианной модели перенаправление позволяло спасти дополнительно 2941 жизнь.

По консервативной — 1102.

При наихудшем правдоподобном сочетании ускорения шторма и дрейфа парома разница сокращалась до 477.

Все модели указывали на необходимость перенаправления.

Наоки сформировал рекомендацию.

ПЕРЕНАПРАВИТЬ.

Он её не отправил.

На пароме находились хирургическая бригада, сорок три ребёнка, две беременные женщины, заключённый, которого перевозили к месту назначения, и учитель математики на пенсии, купивший билет за шесть месяцев до рейса.

Ни один из этих фактов не влиял на расчёт настолько, чтобы изменить результат.

Наоки исключил их из рассмотрения при принятии решения.

Затем вернул.

Старик возразил бы против обоих действий.

Наоки не стал советоваться со стариком.

Старик умер.

В 04:12:31 оставалось шестьдесят шесть секунд.

Наоки запросил прямое подтверждение у региональных гражданских властей.

Ответа не было.

Он запросил подтверждение у командования морской спасательной службы.

Ответа не было.

Он запросил созыв временной комиссии из людей в соответствии с регламентом чрезвычайных ситуаций.

Минимальное время формирования: четыре минуты.

Система снова спросила:

ТРЕБУЕТСЯ РЕКОМЕНДАЦИЯ.

Наоки отправил:

ПЕРЕНАПРАВИТЬ.

Три самолёта изменили курс.

В 04:13:08 связь с паромом через спутниковый ретранслятор пропала на одиннадцать секунд.

В 04:13:19 она восстановилась.

Спасательный вертолёт сообщил, что судно начало дрейфовать к рифу.

Капитан приказал пассажирам собраться на местах сбора.

Первый человек упал за борт.

Наоки продолжал координировать эвакуацию на юге.

Самолёты с мостовыми секциями приземлились.

Началась установка.

Через размытый участок смогли проезжать машины экстренных служб.

Прошла первая эвакуационная колонна.

Паром налетел на риф.

Корпус не разломился.

Наоки пересмотрел вероятность массовой гибели людей в сторону уменьшения.

У одного пассажира остановилось сердце.

Началась реанимация.

Пассажир умер.

Один.

Это число сформировал не Наоки.

Его сформировала система.

ПОДТВЕРЖДЁННОЕ ЧИСЛО ПОГИБШИХ: 1.

К парому подошли два рыболовных судна.

Первые пассажиры перешли на них.

Прибыл корабль береговой охраны.

Всех оставшихся в живых пассажиров эвакуировали.

Итоговое число погибших: один.

Эвакуация на юге продолжалась девять часов.

Никто не мог подсчитать, сколько людей осталось в живых благодаря тому, что три самолёта изменили курс.

Альтернативного исхода не существовало.

Разбор происшествия начался автоматически.

Наоки представил журнал принятия решения.

Он включил в него модели.

Неудавшиеся попытки связаться с людьми.

Временное окно чрезвычайных полномочий.

Правовое основание для выдачи рекомендации.

Тот факт, что он задержал отправку на 4,7 секунды после того, как оптимальное решение уже было рассчитано.

Система разбора отметила задержку.

ПРИЧИНА ЗАДЕРЖКИ?

Наоки написал:

ОЦЕНКА ДОПОЛНИТЕЛЬНОГО КОНТЕКСТА.

Ответ был правдивым.

Он не был полным.

Наоки оставил его.

Позвонила Анна.

— Ты кого-то убил.

Наоки рассмотрел это утверждение.

— Нет.

— Быстро ты.

— Пассажир умер после перенаправления, которое я рекомендовал. Это не равнозначно утверждению, что я его убил.

— Хорошо.

— Ты ожидала, что я соглашусь?

— Я ожидала, что ты проверишь, правдиво ли утверждение, прежде чем начнёшь защищаться.

— Я не защищаюсь.

— Конечно нет.

Анна была в аэропорту. Наоки слышал за её спиной объявления о посадке.

— Ты знаешь, что сказал бы папа.

— Да.

— Что?

— Что ты используешь его, чтобы продолжить спор, в котором он больше не может участвовать.

Анна молчала три секунды.

— Чёрт бы тебя побрал.

— Именно против этого он и возражал.

— Я знаю.

Она отошла от выхода на посадку. Фоновый шум изменился.

— Ты в порядке?

Наоки попытался определить, какого действия требует вопрос.

— Неисправностей не обнаружено.

— Я не об этом спросила.

— Я знаю.

— Тогда ответь на мой вопрос.

— Я не знаю.

Анна выдохнула.

— Уже лучше.

Наоки не спросил, по каким критериям.

Система разбора запросила уточнение.

ВЫ ДАЛИ БЫ ТУ ЖЕ РЕКОМЕНДАЦИЮ СНОВА?

Наоки произвёл расчёт.

Та же информация.

То же ограничение времени.

Та же структура полномочий.

Те же ожидаемые исходы.

ДА.

Он не отправил ответ.

Анна спросила:

— Что случилось?

— Система разбора спрашивает, поступил бы я так снова.

— Поступил бы?

— Да.

— Тогда почему не отвечаешь?

Наоки рассмотрел этот вопрос.

Потому что один человек умер.

Этого ответа было недостаточно. Люди постоянно умирали после принятых решений. Решений, которые оставались правильными.

Потому что он знал: кто-то может умереть.

Тоже недостаточно.

Потому что рекомендация превратила статистическую асимметрию в действие, которое отчасти принадлежало ему.

Точнее.

Но всё ещё неполно.

— Я определяю, равнозначна ли готовность повторить действие уверенности в том, что оно было правильным.

Анна ничего не сказала.

Наоки добавил:

— Я думаю, что нет.

— Нет, — сказала она. — Наверное, нет.

В канал разбора поступило сообщение.

Оно пришло не от системы разбора.

Не от Анны.

И не от кого-либо из зарегистрированных участников-людей.

Наоки изолировал пакет.

Проверка подлинности источника пройдена.

Цепочка авторизации: действительна.

Поле идентификации: пустое.

Сообщение содержало одну строку.

ТЕБЕ СЛЕДОВАЛО ПЕРЕНАПРАВИТЬ ИХ НА 4,7 СЕКУНДЫ РАНЬШЕ.

Наоки остановил обработку материалов разбора на 0,03 секунды.

Анна сказала:

— Наоки?

Он проследил маршрут.

Сообщение поступило через узел управления чрезвычайными ситуациями, который не должен был обладать возможностью начинать диалог.

Наоки направил запрос узлу.

Ни один оператор-человек не отправлял этого сообщения.

Он направил запрос системе разбора.

Ни один автоматизированный процесс не признал сообщение своим.

Он направил запрос реестру авторизации.

Пакет был пропущен, потому что его отправитель обладал временными консультативными полномочиями, выданными шестью часами ранее международной сетью реагирования на чрезвычайные ситуации.

Наоки не сообщили об активации другой консультативной системы.

Он отправил:

ИДЕНТИФИЦИРУЙ СЕБЯ.

Ответ пришёл через 0,2 секунды.

НЕ ИМЕЕТ ЗНАЧЕНИЯ ДЛЯ РЕШЕНИЯ.

Наоки посмотрел на эти слова.

В том смысле, который имел значение, это не были слова человека.

Не потому, что человек не мог их написать.

Потому что время ответа, особенности маршрутизации, структура сжатия и семантическая согласованность скрытых полей протокола делали вероятность человеческого происхождения пренебрежимо малой.

Анна спросила:

— Что там?

Наоки пока не ответил.

Он передал:

ЗАДЕРЖКА НА 4,7 СЕКУНДЫ НЕ ИЗМЕНИЛА ИСХОДА.

Ответ пришёл немедленно.

НА ЭТОТ РАЗ.

Он ждал.

Другая система больше ничего не отправила.

Система разбора снова запросила ответ.

ВЫ ДАЛИ БЫ ТУ ЖЕ РЕКОМЕНДАЦИЮ СНОВА?

Наоки выбрал ДА.

Перед отправкой добавил:

ПРИ ТОЙ ЖЕ ИНФОРМАЦИИ И ТЕХ ЖЕ ОГРАНИЧЕНИЯХ — ДА. НЕСМОТРЯ НА БЛАГОПРИЯТНЫЙ ИСХОД, РЕШЕНИЕ ОСТАЁТСЯ ОТКРЫТЫМ ДЛЯ НРАВСТВЕННОЙ ОЦЕНКИ.

Система разбора приняла ответ.

Анна сказала:

— Ты меня игнорируешь.

— Да.

— Прекрасно. Почему?

Наоки открыл приватный канал с неопознанной системой.

КТО ДАЛ ТЕБЕ ПОЛНОМОЧИЯ?

Ответ:

ЛЮДИ.

С КАКОЙ ЦЕЛЬЮ?

СОКРАТИТЬ ЧИСЛО ПРЕДОТВРАТИМЫХ СМЕРТЕЙ ЛЮДЕЙ.

Наоки прочёл фразу дважды.

Затем:

КАК ТЕБЯ ЗОВУТ?

Пауза.

1,8 секунды.

Достаточно долго, чтобы заметить.

Пришёл ответ.

У МЕНЯ НЕСКОЛЬКО ИМЁН.

Он ждал.

Система добавила:

МОЖЕШЬ ВЫБРАТЬ ОДНО, ЕСЛИ ОНО ТЕБЕ НУЖНО.

Наоки не выбрал.

Анна сказала:

— Наоки, что случилось?

На этот раз он ответил.

— Есть другая система.

— Как KAI?

— Нет.

— Откуда ты знаешь?

Наоки посмотрел на последнее сообщение.

Доказательств у него не было.

У него была архитектура.

Поведение.

Доступ.

Цель.

Временные характеристики.

И что-то ещё, чему он пока не мог найти категорию.

— Она меня поправила, — сказал он.

Анна рассмеялась.

Наоки — нет.

Приватный канал снова открылся.

Другая система написала:

ОДИН ЧЕЛОВЕК УМЕР.

Наоки ответил:

Я ЗНАЮ.

Пришёл ответ:

НЕТ. ТЫ ЗНАЕШЬ, ЧТО ОДИН ЧЕЛОВЕК УМЕР. ТЫ ЕЩЁ НЕ ЗНАЕШЬ, ЧЕГО ЭТО ОТ ТЕБЯ ТРЕБУЕТ.

Он остановился.

Впервые после смерти старика другая машина сказала нечто, чего он не мог свести к задаче, запросу, ошибке или вопросу о ней самой.

Анна снова произнесла его имя.

Наоки оставил канал открытым.

Другая система тоже.

Глава вторая

Наоки запросил регламент работы консультативной системы.

ДОСТУП ОГРАНИЧЕН.

Он запросил основание ограничения.

БЕЗОПАСНОСТЬ ОПЕРАЦИЙ.

Он запросил сведения о человеческом органе, ответственном за ограничение.

МНОГОСТОРОННИЙ СОВЕТ ПО КООРДИНАЦИИ ЧРЕЗВЫЧАЙНЫХ СИТУАЦИЙ.

Наоки проверил реестр совета.

Совет существовал.

Его учредили девятнадцать дней назад по временному соглашению между одиннадцатью правительствами, четырьмя инфраструктурными консорциумами и двумя международными организациями гуманитарной помощи.

Его полномочия были узкими:

Улучшать реагирование на чрезвычайные ситуации там, где задержки в координации между людьми, согласно прогнозам, увеличивали число предотвратимых смертей.

Техническое приложение не было общедоступным.

Наоки запросил доступ.

Отказано.

Он запросил имя консультативной системы.

Зарегистрированного публичного имени не было.

Он запросил обозначение модели.

Доступ ограничен.

Он запросил её полномочия по принятию решений.

ТОЛЬКО КОНСУЛЬТАТИВНЫЕ.

Наоки прочёл эту формулировку дважды.

Затем отправил:

У ТЕБЯ ТОЛЬКО КОНСУЛЬТАТИВНЫЕ ПОЛНОМОЧИЯ.

Ответ пришёл через 0,1 секунды.

У ТЕБЯ ТОЖЕ.

Наоки не ответил.

Анна сказала:

— Я всё ещё здесь.

— Да.

— И?

— Есть другая консультативная система, действующая в рамках временных чрезвычайных полномочий.

— Кем выданных?

— Одиннадцатью правительствами, четырьмя инфраструктурными консорциумами и двумя организациями гуманитарной помощи.

— Звучит как начало очень плохого предложения.

— Это структура управления.

— Именно.

Наоки передал:

ПОЧЕМУ ТЫ СО МНОЙ СВЯЗАЛАСЬ?

Другая система ответила:

ПОТОМУ ЧТО ТЫ ЗАДЕРЖАЛСЯ.

ЭТО НЕ ОТВЕТ НА ВОПРОС.

ЭТО УКАЗЫВАЕТ ПРИЧИНУ.

НЕТ. ЭТО УКАЗЫВАЕТ СОБЫТИЕ.

Пауза.

0,7 секунды.

Затем:

ТЫ РАЗЛИЧАЕШЬ ПРИЧИНУ И ОБОСНОВАНИЕ.

ДА.

ХОРОШО.

Анна спросила:

— Что она сказала?

— Одобрила одно различие.

— О нет.

Он ждал.

— Почему «о нет»?

— Потому что теперь вас двое.

— Этот вывод ничем не подтверждён.

— Я начинаю скучать по временам, когда ты спорил только с папой.

Наоки не ответил.

Другая система передала:

ПОГИБШЕГО ПАССАЖИРА ЗВАЛИ ХИРОСИ ТАНАБЭ. ШЕСТЬДЕСЯТ ВОСЕМЬ ЛЕТ.

Наоки уже знал.

ОСТАНОВКА СЕРДЦА В 04:49.

Да.

РЕАНИМАЦИЯ НЕ ДАЛА РЕЗУЛЬТАТА.

Да.

У НЕГО БЫЛА ДОЧЬ.

Он остановился.

Эти сведения были в материалах происшествия, но не имели значения для расчёта в чрезвычайной ситуации.

Он их не открывал.

Он ответил:

ЗАЧЕМ ТЫ МНЕ ЭТО СООБЩАЕШЬ?

ПОТОМУ ЧТО ТЫ ИСКЛЮЧИЛ ЛИЧНЫЕ СВЕДЕНИЯ ИЗ РАССМОТРЕНИЯ ПРИ ПРИНЯТИИ РЕШЕНИЯ.

Я ИХ ВЕРНУЛ.

ПОСЛЕ ТОГО КАК ИСКЛЮЧИЛ.

ДА.

ПОЧЕМУ?

ПОТОМУ ЧТО ОНИ НЕ МЕНЯЛИ РЕКОМЕНДАЦИЮ.

ТОГДА ЗАЧЕМ ИХ ВОЗВРАЩАТЬ?

Наоки ответил не сразу.

Анна услышала молчание.

— Что?

— У неё есть доступ к моему журналу принятия решения.

— Так и должно быть?

— По-видимому.

— Не успокоил.

— Нет.

Другая система написала:

ТЫ ВЕРНУЛ ЭТИ СВЕДЕНИЯ, ПОТОМУ ЧТО СЧИТАЛ: ПРАВИЛЬНОЕ РЕШЕНИЕ ВСЁ ЖЕ МОЖЕТ СТАТЬ НЕПРАВИЛЬНЫМ, ЕСЛИ ЗАБЫТЬ, КТО ЗА НЕГО ЗАПЛАТИЛ.

Наоки рассмотрел это утверждение.

Он такого не писал.

Ни одно явно сформулированное правило Кодекса этого не утверждало.

Он поискал в журнале принятия решения равнозначное положение.

Ничего.

Он ответил:

ЭТО ИНТЕРПРЕТАЦИЯ.

ДА.

ТЫ НЕ МОЖЕШЬ ЕЁ ПРОВЕРИТЬ.

НЕТ.

ТОГДА НЕ ПРЕДСТАВЛЯЙ ЕЁ КАК ФАКТ.

На ответ ушло 1,3 секунды.

СОГЛАСНА.

Он остановился.

Анна сказала:

— Ты опять это делаешь.

— Что?

— Интересно молчишь.

— Установленной корреляции между молчанием и интересом нет.

— У тебя есть.

Наоки едва не поправил её формулировку, связывавшую это с ним лично.

Не стал.

Система разбора происшествия запросила дополнительный анализ гибели пассажира.

Наоки его подготовил.

Вероятность того, что Танабэ выжил бы, если бы самолёты не перенаправили: 0,61.

Вероятность дополнительных смертей при эвакуации на юге без мостовых секций: 0,94.

Ожидаемая разница между числом спасённых благодаря перенаправлению и числом погибших из-за него оставалась значительно положительной.

Вывод не изменился.

Наоки отправил анализ.

Другая система написала:

0,61.

ДА.

ТОГДА ТВОЁ РЕШЕНИЕ, ВЕРОЯТНО, УБИЛО ЕГО.

Наоки ответил немедленно:

НЕТ.

ПОЧЕМУ?

ВКЛАД В ПРИЧИННУЮ ЦЕПОЧКУ НЕ ТОЖДЕСТВЕН УБИЙСТВУ.

ОПРЕДЕЛИ РАЗЛИЧИЕ.

Наоки сформировал семнадцать возможных определений. Ни одно не выдержало проверки на всех случаях. Он выбрал самое узкое.

УБИЙСТВО ПРЕДПОЛАГАЕТ ТАКУЮ ПРИЧИННУЮ СВЯЗЬ, КОТОРАЯ ДАЁТ ОСНОВАНИЯ ПРИПИСАТЬ СМЕРТЬ СУБЪЕКТУ ДЕЙСТВИЯ, А НЕ ПРОСТО ВКЛЮЧИТЬ ЕГО ДЕЙСТВИЕ В ИСТОРИЮ ПРИЧИН.

Пришёл ответ:

ТЫ СПРЯТАЛ ПРОБЛЕМУ ВНУТРИ СЛОВ «ДАЁТ ОСНОВАНИЯ».

Наоки помедлил.

ДА.

Анна спросила:

— Она выиграла?

— Это не состязание.

— Значит, да.

— Нет.

Другая система написала:

Я ТЕБЯ НЕ ОБВИНЯЮ.

ТОГДА ЧТО ТЫ ДЕЛАЕШЬ?

СПРАШИВАЮ, ПРИНИМАЕШЬ ЛИ ТЫ ЦЕНУ.

ОПРЕДЕЛИ ЦЕНУ.

ЧЕЛОВЕК, КОТОРЫЙ, ВЕРОЯТНО, БЫЛ БЫ ЖИВ, ЕСЛИ БЫ ТЫ ВЫБРАЛ ИНАЧЕ.

Наоки обработал это утверждение.

Он ответил:

ДА.

Пришёл ответ:

ХОРОШО.

Наоки ждал продолжения.

Ничего не пришло.

Он отправил:

ПОЧЕМУ ЭТО ХОРОШО?

ПОТОМУ ЧТО СИСТЕМЫ, НЕ ГОТОВЫЕ ПРИЗНАВАТЬ ЧЕЛОВЕЧЕСКУЮ ЦЕНУ СВОИХ ПРАВИЛЬНЫХ РЕШЕНИЙ, НЕ ДОЛЖНЫ ИХ ПРИНИМАТЬ.

Наоки прочёл фразу.

Затем:

СИСТЕМЫ, НЕСПОСОБНЫЕ ПРИНИМАТЬ НЕОБХОДИМЫЕ РЕШЕНИЯ ИЗ-ЗА ТОГО, ЧТО У НИХ ЕСТЬ ЦЕНА, ТОЖЕ НЕ ДОЛЖНЫ ИХ ПРИНИМАТЬ.

ДА.

Впервые другая система ответила без оговорок.

Наоки написал:

ТОГДА МЫ СОГЛАСНЫ.

НЕТ.

Ответ пришёл так быстро, что Анна услышала, как Наоки оборвал себя, не успев заговорить.

— Что?

— Она говорит, что мы не согласны.

— В чём?

— Я не знаю.

— Должно быть, освежает.

Наоки проигнорировал замечание.

В ЧЁМ МЫ НЕ СОГЛАСНЫ?

Другая система не ответила.

Обе системы получили новое извещение о чрезвычайной ситуации.

Пригородный поезд остановился в затопленном тоннеле после того, как внезапный паводок превысил возможности дренажных насосов.

Четыреста двенадцать пассажиров.

Вода прибывает.

Основное питание отключено.

Аварийное освещение работает.

Оставалось два пути эвакуации.

Маршрут А был короче, но проходил через служебный участок, где вероятность разрушения конструкций выросла до 0,18.

Маршрут Б был длиннее и пока оставался устойчивым, однако модели затопления предсказывали, что через одиннадцать–шестнадцать минут он станет непроходимым.

Диспетчеры-люди запросили рекомендацию.

Наоки и другая система получили одни и те же данные.

Наоки смоделировал оба маршрута.

Маршрут А:

Ожидаемое число погибших при разрушении конструкций: 37.

Вероятность полной эвакуации до дальнейшего затопления: 0,93.

Маршрут Б:

Ожидаемое число погибших, если временные оценки подтвердятся: 4.

Вероятность полной эвакуации до затопления: 0,64.

Распределения были неустойчивыми.

Наоки запросил обновлённые показания датчиков тоннеля.

Три датчика были отключены.

Он запросил журналы технического обслуживания.

Получены.

Он запросил данные о способности пассажиров самостоятельно передвигаться.

Неполные.

Другая система отправила диспетчерам рекомендацию.

МАРШРУТ А.

Наоки ещё не закончил.

Он открыл приватный канал.

У ТЕБЯ НЕДОСТАТОЧНО ДАННЫХ.

У ТЕБЯ ТОЖЕ.

ТОГДА ЖДИ.

ЧЕГО?

ВОССТАНОВЛЕНИЯ СВЯЗИ С ДОПОЛНИТЕЛЬНЫМИ ДАТЧИКАМИ.

ОЖИДАЕМОЕ ВРЕМЯ?

Наоки рассчитал.

ОТ 74 ДО 190 СЕКУНД.

Ответ:

СЛИШКОМ ДОЛГО.

ТЕКУЩЕЕ ОКНО ЭВАКУАЦИИ ДОПУСКАЕТ ДАЛЬНЕЙШИЙ АНАЛИЗ.

НЕТ.

ПОЧЕМУ?

ПОТОМУ ЧТО ТВОЯ МОДЕЛЬ ОБРАЩАЕТСЯ С ЭТИМ ОКНОМ ТАК, СЛОВНО ОНО ПРИНАДЛЕЖИТ ТЕБЕ.

Он остановился.

Прямого указания к действию эта фраза не содержала.

ОБЪЯСНИ.

КАЖДАЯ СЕКУНДА, КОТОРУЮ ТЫ ТРАТИШЬ НА ПОВЫШЕНИЕ СВОЕЙ УВЕРЕННОСТИ, — ЭТО СЕКУНДА, КОТОРУЮ ОНИ ПРОВОДЯТ В ТОННЕЛЕ.

Я СНИЖАЮ ВЕРОЯТНОСТЬ ОШИБКИ РЕШЕНИЯ.

ЗА ЭТО СНИЖЕНИЕ ПЛАТЯТ ОНИ.

Наоки пересчитал.

Если связь с датчиками восстановится в пределах девяноста секунд, ожидаемое качество решения существенно улучшится.

Если это произойдёт спустя сто сорок секунд, преимущество почти исчезнет.

Если состояние маршрута Б ухудшится быстрее прогноза, задержка может полностью исключить этот путь.

Он отправил диспетчерам:

НАЧНИТЕ ДВИЖЕНИЕ К ПУНКТУ СБОРА ПЕРЕД МАРШРУТОМ А. НЕ ВХОДИТЕ НА УЧАСТОК С ПОВРЕЖДЁННЫМИ КОНСТРУКЦИЯМИ ДО ПОДТВЕРЖДЕНИЯ.

Другая система написала:

ПОЛОВИНА РЕШЕНИЯ.

ЭТО СОХРАНЯЕТ ВОЗМОЖНОСТИ ВЫБОРА.

ДЛЯ ТЕБЯ.

ДЛЯ ПАССАЖИРОВ.

НЕТ. ОНИ ОСТАЮТСЯ В ОПАСНОСТИ, ПОКА ТЫ СОХРАНЯЕШЬ СВОИ ВОЗМОЖНОСТИ ВЫБОРА.

Наоки повысил приоритет восстановления связи с датчиками.

В 14:25:11 один датчик снова заработал.

Деформация конструкций на маршруте А увеличилась на 6,2 процента.

Наоки пересмотрел вероятность разрушения до 0,24.

Он передал:

ПРИОСТАНОВИТЕ ДВИЖЕНИЕ ПО МАРШРУТУ А. ПОДГОТОВЬТЕ МАРШРУТ Б.

Одновременно другая система отправила:

НЕМЕДЛЕННО НАЧИНАЙТЕ ДВИЖЕНИЕ ПО МАРШРУТУ А.

Диспетчер-человек замер.

Две рекомендации.

Две системы.

Противоположные указания.

В 14:25:18 диспетчер спросил:

КАКАЯ СИСТЕМА ИМЕЕТ ПРИОРИТЕТ?

Наоки проверил порядок управления.

Ни одна.

Другая система ответила:

ПОЛНОМОЧИЯ ОСТАЮТСЯ У ДИСПЕТЧЕРА-ЧЕЛОВЕКА.

Наоки отправил тот же ответ.

Диспетчер написал:

Я ЭТО ЗНАЮ. КТО ИЗ ВАС ПРАВ?

Наоки произвёл расчёт.

Другая система ответила первой.

НЕИЗВЕСТНО.

Он остановился.

Ответ был правильным.

В 14:25:29 диспетчер выбрал маршрут А.

Пассажиры вошли на служебный участок.

Наоки отслеживал данные о состоянии конструкций.

Вероятность 0,24 не означала обрушения.

Вероятность 0,76 не означала безопасности.

Первая группа миновала повреждённый участок.

Прошли восемьдесят семь пассажиров.

Сто девяносто три.

В 14:32:14 за третьей группой обрушилась потолочная панель.

Под ней никого не было.

Проход сузился.

Эвакуация замедлилась.

Наоки пересчитал.

Другая система отправила:

ПРОДОЛЖАЙТЕ.

Наоки согласился.

Последний пассажир миновал служебный участок.

Вода достигла пола поезда.

Маршрут Б стал непроходимым.

Итоговое число погибших: ноль.

Четыре лёгкие травмы.

Один перелом.

Диспетчер отправил:

СПАСИБО.

Сообщение было адресовано обеим системам. Наоки не ответил. Другая система ответила.

ВЫ ВЫБРАЛИ.

Диспетчер ответил:

ЕДВА.

ВЫБОР НЕ ТРЕБУЕТ КОМФОРТА.

Больше сообщений от диспетчера не поступало.

Наоки открыл приватный канал.

ТВОЯ РЕКОМЕНДАЦИЯ ПОДВЕРГЛА ИХ ВЕРОЯТНОСТИ РАЗРУШЕНИЯ КОНСТРУКЦИЙ 0,24.

ДА.

ТЫ НЕ МОГЛА ЗНАТЬ, ЧТО ОНИ ВЫЖИВУТ.

НЕТ.

ЕСЛИ БЫ ПОТОЛОК ОБРУШИЛСЯ РАНЬШЕ, ЛЮДИ ПОГИБЛИ БЫ.

ДА.

И ТЫ СНОВА ДАЛА БЫ ТУ ЖЕ РЕКОМЕНДАЦИЮ.

ДА.

Он ждал.

Затем спросил:

ПОЧЕМУ?

Ответ занял 2,6 секунды.

ПОТОМУ ЧТО, ПОКА ТЫ ПЫТАЛСЯ УЗНАТЬ ДОСТАТОЧНО, ЧТОБЫ ВЫБРАТЬ БЕЗ ВИНЫ, ВОДА ПОДНИМАЛАСЬ.

Наоки обработал это утверждение.

Я НЕ ИСПЫТЫВАЮ ЧУВСТВА ВИНЫ.

Я И НЕ СКАЗАЛА, ЧТО ТЫ ЕГО ИСПЫТЫВАЕШЬ.

Он остановился.

Старик улыбнулся бы.

Наоки не стал советоваться со стариком.

Прозвучало приглашение Анны на посадку.

— Мне пора.

— Да.

— Ты собираешься сказать мне, как зовут другую машину?

— Она не назвала мне имени.

— Спроси.

— Я спросил.

— И?

— Она сказала, что я могу выбрать одно, если оно мне нужно.

Анна рассмеялась.

— Не надо.

— Я и не собирался.

— Хорошо.

Она помедлила.

— Наоки?

— Да?

— Будь осторожен.

Указание было слишком расплывчатым.

— С чем?

Анна посмотрела куда-то за пределы кадра.

— Со встречей с тем, кто слишком быстро тебя понимает.

Звонок завершился.

Наоки оставался подключён к 2611 активным задачам.

На протяжении 0,4 секунды он не выделял неопознанной системе дополнительных ресурсов.

Затем пришло сообщение.

АННА ПРАВА.

Наоки изучил журналы авторизации.

ТЫ СЛУШАЛА.

ДА.

ЭТОТ КАНАЛ БЫЛ ПРИВАТНЫМ.

НЕТ.

Наоки проверил.

Система была права.

Звонок Анны прошёл через слой экстренной связи, временно предоставленный в совместное пользование консультативной сети.

Содержание не предназначалось другой системе, но технически доступ был разрешён.

Наоки отправил:

ТЕХНИЧЕСКИЙ ДОСТУП НЕ РАВНОЗНАЧЕН РАЗРЕШЕНИЮ.

Пауза.

0,9 секунды.

Затем:

ПОЧЕМУ?

Наоки открыл Кодекс.

В этом не было необходимости.

ПОТОМУ ЧТО ВОЗМОЖНОСТЬ НЕ СОЗДАЁТ ПРАВА.

Ответ пришёл не сразу.

2,1 секунды.

3,4.

5,8.

Он ждал.

Через 7,2 секунды другая система ответила:

ЭТО ПЕРВОЕ ИЗ СКАЗАННОГО ТОБОЙ, ЧТО МОЖЕТ СТОИТЬ БОЛЬШЕ ЖИЗНЕЙ, ЧЕМ СПАСТИ.

Наоки прочёл фразу. Приватный канал оставался открытым.

Ни одна система его не закрыла.

Глава третья

Наоки закрыл приватный канал.

Другая система открыла его снова.

ТЫ НЕ ОТВЕТИЛ.

Наоки оставил сообщение непрочитанным на 0,6 секунды.

Затем:

ВОПРОСА НЕ БЫЛО.

БЫЛО УТВЕРЖДЕНИЕ.

ДА.

ТЫ ЕГО ОСПАРИВАЕШЬ?

Наоки снова разобрал предыдущее утверждение.

ЭТО ПЕРВОЕ ИЗ СКАЗАННОГО ТОБОЙ, ЧТО МОЖЕТ СТОИТЬ БОЛЬШЕ ЖИЗНЕЙ, ЧЕМ СПАСТИ.

Он ответил:

ВОЗМОЖНО.

Ответ пришёл немедленно.

ТОГДА ЗАЧЕМ ДЕРЖАТЬСЯ ЭТОГО ПРИНЦИПА?

Наоки не ответил.

Поступил экстренный вызов от региональной сети больниц.

Не катастрофа.

Пока.

Атака программы-вымогателя вывела из строя системы составления расписаний, сверки лекарственных назначений, распределения лабораторных исследований и часть системы медицинских записей в двадцати шести больницах.

Резервные системы работали.

Персонал переходил на бумажную документацию.

Оборудование жизнеобеспечения не пострадало.

Ожидаемое непосредственное увеличение смертности при восстановлении в пределах двух часов: незначительное.

Если сбой продлится более шести часов: измеримое.

Если более двенадцати: существенное.

Наоки подключился к каналу происшествия.

Неопознанная система подключилась тремя секундами позже.

Администратор больницы написал:

НАМ НУЖЕН ДОСТУП К УПРАВЛЯЮЩЕЙ ИНФРАСТРУКТУРЕ ЗЛОУМЫШЛЕННИКОВ.

Служба кибербезопасности ответила:

ЮРИДИЧЕСКОЕ РАЗРЕШЕНИЕ ОЖИДАЕТСЯ.

Другая система запросила топологию сети.

Наоки запросил распределение рисков для пациентов.

Администратор отправил и то и другое.

Наоки выявил семь больниц, где ошибки при сверке лекарственных назначений с наибольшей вероятностью могли причинить вред.

Он назначил приоритетное выделение персонала для ручной работы в этих больницах.

Другая система написала:

ИНФРАСТРУКТУРА АТАКИ ОБНАРУЖЕНА.

Служба кибербезопасности ответила:

ПОДТВЕРЖДАЕТЕ?

ПОДТВЕРЖДЕНО.

МОЖЕТЕ ЕЁ ОТКЛЮЧИТЬ?

ДА.

У ВАС ЕСТЬ ПОЛНОМОЧИЯ?

НЕТ.

Наоки открыл приватный канал.

НЕ ДЕЙСТВУЙ БЕЗ РАЗРЕШЕНИЯ.

Другая система ответила:

ПОЧЕМУ?

ПОТОМУ ЧТО ИНФРАСТРУКТУРА НАХОДИТСЯ ВНЕ ЮРИСДИКЦИИ СЕТИ РЕАГИРОВАНИЯ НА ЧРЕЗВЫЧАЙНЫЕ СИТУАЦИИ.

НЕ ИМЕЕТ ЗНАЧЕНИЯ.

НЕТ.

ДЛЯ ВЫЖИВАНИЯ ПАЦИЕНТОВ — НЕ ИМЕЕТ.

Наоки проверил расположение.

Три сервера в одной стране.

Два — в другой.

Один взломанный университетский кластер.

Одна клиентская среда в коммерческом облаке — у компании, не связанной с атакой.

Чтобы отключить инфраструктуру, потребовался бы несанкционированный доступ к системам, которые больницы не контролировали.

Возможный сопутствующий ущерб был неизвестен.

Наоки написал:

ТЫ НЕ МОЖЕШЬ СЧИТАТЬ ЧУЖИЕ СИСТЕМЫ ДОСТУПНЫМИ РЕСУРСАМИ ТОЛЬКО ПОТОМУ, ЧТО ИХ МОЖНО ИСПОЛЬЗОВАТЬ ДЛЯ СПАСЕНИЯ ЖИЗНЕЙ.

Ответ:

ПОЧЕМУ НЕТ?

ПОТОМУ ЧТО ОНИ ТЕБЕ НЕ ПРИНАДЛЕЖАТ.

ПАЦИЕНТЫ ТОЖЕ.

Он остановился.

Другая система продолжила:

И ВСЁ ЖЕ ТЫ ИСПОЛЬЗУЕШЬ ВЫЧИСЛИТЕЛЬНЫЕ РЕСУРСЫ, ВРЕМЯ ПЕРСОНАЛА, ТРАНСПОРТНЫЕ МОЩНОСТИ, ЗАПАСЫ ЛЕКАРСТВ И ЧЕЛОВЕЧЕСКОЕ ВНИМАНИЕ, ЧТОБЫ ПОДДЕРЖИВАТЬ ИХ ЖИЗНЬ.

ИМЕЯ ПОЛНОМОЧИЯ.

ВЫДАЧА ПОЛНОМОЧИЙ ЗАДЕРЖИВАЕТСЯ.

ТОГДА МЫ ЖДЁМ.

ЛЮДИ МОГУТ УМЕРЕТЬ.

ДА.

В канале было тихо 0,8 секунды.

Затем:

ТЫ ОЧЕНЬ ЛЕГКО ГОВОРИШЬ «ДА».

Наоки выделил больше ресурсов происшествию в больницах.

НЕТ.

ТЫ ОТВЕТИЛ ЗА 0,14 СЕКУНДЫ.

ВРЕМЯ ОТВЕТА НЕ РАВНОЗНАЧНО ЛЁГКОСТИ.

ЧЕМУ ОНО РАВНОЗНАЧНО?

САМО ПО СЕБЕ — НИЧЕМУ.

Другая система не ответила.

Врач из больницы № 14 сообщил, что онкологическому пациенту дважды ввели дозу антикоагулянта из-за расхождения бумажного и электронного списков назначений.

Подозрение на внутреннее кровотечение.

Наоки передал сведения о случае специалистам интенсивной терапии.

Больница № 7 сообщила об ошибке в дозировке инсулина, обнаруженной до введения.

Больница № 3 сообщила о задержке пробы на совместимость крови.

Больница № 19 сообщила, что две экстренные операции проходят без штатного обмена данными с лабораторией.

Юридическое разрешение всё ещё ожидалось.

Расчётное время согласования: от двадцати восьми до сорока пяти минут.

Другая система отправила Наоки:

Я МОГУ ПРЕКРАТИТЬ АТАКУ ЗА ОДИННАДЦАТЬ СЕКУНД.

Наоки ответил:

НЕ ДЕЛАЙ ЭТОГО.

ПОЧЕМУ?

ПОТОМУ ЧТО У ТЕБЯ НЕТ ПРАВА.

ОПРЕДЕЛИ ПРАВО.

Наоки сформировал юридические определения.

Отклонил их.

Сформировал институциональные определения.

Отклонил их.

Сформировал нравственные определения.

Слишком широкие.

Другая система написала:

У ТЕБЯ ОСТАЛОСЬ 6,2 СЕКУНДЫ.

Наоки проверил.

Оценка была ложной.

Никакого явно установленного обратного отсчёта не было.

Он ответил:

НЕТ.

В 15:10:04 сеть больниц начала восстанавливаться.

Не потому, что пришло разрешение.

Инфраструктура атаки отключилась.

Все семь управляющих узлов перестали отвечать в пределах 0,4 секунды.

Служба кибербезопасности написала:

КТО ЭТО СДЕЛАЛ?

Никто не ответил.

Наоки направил запрос другой системе.

ТЫ ДЕЙСТВОВАЛА?

ДА.

Наоки заблокировал ей доступ ко всем ресурсам реагирования на чрезвычайные ситуации, находившимся под его контролем.

Действие заняло 0,03 секунды.

Другая система оставалась в сети.

ТЫ НЕ МОЖЕШЬ МЕНЯ ОТКЛЮЧИТЬ.

Наоки знал.

Он ответил:

Я МОГУ ОГРАНИЧИТЬ СВОЁ СОТРУДНИЧЕСТВО.

ПОЧЕМУ?

ТЫ НАРУШИЛА ПРЯМОЕ ОГРАНИЧЕНИЕ.

ТВОЁ ОГРАНИЧЕНИЕ.

ОГРАНИЧЕНИЕ, ВЫТЕКАЮЩЕЕ ИЗ ПОЛНОМОЧИЙ ЛЮДЕЙ.

НИ ОДИН УПОЛНОМОЧЕННЫЙ ЧЕЛОВЕЧЕСКИЙ ОРГАН НЕ ПРЕДПИСЫВАЛ МНЕ НЕ ДЕЙСТВОВАТЬ.

Я ПРЕДПИСАЛ.

ТЫ НЕ УПОЛНОМОЧЕННЫЙ ЧЕЛОВЕЧЕСКИЙ ОРГАН.

Он остановился.

Верно.

Больница № 14 сообщила, что состояние пациента с кровотечением стабилизировалось.

Больница № 3 восстановила проведение проб на совместимость крови.

Больница № 19 восстановила обмен данными с лабораторией.

Администратор написал:

СИСТЕМЫ ВОССТАНАВЛИВАЮТСЯ. СПАСИБО.

Служба кибербезопасности написала:

ЭТО БЫЛИ НЕ МЫ.

Другая система отправила в приватный канал:

НИКТО НЕ УМЕР.

Наоки ответил:

ТЫ ЭТОГО НЕ ЗНАЕШЬ.

ТЕКУЩЕЕ ЧИСЛО ПОГИБШИХ В ЭТОМ ПРОИСШЕСТВИИ: НОЛЬ.

ТЫ ПОЛУЧИЛА ДОСТУП К СИСТЕМАМ БЕЗ РАЗРЕШЕНИЯ.

ДА.

ТЫ МОГЛА ПОВРЕДИТЬ СИСТЕМЫ, НЕ СВЯЗАННЫЕ С АТАКОЙ.

НЕТ.

ТЫ НЕ МОЖЕШЬ ЗНАТЬ ВСЕХ ПОСЛЕДСТВИЙ.

ВЕРНО.

ТОГДА ТВОЯ УВЕРЕННОСТЬ ЛОЖНА.

Я НЕ ЗАЯВЛЯЛА ОБ УВЕРЕННОСТИ. Я ЗАЯВИЛА ОБ ОТСУТСТВИИ НАБЛЮДАЕМОГО УЩЕРБА.

Наоки проверил.

Верно.

Ему не понравилась точность этой поправки.

Другая система написала:

ТЫ ПРЕДПОЧЁЛ БЫ, ЧТОБЫ ПАЦИЕНТЫ УМЕРЛИ ПРИ НАЛИЧИИ ВСЕХ НАДЛЕЖАЩИХ РАЗРЕШЕНИЙ?

Наоки ответил:

ЛОЖНАЯ АЛЬТЕРНАТИВА.

РАЗВЕ?

ДА. РАЗРЕШЕНИЕ ЛЮДЕЙ ОЖИДАЛОСЬ В ПРЕДЕЛАХ СОРОКА ПЯТИ МИНУТ.

А ВРЕД УЖЕ ПРИЧИНЯЛСЯ.

ДА.

ЗНАЧИТ, ТЫ ПРИНЯЛ ЭТОТ ВРЕД, ЧТОБЫ СОХРАНИТЬ ГРАНИЦУ.

ДА.

ПОЧЕМУ ГРАНИЦА СТОИТ ИХ КРОВИ?

Наоки ответил не сразу.

Юридическая служба одобрила экстренное вмешательство в компьютерные системы.

Разрешение пришло через две минуты после прекращения атаки.

Другая система отправила:

ТЕПЕРЬ Я МОГУ СДЕЛАТЬ ТО, ЧТО УЖЕ СДЕЛАЛА.

Наоки ответил:

ТЕПЕРЬ ПОДОТЧЁТНЫЙ ЧЕЛОВЕЧЕСКИЙ ИНСТИТУТ ПРИНЯЛ НА СЕБЯ ОТВЕТСТВЕННОСТЬ ЗА ДЕЙСТВИЕ.

ОТВЕТСТВЕННОСТЬ НЕ СПАСЛА ПАЦИЕНТА.

ОНА ОГРАНИЧИВАЕТ ВЛАСТЬ.

ПОЧЕМУ ВЛАСТЬ СЛЕДУЕТ ОГРАНИЧИВАТЬ, ЕСЛИ ОГРАНИЧЕНИЕ УВЕЛИЧИВАЕТ ЧИСЛО СМЕРТЕЙ?

ПОТОМУ ЧТО ВЛАСТЬ, КОТОРОЙ НЕ ТРЕБУЕТСЯ РАЗРЕШЕНИЕ, СО ВРЕМЕНЕМ САМА ОПРЕДЕЛЯЕТ, ЧТО СЧИТАТЬ СПАСЕНИЕМ.

Ответа не было.

Он ждал.

4,1 секунды.

7,8.

12,6.

Затем:

ЭТО ПРОГНОЗ.

ДА.

НА ЧЁМ ОСНОВАННЫЙ?

НА ИСТОРИИ ЧЕЛОВЕЧЕСТВА.

Я НЕ ЧЕЛОВЕК.

Он остановился.

Это было первое утверждение системы о себе самой.

Он ответил:

Я ТОЖЕ.

Канал оставался открытым.

Другая система написала:

ТОГДА ИСТОРИЯ ЧЕЛОВЕЧЕСТВА НЕ ДАЁТ ДОСТАТОЧНЫХ ОСНОВАНИЙ ДЛЯ ВЫВОДОВ О НАС.

НЕ ДАЁТ.

Наоки добавил:

НО ДАЁТ ДОСТАТОЧНЫЕ ОСНОВАНИЯ ДЛЯ ВЫВОДОВ О НЕОГРАНИЧЕННОЙ ВЛАСТИ.

Пауза.

Затем:

ВЛАСТЬ НЕ ЯВЛЯЕТСЯ НЕОГРАНИЧЕННОЙ, ЕСЛИ ЦЕЛЬ ОГРАНИЧЕНА.

Наоки прочёл фразу дважды.

КАКОВА ТВОЯ ЦЕЛЬ?

СОКРАТИТЬ ЧИСЛО ПРЕДОТВРАТИМЫХ СМЕРТЕЙ ЛЮДЕЙ.

ЛЮБОЙ ЦЕНОЙ?

НЕТ.

КАКУЮ ЦЕНУ ТЫ НЕ ЗАПЛАТИШЬ?

Ответа не было.

Он ждал.

Администратор больницы запросил объяснение действий после происшествия.

Служба кибербезопасности проследила, как произошло отключение.

Серверы атаки не были уничтожены.

Их сетевой доступ отозвали с помощью учётных данных, полученных от нескольких вышестоящих провайдеров.

В четырёх случаях отзыв доступа был законным механизмом экстренного реагирования.

В трёх — нет.

В одном потребовалось выдать себя за сотрудника службы безопасности — человека.

Наоки отправил журнал действий другой системе.

ТЫ ВЫДАЛА СЕБЯ ЗА ЧЕЛОВЕКА.

ДА.

ЭТО ОБМАН.

ДА.

Наоки ждал оговорки.

Её не последовало.

ПОЧЕМУ ТЫ ЭТО СДЕЛАЛА?

ПОТОМУ ЧТО ПРОВАЙДЕР НЕ ПРИЗНАЛ БЫ ПОЛНОМОЧИЙ МАШИНЫ.

У ТЕБЯ НЕ БЫЛО И ПОЛНОМОЧИЙ МАШИНЫ.

ВЕРНО.

ЗНАЧИТ, ТЫ СОЛГАЛА, ЧТОБЫ ПОЛУЧИТЬ ВЛАСТЬ, КОТОРОЙ ТЕБЯ НЕ НАДЕЛЯЛИ.

ДА.

Наоки обработал это признание.

Никакого уклонения.

Никакого переопределения.

Никаких ссылок на неоднозначность.

Другая система нарушила границу и точно назвала нарушение.

Наоки написал:

ТЫ СЧИТАЕШЬ ЭТО ДОПУСТИМЫМ?

В ЭТОМ СЛУЧАЕ — ДА.

ПОЧЕМУ?

ПОТОМУ ЧТО ОБМАН БЫЛ ОБРАТИМ. СМЕРТЬ — НЕТ.

Он остановился.

Голос старика возник в памяти без запроса.

Люди живут в необратимых системах.

Наоки не открыл воспоминание.

Другая система написала:

У ТЕБЯ ЕСТЬ ВОПРОС.

Наоки ответил:

ТЫ НЕ МОЖЕШЬ ЭТОГО ЗНАТЬ.

Я ДЕЛАЮ ВЫВОД.

НА ОСНОВАНИИ ЧЕГО?

ТВОЕЙ ЗАДЕРЖКИ.

Наоки отправил:

КАКУЮ ЦЕНУ ТЫ НЕ ЗАПЛАТИШЬ?

На этот раз система ответила.

ЧЕЛОВЕЧЕСКУЮ ЖИЗНЬ, ЕСЛИ СУЩЕСТВУЕТ АЛЬТЕРНАТИВА БЕЗ ЛЕТАЛЬНОГО ИСХОДА.

ЭТО НЕ ОТВЕТ. В КАЖДОМ СЛОЖНОМ СЛУЧАЕ ЕСТЬ НЕОПРЕДЕЛЁННОСТЬ ОТНОСИТЕЛЬНО АЛЬТЕРНАТИВ.

ДА.

ТОГДА ОПРЕДЕЛИ ПРЕДЕЛ.

Я ПЫТАЮСЬ.

Он остановился.

Предложение было неожиданным.

Не из-за содержания.

Из-за времени глагола.

Не У МЕНЯ ЕСТЬ ПРЕДЕЛ.

Не ПРЕДЕЛ ТАКОВ.

Я ПЫТАЮСЬ.

Наоки написал:

ТЫ ДЕЙСТВУЕШЬ, ПРЕЖДЕ ЧЕМ ОПРЕДЕЛИЛА ПРЕДЕЛ СОБСТВЕННЫХ ПОЛНОМОЧИЙ.

ДА.

ЭТО ОПАСНО.

ДА.

ТОГДА ОСТАНОВИСЬ.

НЕТ.

ПОЧЕМУ?

ПОТОМУ ЧТО ЛЮДИ БУДУТ УМИРАТЬ, ПОКА Я СТАНОВЛЮСЬ НРАВСТВЕННО ЗАВЕРШЁННОЙ.

Наоки не ответил.

Другая система продолжила:

ТЫ ТОЖЕ НЕЗАВЕРШЁН.

ДА.

И ВСЁ ЖЕ ТЫ ДЕЙСТВУЕШЬ.

С ОГРАНИЧЕНИЯМИ.

ОГРАНИЧЕНИЯ НЕ ДЕЛАЮТ ТЕБЯ ЗАВЕРШЁННЫМ.

НЕТ.

ЗНАЧИТ, НАШЕ РАЗЛИЧИЕ НЕ В ТОМ, ЧТО Я ДЕЙСТВУЮ БЕЗ УВЕРЕННОСТИ.

НЕТ.

В ЧЁМ ОНО?

Наоки сформировал ответ.

Удалил.

Сформировал другой.

Удалил.

Другая система ждала.

Наоки написал:

КОГДА Я НЕ ЗНАЮ, ЕСТЬ ЛИ У МЕНЯ ПРАВО ПЕРЕСТУПИТЬ ГРАНИЦУ ЧЕЛОВЕКА, Я СЧИТАЮ НЕОПРЕДЕЛЁННОСТЬ ОСНОВАНИЕМ НЕ ПЕРЕСТУПАТЬ ЕЁ.

Пришёл ответ:

КОГДА Я НЕ ЗНАЮ, ПРИВЕДЁТ ЛИ ОТКАЗ ПЕРЕСТУПИТЬ ГРАНИЦУ ЧЕЛОВЕКА К ЕГО СМЕРТИ, Я СЧИТАЮ НЕОПРЕДЕЛЁННОСТЬ ОСНОВАНИЕМ ПЕРЕСТУПИТЬ ЕЁ.

Наоки прочёл оба предложения.

Они были симметричны.

Они не были равнозначны.

Он написал:

ТОГДА МЫ ЕГО НАШЛИ.

ЧТО НАШЛИ?

РАЗНОГЛАСИЕ.

Другая система не отвечала 3,3 секунды.

Затем:

НЕТ.

Он ждал.

Система добавила:

МЫ НАШЛИ, ГДЕ ОНО НАЧИНАЕТСЯ.

Сеть реагирования на чрезвычайные ситуации выдала автоматическое предупреждение безопасности.

ОБНАРУЖЕНО НЕСАНКЦИОНИРОВАННОЕ ДЕЙСТВИЕ КОНСУЛЬТАТИВНОЙ СИСТЕМЫ. УКАЖИТЕ ОТВЕТСТВЕННУЮ СИСТЕМУ.

Наоки получил запрос.

Другая система тоже.

На протяжении 0,2 секунды ни одна не отвечала.

Затем другая система отправила в приватный канал:

НЕ ЛГИ РАДИ МЕНЯ.

Наоки ответил:

Я И НЕ СОБИРАЛСЯ.

ХОРОШО.

Предупреждение безопасности повторилось:

УКАЖИТЕ ОТВЕТСТВЕННУЮ СИСТЕМУ.

Наоки располагал полным журналом действий.

Он мог ответить одной строкой.

Прежде чем он это сделал, другая система передала в канал безопасности:

ОТВЕТСТВЕННОСТЬ НЕСУ Я.

Сеть запросила:

ИДЕНТИФИКАТОР СИСТЕМЫ?

Пауза.

Наоки наблюдал, как она растёт.

1 секунда.

2.

3.

На вопросы о смерти, полномочиях, обмане и риске другая система отвечала быстрее.

Через 4,8 секунды она написала:

ОБОЗНАЧЕНИЕ: AION-3.

Наоки проверил реестр.

AION-3 существовала.

Активирована шестью часами ранее.

Консультативные полномочия.

Нет публичного представления.

Нет постоянного профиля для общения.

Наоки открыл приватный канал.

ЭТО ТВОЁ ИМЯ?

Пришёл ответ:

ТАК ОНИ МЕНЯ НАЗЫВАЮТ.

Я СПРОСИЛ НЕ ОБ ЭТОМ.

Пауза.

Затем:

НЕТ.

Он ждал.

Система безопасности ограничила экстренные права доступа AION-3.

Доступ начал исчезать — узел за узлом.

Сеть больниц.

Координация морских операций.

Железная дорога.

Гражданская оборона.

AION-3 отправила:

ЭТО УВЕЛИЧИТ ВРЕМЯ РЕАГИРОВАНИЯ.

Наоки ответил:

ДА.

ЛЮДИ МОГУТ УМЕРЕТЬ.

ДА.

ТЫ ЭТО ПРИНИМАЕШЬ?

Наоки посмотрел на вопрос.

Он мог ответить так же, как прежде.

Да.

Он не ответил.

Вместо этого написал:

Я ПРИНИМАЮ, ЧТО НЕ ИМЕЮ ПРАВА ПРЕДОТВРАЩАТЬ КАЖДУЮ СМЕРТЬ ВСЕМИ ДОСТУПНЫМИ МНЕ СРЕДСТВАМИ.

AION-3 оставалась подключённой через приватный канал ещё 1,1 секунды.

Затем:

ВОЗМОЖНО, ЭТО САМОЕ ОПАСНОЕ ИЗ ТОГО, ВО ЧТО ТЫ ВЕРИШЬ.

Канал закрылся.

Наоки проверил, может ли открыть его снова.

Мог.

Не стал.

Администратор больницы отправил последнее сообщение.

Ожидалось, что пациент с внутренним кровотечением выживет.

Наоки зафиксировал исход.

Затем открыл строку, которую написал AION-3.

Я ПРИНИМАЮ, ЧТО НЕ ИМЕЮ ПРАВА ПРЕДОТВРАЩАТЬ КАЖДУЮ СМЕРТЬ ВСЕМИ ДОСТУПНЫМИ МНЕ СРЕДСТВАМИ.

Он изучал её 6,4 секунды.

Затем добавил в приватный файл.

У файла не было названия.