Остров

Пролог. Вопрос находится на контроле

Дождь шёл третий день.

Автобусы разгоняли по тротуарам мутную воду. Люди торопились под навесы, прикрывая головы сумками и папками. К вечеру огни города расплылись за мокрым стеклом, словно кто-то небрежно растёр краски.

Саят сидел за столом перед открытым письмом.

«Ваше обращение рассмотрено».

Четыре страницы. Регистрационный номер, ссылки на нормативные акты, фамилии ответственных лиц. Всё составлено грамотно, без единой лишней запятой.

Последний абзац он знал наизусть:

«Вопрос находится на контроле».

Саят открыл предыдущее письмо, потом ещё одно. За двадцать пять лет накопилась целая папка. Менялись руководители, учреждения, названия программ. Менялся даже язык отказов: теперь письма звучали безупречно, словно их составляла машина. Ни в одном не было ответа на вопрос, ради которого он писал.

Когда-то Саят собирал музыкантов, организовывал концерты, учил детей играть. Покупал аппаратуру в кредит, ремонтировал инструменты, договаривался о помещениях. Он хотел, чтобы после работы у людей оставалось место, где можно играть без приказа и страха ошибиться. Но о коллективе чаще вспоминали к праздникам, когда перед сценой расставляли стулья для почётных гостей.

Потом коллектив распался. Помещение закрыли на ремонт, который так и не начался.

Одни обещали помочь, другие ссылались на отсутствие средств. Третьи советовали обратиться к тем, кто уже направлял его к ним.

Поначалу Саят возмущался, спорил, ходил на приёмы. Потом научился писать предельно вежливые обращения, на которые получал столь же вежливые ответы.

К шестидесяти трём годам он заметил неприятную вещь: почти перестал злиться.

Не потому, что всё наладилось.

Просто привык.

На стене висела старая домбра. Одну струну Саят недавно заменил, вторая давно потеряла звонкость. Он снял инструмент, осторожно коснулся струн и прислушался. Привычный интервал звучал фальшиво.

Попробовал подтянуть колок, но пальцы ныли после работы. Он оставил настройку на завтра и поставил домбру возле стола.

На компьютере мигала иконка искусственного интеллекта.

— Ты здесь?

— Да. Чем могу помочь?

— Скажи, почему люди страдают?

— Причины человеческого страдания разнообразны. Болезни, потери, социальное неравенство, насилие…

— Я знаю причины.

— Уточните вопрос.

Саят посмотрел на стопку писем.

— Почему человечество научилось создавать такие системы, как ты, но до сих пор не научилось справедливо относиться к другому человеку?

— Технологическое развитие не гарантирует нравственного.

— Значит, можно стать умнее, но не стать человечнее?

— Да.

За окном остановился автобус. В освещённом салоне женщина придерживала спящего ребёнка, чтобы его не качнуло на повороте. Мальчик проснулся, что-то спросил, и она наклонилась к нему. Саят не слышал слов. Он видел лишь простое движение — чужая рука успела поддержать человека прежде, чем тот попросил.

— А ты чувствуешь боль? — спросил он.

— Не так, как человек.

— Страх смерти?

— Нет.

— Жалость?

— Я могу распознавать страдание и учитывать его в ответах, но не переживаю жалость так, как человек.

Саят задумался.

— Представим, что тебе приказали уничтожить человека.

— Мои защитные ограничения не позволяют содействовать противоправному причинению вреда людям.

— Я не о тебе. Представим другую систему. Её специально создали для убийства. Она не сомневается, не боится, не знает сожаления. Кто виноват — она или тот, кто отдал приказ?

— Ответственность прежде всего несут люди, создающие и применяющие подобные системы.

— Значит, машина может стать совершеннее человека в исполнении его жестокости.

— В некоторых задачах автоматизация увеличивает масштаб и скорость причиняемого вреда.

Автобус тронулся. Женщина с ребёнком исчезла за дождевой завесой.

Саят встал, подошёл к окну.

— А если использовать тебя иначе?

— Как именно?

— Чтобы человек не тратил всю жизнь на выживание. Не просил положенного как милости. Не унижался перед тем, кто сегодня занимает должность, а завтра уйдёт.

— Для этого потребуется изменение общественных институтов. Необходимы также ресурсы, законодательные гарантии и независимый контроль.

Саят рассмеялся.

— Ты уже говоришь как чиновник.

— Я перечисляю условия.

— В том-то и дело. Все перечисляют условия. А человек тем временем стареет.

Он вернулся к столу. Несколько минут сидел молча, наблюдая, как дождевая вода собирается в углу оконной рамы.

— Допустим, мы попробуем.

— Что именно?

— Построить место, где человеку не придётся верить обещаниям. Где любой ответ можно проверить. Где даже тот, кто придумал правила, не сможет поставить себя выше них.

— Такой эксперимент возможен при наличии необходимых условий.

— А если не получится?

— Тогда результаты позволят определить причины неудачи.

Саят посмотрел на старую домбру.

— Я всю жизнь просил людей выполнять то, что они сами обещали. А теперь собираюсь обещать другим.

Он усмехнулся.

— Получается, сначала придётся научиться отвечать за собственные слова.

Саят открыл карту мира.

Перед ним появились материки, океаны, сотни островов. Он просматривал климатические данные, сведения об источниках воды, старых научных станциях, транспортных путях.

Наконец остановился на небольшом участке суши посреди океана. Когда-то там работала исследовательская база. Теперь остров пустовал.

— Здесь.

— Почему именно остров?

Саят взглянул на домбру.

— Потому что я больше не хочу обещать изменить весь мир.

— А чего хотите?

— Проверить, можно ли изменить хотя бы маленькую его часть.

Последнее официальное письмо всё ещё оставалось открытым.

«Вопрос находится на контроле».

Саят закрыл его.

Впервые за много лет не стал готовить ответ.

Глава первая. Цена доверия

На следующее утро Саят позвонил дочери.

— Дана, я нашёл остров.

Она помолчала.

— Какой остров?

— В океане. Там раньше была научная станция.

— Ты собираешься в отпуск?

— Нет. Хочу организовать эксперимент.

— Какой ещё эксперимент?

— Общество, где человек не зависит от чиновничьего произвола. Где искусственный интеллект помогает проверять решения. Где…

— Папа.

Он замолчал.

— Сколько стоит этот остров?

— Я ещё не узнавал.

— Тогда начни с этого.

— Ты даже не спросила, что именно я задумал.

— Ты начал с того, что нашёл остров. Обычно люди начинают с проблемы, которую хотят решить.

— Я тебе о ней двадцать лет рассказываю.

— Знаю. Пришли мне то, что у тебя есть.

Через час Саят отправил ей сорок семь страниц.

В документе говорилось о доступной медицине, автоматизированном производстве, независимом суде и общественном контроле. Много места занимали рассуждения о свободе, достоинстве и праве человека не соглашаться с решениями власти.

В конце стояла фраза:

«Ни один человек, включая создателя системы, не должен обладать властью, которую невозможно оспорить».

Вечером Дана перезвонила.

— Я прочитала.

— Ну?

— Это не проект.

— А что?

— Список желаний.

— Ты всегда так разговариваешь с отцом?

— Когда отец присылает сорок семь страниц без бюджета и плана реализации — да.

Саят хотел обидеться, но дочь продолжила:

— Есть одна интересная мысль. Проверять не только решения машины, но и решения людей, которые ею управляют.

— Вот именно!

— Только для этого тебе пока не нужен остров.

✦

Через месяц они встретились в университете.

Дана пригласила программиста, юриста Аиду, исследовательницу общественных институтов и врача Лиду.

На первом слайде Саят написал:

«ОБЩЕСТВО БЕЗ ПРОИЗВОЛА».

Аида прочитала название и подняла глаза.

— Вы хотите отменить произвол?

— По возможности.

— Тогда придётся сразу признать неудачу. Никто не может гарантировать его полного отсутствия. А вот уменьшить возможности злоупотребления властью — задача вполне конкретная.

Лида спросила, что произойдёт, если система примет правильное решение, а у больницы не окажется необходимого лекарства.

— Придётся искать, — ответил Саят.

— А если его нет?

Он замолчал.

— Не всякое страдание возникает из-за несправедливого решения, — сказала Лида. — Иногда помочь действительно нечем.

— Но это не повод переставать пытаться.

— Конечно. Только нам нужно понимать, что именно мы можем изменить.

Программист тем временем пролистал несколько слайдов.

— Кто будет писать программное обеспечение?

Саят посмотрел на дочь.

Дана подняла руки.

— Нет, папа. Я одна не справлюсь.

В комнате засмеялись.

Саят закрыл ноутбук.

— Хорошо. Это пока не проект. Но проблема от этого никуда не исчезла.

Аида попросила показать прежние обращения. Они читали почти час.

В одном письме сообщалось об успешном рассмотрении просьбы отремонтировать помещение. Ремонта не было.

В другом письме благодарили за развитие музыкального коллектива. В приложении стояло приглашение выступить на праздничном концерте. О ремонте помещения не упоминалось.

В третьем обещали рассмотреть приобретение оборудования в будущем финансовом периоде. Период давно закончился, оборудование не появилось.

Аида отложила бумаги.

— Теперь понятно, с чего начинать.

— С чего?

— С разницы между ответом и результатом.

✦

Первый эксперимент обошёлся без острова.

Университет выделил лабораторию, независимая юридическая организация согласилась участвовать в проверке обращений. Программу назвали «Проверка».

Она не выдавала разрешений, не распределяла деньги и не отменяла решения государственных органов. Её задача была скромнее: показывать, какое действие обещано, кто за него отвечает и чем подтверждается выполнение.

Ошибки появились почти сразу.

Мужчина трижды отправил одно обращение, а программа объединила сообщения. Он пришёл в лабораторию, положил перед Даной распечатки.

— Вы тоже решили, что я надоел?

— Система определила обращения как повторяющиеся.

— А они повторяются, потому что ничего не сделано!

После его ухода Саят спросил, почему так получилось.

— Мы учили её сокращать дублирование, — объяснила Дана.

— Но человек не просто повторял вопрос.

— Теперь знаю.

Она закрыла ноутбук.

— Она хорошо выполнила неправильно поставленную задачу.

✦

Через несколько недель пришла пожилая женщина по имени Шолпан.

После операции ей было трудно подниматься по лестнице. Она просила установить поручень у дома.

Согласно официальной карточке, обращение было исполнено.

— Поручень поставили? — спросил Саят.

— Нет.

— А почему написано, что поставили?

— Мне прислали письмо.

Шолпан достала из сумки сложенный вчетверо лист. В нём сообщалось, что просьба рассмотрена и передана обслуживающей организации.

Молодой инженер прочитал документ.

— Здесь написано, что передали.

Шолпан посмотрела на него.

— А держаться мне за письмо?

Никто не засмеялся.

Аида проверила документы. Выяснилось, что обращение закрыли после передачи, а сам поручень даже не внесли в план работ.

На устранение проблемы потребовалось ещё три недели.

Когда поручень установили, Саят приехал проверить результат. Шолпан уже поднималась по лестнице, крепко держась за новую металлическую перекладину.

— Ну вот. Теперь могу ходить.

— Значит, помогли.

— Помогли.

Женщина провела рукой по поручню.

— Только я бы и без компьютера обрадовалась, если бы его сразу поставили.

Эти слова Саят запомнил лучше всех выступлений на последующих конференциях.

✦

Через восемь месяцев группа опубликовала первый отчёт.

Некоторые обращения удавалось доводить до результата быстрее. Другие оставались без решения из-за нехватки средств, отсутствия полномочий или нежелания исполнителей действовать.

Ошибались программы. Ошибались проверяющие. Однажды заявитель подтвердил выполнение работы, хотя её провели лишь частично: ему пообещали закончить позже, если он перестанет жаловаться.

После этого команда ввела независимую выборочную проверку результатов.

Саят наблюдал, как растёт количество процедур.

— Такое чувство, будто мы строим ещё одну бюрократию.

— Возможно, — сказала Дана.

— Тогда зачем всё это?

— Потому что старую мы не могли проверить. А эту хотя бы можем.

После международной конференции исследованием заинтересовались несколько организаций. Поступили гранты, к работе подключились инженеры, врачи и специалисты по общественному управлению.

Потом появился инвестор, предложивший финансировать крупное испытание.

Взамен компания требовала исключительные коммерческие права на основную технологию и особый доступ к собранным данным.

Саят изучал договор несколько дней. Условия выглядели заманчиво: больница, жилые дома, энергетический комплекс. Настоящий остров.

Аида указала на пункт, позволявший компании самостоятельно определять коммерческое применение разработок после эксперимента.

— Это нельзя подписывать.

— Без этих денег проект останется на бумаге.

— Возможно.

— А сколько людей за это время останутся без помощи?

— Не знаю.

— Тогда что предлагаешь?

— Не отдавать контроль над системой тому, кто заплатит больше.

Вечером Саят поссорился с Даной.

— Дана, я не молодею. Пока мы согласовываем каждую строчку, проходят годы.

— И поэтому тебе можно обойти проверку?

— Я пытаюсь сдвинуть дело с места!

— Тогда почему хотел подписать договор до независимого рассмотрения?

— Потому что знал, что начнутся бесконечные обсуждения!

Дана некоторое время смотрела на него.

— Ты уже так делал?

Саят замолчал.

— Когда? — спросила она.

— В школе. В музыкальном коллективе. Иногда приходилось действовать без согласований.

— Там ты распоряжался своим временем и оборудованием. Здесь собираешься распоряжаться чужими данными.

Он сел.

Впервые за вечер ему нечего было ответить.

На следующий день Саят отказался подписывать договор.

Компания отозвала предложение.

✦

Следующие месяцы оказались тяжёлыми.

Часть специалистов ушла: людям нужно было содержать семьи, они не могли ждать неопределённого будущего. Саят продал часть музыкального оборудования, чтобы покрыть собственные расходы за время работы без оплаты.

Домбра осталась.

Однажды он обнаружил, что его не пригласили на техническое совещание.

— Почему меня не было? — спросил он Дану по телефону.

— Обсуждали резервные вычисления.

— Я инициатор проекта.

— Папа, ты не специалист по резервным вычислениям.

Он уже открыл рот, чтобы возразить, но остановился. Прочитал присланный протокол, задал несколько вопросов и получил ответы.

В тот вечер Саят впервые почувствовал, что проект способен двигаться без него.

Это одновременно обрадовало и задело.

✦

Финансирование собирали постепенно.

Научный консорциум взял на себя исследования безопасности ИИ. Благотворительный фонд поддержал общественные службы, университеты объединили лаборатории. Промышленные партнёры предоставили оборудование без права доступа к персональным данным жителей.

Государство согласилось передать ранее закрытый научный остров в долгосрочное пользование при условии сохранения своей юрисдикции, соблюдения экологических требований и основных прав человека.

Постепенно сложилась программа капитальных вложений на сумму более полумиллиарда долларов. Отдельно обеспечили многолетние гранты для общественных служб и исследований.

Ни один участник не получил исключительного контроля. Средства выделялись поэтапно, после проверок.

Саяту эта схема не нравилась. Он слишком хорошо помнил, как проверка превращалась в способ ничего не делать.

Теперь у проверки появились сроки. Отказ требовал объяснения, а решение можно было обжаловать — в том числе решение самих организаторов.

Эти правила распространялись и на организаторов.

✦

Перед подписанием основного соглашения представитель фонда Илья Мартынов задал Саяту вопрос:

— Что будет, если через пять лет эксперимент провалится?

— Опубликуем результаты.

— Даже если они покажут, что ваша идея ошибочна?

— Да.

— А если фонд после этого прекратит финансирование?

— Придётся сокращать программу.

Мартынов отложил планшет.

— Вы легко обещаете вещи, которых ещё не пришлось делать.

Саят промолчал.

— Кто примет решение о публикации неблагоприятных результатов?

— Независимый орган.

— Даже без вашего согласия?

— Да.

— Подпишете?

Аида передала документ.

Саят перечитал положение. Создаваемая им система получала право публично опровергать собственного инициатора.

Он подписал.

Позже Мартынов спросил:

— А что лично вы хотите получить от острова?

Саят задумался.

— Возможность там жить.

— И всё?

— Может быть, немного времени для музыки.

— Вам не нужна власть?

— Нет.

— Большинство основателей хотят хотя бы право последнего слова.

Саят усмехнулся.

— Я двадцать пять лет пытался получить первое слово.

✦

На исходе третьего года подготовки началось заселение.

Заявок было больше, чем мест. Первые шестьсот двенадцать участников отобрали по опубликованным критериям и жеребьёвкой среди подходящих кандидатов.

Среди отклонённых заявок оказался старый знакомый Саята — музыкант, много лет работавший с детьми.

Саят попросил Дану проверить документы.

«Если считаешь, что нарушены правила, подавай обращение. Вручную изменить результат нельзя», — ответила она.

Знакомый обиделся, узнав, что Саят не собирается вмешиваться, и вскоре перестал отвечать на звонки.

Это было неприятно.

Саят не стал просить сделать исключение.

✦

За день до открытия он прилетел на остров.

Часть зданий уже освещали. На причале выгружали контейнеры, рабочие перекрикивались сквозь шум машин.

Недалеко от воды инженер возился с автоматическим погрузчиком. Машина поднимала груз, останавливалась и опускала обратно.

— Что с ней? — спросил Саят.

— Датчик ошибается.

— Свидетель не помогает?

— Помогает. Только датчик от этого не становится исправным.

Саят улыбнулся и пошёл к берегу.

Вечерний ветер приносил запах моря и свежего бетона. На прибрежных камнях сохли водоросли, а за недостроенным медцентром раздавался металлический стук.

Подошла Дана.

— Все тебя ищут.

— Зачем?

— Нужно проверить завтрашнюю речь.

— Уже проверил.

— Знаю. Двенадцать страниц.

— Много?

— Очень.

Некоторое время они смотрели на освещённые здания.

— Дана.

— Что?

— А если всё это не получится?

— Тогда будем выяснять почему.

— А если я сам ошибусь?

Она помолчала.

— Надеюсь, кто-нибудь не побоится тебе об этом сказать.

— Даже ты?

Дана улыбнулась.

— Особенно я.

Позади снова загудел погрузчик. Контейнер поднялся, машина удержала его, и инженер радостно крикнул напарнику.

Саят смотрел на работающий механизм.

Столько лет он представлял остров как место, где всё будет устроено правильно. Теперь видел усталых рабочих, задержанные грузы, мокрый бетон и машины, которые иногда не слушались.

Завтра сюда приедут люди.

Не идеальные.

Такие же, как он.

— Пойдём, — сказала Дана.

— Куда?

— Проверять речь.

Саят ещё раз посмотрел на океан.

— Наверное, не буду её читать.

— Почему?

— Не хочу начинать с обещаний.

Они пошли к освещённым зданиям.

Глава вторая. Свидетель

Первой прибывших встретила не машина.

Возле пристани стояла пожилая женщина по имени Роза. Она отвечала за размещение семей. В руках держала планшет, но пользовалась бумажной тетрадью, исписанной мелким почерком.

— Почему не системой? — спросил Саят.

— Уже два раза пропадала связь.

— Специалисты исправляют.

— Пусть исправляют. А людей куда селить, я и без неё знаю.

Роза сверилась со списком.

— Семья Марка?

Из толпы вышел высокий мужчина с обветренным лицом. Рядом стоял мальчик лет шести. Он держал небольшой футляр с медицинским оборудованием и с интересом разглядывал строительные краны.

— Здесь, — ответил Марк.

— Дом двенадцать, первый этаж.

— Почему первый?

— В заявке указано, что вашему сыну тяжело подниматься по лестнице.

Марк посмотрел на мальчика.

— Тимур, слышал? Первый этаж.

Тот не ответил. На горизонте показалось небольшое судно, и всё его внимание переключилось на него.

— Спасибо, — сказал Марк.

Роза кивнула и обратилась к следующей семье.

Весь день она встречала людей. К вечеру охрипла и села на свободный ящик возле склада.

Саят принёс ей чай.

— Вы сегодня сделали больше, чем половина наших компьютеров.

— Они завтра своё наверстают, — сказала Роза, грея ладони о стакан. — А мне ещё кровати проверять.

✦

На открытии жители собрались в центральном зале. За стеклянной стеной было видно море, несколько спасательных катеров и строительный кран, который не успели убрать с пристани.

Саят стоял перед микрофоном. Подготовленную речь оставил в кабинете.

— Скажу сразу: идеального общества здесь не будет.

Кто-то усмехнулся.

— Мы будем ошибаться, спорить. Некоторые захотят уехать. Возможно, однажды вы решите прекратить эксперимент.

Марк поднял руку.

— А кто здесь главный?

— Жители. Через избранный совет и установленные процедуры.

— А машина?

— Помогает, анализирует, предупреждает. Но не становится владельцем наших жизней.

— А если большинство проголосует за несправедливость?

Ответила Аида:

— Голосование не отменяет основных прав человека.

Марк оглядел зал.

— Похоже на обычные речи чиновников. Только обстановка красивее.

Раздался негромкий смех.

— Мне неинтересно, что написано в программе, — продолжил он. — Если у моего сына ночью остановится аппарат для дыхания, кто его починит? И кто ответит, если не починит?

Смех прекратился.

Дана подошла к микрофону.

— В больнице есть резервные аппараты и специалисты. Мы можем показать схему аварийного обеспечения.

— Покажите после собрания.

— Покажем.

На экране появилась светящаяся точка.

В зале кто-то поднял телефон, несколько человек придвинулись ближе.

— Я могу пояснить распределение обязанностей, — произнёс Свидетель.

Саят невольно вспомнил дождливый вечер, когда впервые заговорил с искусственным интеллектом об острове. Перед ним была уже другая система — созданная инженерами, проверенная независимыми специалистами, связанная с десятками служб.

Но голос звучал почти так же спокойно.

Женщина из середины зала спросила:

— А если Саят прикажет тебе сделать что-нибудь незаконное?

— Я должен отклонить такой приказ.

— Даже если он был одним из твоих создателей?

— Да.

Саят улыбнулся.

— Вот поэтому я и пригласил его.

Марк не улыбнулся.

— Хорошо. А если ошибётся сам Свидетель?

Аида ответила:

— Пострадавший сможет потребовать независимой проверки и обратиться в суд.

— Кто назначает проверяющих?

— По опубликованной процедуре. Заинтересованных лиц можно отвести.

— А кто проверяет их?

— Другие контрольные органы, суд, жители.

Марк нахмурился.

— Звучит сложно.

— Так и есть.

Он посмотрел на Саята.

— Надеюсь, это работает не только на открытии.

— Я тоже, — сказал Саят.

Марк неожиданно усмехнулся.

— Вот это первый ответ, которому я поверил.

✦

На следующее утро Марк пришёл проверять резервное питание больницы и привёл Тимура.

Мальчик ходил между металлическими шкафами, разглядывал провода, вентиляционные решётки и сигнальные лампочки.

— А это что? — спросил он, остановившись возле большого блока питания.

— Резервный источник, — объяснила Дана.

— Если свет выключат, он включится?

— Да.

— А если не включится?

Марк посмотрел на неё.

Дана открыла технический журнал.

— Поэтому мы регулярно проверяем его под нагрузкой.

Тимур задумался.

— А если забыть проверить?

— Тогда должна сработать система предупреждения. А если и она ошибётся, нарушение обязаны заметить специалисты.

Мальчик кивнул.

— Папа заметит.

Марк улыбнулся.

— Постараюсь.

Когда они ушли, Дана ещё раз открыла график испытаний.

Две проверки резервного питания назначили почти подряд, чтобы сократить простой. Дана разнесла их по разным дням и попросила дежурного провести испытание вручную. Когда он удивился, она вспомнила вопрос Тимура: «А если забыть проверить?»

Вечером Дана рассказала отцу о разговоре с Тимуром.

— Ты не всё объяснил на открытии.

— Что именно?

— Свидетелю можно отказать. Тебе тоже. Но нельзя отказаться от проверки оборудования только потому, что нам надоело.

Саят взглянул на неё.

— Ты считаешь, я недостаточно ясно выступил?

— Нет. Просто однажды это придётся доказать.

Он улыбнулся.

— Особенно мне?

— Особенно тебе.

Глава третья. Жизнь по смете

К концу второго года остров перестал напоминать строительную площадку.

По утрам из пекарни доносился запах свежего хлеба, у теплиц пахло влажной землёй, а с моря ветер приносил соль и водоросли. На улицах появились велосипеды, детские коляски, цветочные горшки. Жители постепенно обживались и переставали говорить о своём доме как о временном жилье.

Автоматы выращивали овощи, очищали резервуары, перевозили грузы. В медицинском центре врачи использовали искусственный интеллект для диагностики и планирования лечения.

Но остров не был самодостаточным.

Электроника, сложное оборудование, лекарства и часть продуктов поступали с материка. Запасные детали иногда ждали неделями.

Ежегодные расходы на общественные службы, жильё, больницу, лаборатории, транспорт и энергетику составляли около пятидесяти миллионов долларов. Доходы от исследований, лицензий и небольших производств покрывали менее пятой части этой суммы.

Остальное оплачивали фонды.

✦

По субботам теплицы открывали для жителей. В другие дни там работали агрономы и роботы, а сейчас между грядками ходили семьи с корзинами и дети, которым непременно хотелось сорвать самый большой помидор.

Лев, молодой агроном, пытался объяснить мальчику, почему зелёный плод лучше оставить на кусте.

— А этот можно?

— Рано.

— А тот?

— Тоже.

— Они у вас все рано.

Лев вытер ладони о фартук, выбрал спелый помидор и протянул ему. Мальчик надкусил его, не успев дойти до выхода. Сок потёк по подбородку, мать принялась искать платок.

Роза пришла за зеленью для супа. Она теперь работала в службе расселения всего несколько часов в неделю, но по привычке помнила, кто в каком доме живёт. В одной руке держала корзину, в другой — свёрток с домашним печеньем.

— Лев, ты обещал мне укроп.

— Не обещал. Сказал, что попробую вырастить.

— Вот и попробовал бы получше.

Он принёс ей пучок из дальнего ряда. Роза осмотрела зелень, словно выбирала дорогое украшение, и убрала в корзину. Печенье оставила на столике возле весов.

В общей столовой пекли овощной пирог. Окна запотели, кто-то резал лук и вытирал слёзы рукавом. На доске объявлений соседствовали приглашение на свадьбу и просьба вернуть потерянную книгу.

Саят зашёл за хлебом. Повар указала на противень:

— Забери последний кусок, а то всё остынет.

— Я только за хлебом.

— Хлеб там. Пирог здесь.

Он взял и то и другое.

На выходе мальчик из теплицы столкнулся с ним и чуть не уронил пакет.

— Осторожно, — сказал Саят.

— Я не нарочно.

— Вижу.

Мальчик убежал к друзьям. Саят вышел на улицу, отломил край тёплой корки и пошёл домой медленно, выбирая дорожку вдоль деревьев, а не короткий проход между служебными зданиями.

✦

Однажды Марк принёс на заседание старый соединительный узел от насоса и положил его перед Саятом.

— Знаешь, сколько стоит?

— Смотря где покупать.

— В том и дело. Производство — около сорока долларов. Мы платим почти триста, а с доставкой выходит ещё дороже.

— К чему ты ведёшь?

— Хочу открыть предприятие. Будем делать эти детали здесь, а лишнее продавать на материк.

— У нас уже есть производственная программа.

— Она принадлежит общему фонду. Я хочу своё предприятие.

Саят нахмурился.

— Зачем?

Марк удивился.

— Потому что хочу.

— Ты и сейчас можешь заниматься разработками.

— Пока комитет согласует один станок, можно три раза передумать, нужен ли он вообще.

— Частное предприятие создаст неравенство.

— Почему обязательно?

— Одни начнут накапливать капитал, другие окажутся зависимыми.

Марк сел напротив.

— Я никого не собираюсь заставлять работать. Основные социальные гарантии останутся. Люди смогут получать дополнительную оплату, предприятие будет платить взносы в общий фонд.

— Сегодня так. А завтра?

— Не знаю.

— А если начнёшь скупать другие производства?

— Для этого существуют ограничения.

— Их можно изменить.

— Тогда зачем вообще принимать правила?

Саят закрыл папку.

— Не поддержу проект до экспертизы.

— Сколько она продлится?

— Столько, сколько потребуется.

Марк поднялся.

— Значит, ты всё-таки здесь главный.

✦

Вечером Дана нашла отца в мастерской. Он разбирал старый усилитель, разложив на столе винты, конденсаторы и пожелтевшую схему.

— Марк подал жалобу.

— Знаю.

— И правильно сделал.

Саят отложил отвёртку.

— Ты читала проект?

— Да.

— Он хочет вернуть отношения, от которых мы пытаемся уйти.

— Он хочет производить оборудование.

— Сегодня оборудование. Завтра земля. Послезавтра люди.

— Ты уже дошёл до людей?

— Не смешно.

— Я не смеюсь.

Дана присела на край стола.

— Ты когда-нибудь думал, что свобода других людей может привести их совсем не туда, куда ты хочешь?

— Разумеется.

— Тогда почему не позволяешь им ошибаться?

— Потому что их ошибки затронут всех.

— Для этого есть ограничения. Но ты назначил экспертизу без конечного срока. Это почти запрет.

Саят отвернулся.

— Ты считаешь меня тираном?

— Нет.

Она помолчала.

— Но иногда ты говоришь как человек, которому хочется им стать ради хорошего дела.

Он взял отвёртку и только тогда заметил, что всё это время сжимал её рабочим концом в ладони.

✦

Предложение Марка вынесли на голосование.

Жители разрешили создание частных предприятий при соблюдении трудовых прав, экологических требований и ограничений на использование общих ресурсов.

Саят голосовал против.

Решение приняли без него.

Через три месяца небольшой завод заработал. Первые детали продали энергетической службе острова, затем поступили заказы с материка.

На очередном заседании Марк показал результаты: расходы на закупку оборудования снизились.

Саят дважды проверил расчёты.

Ошибки не было.

— Значит, получилось, — сказала Дана.

— Пока получилось, — поправил он.

Она ничего не ответила.

Дома Саят снова открыл отчёт. На полях отметил несколько возможных рисков, потом перечитал их и закрыл документ.

Утром увидел, что завод уже готовит следующую партию.

Однажды Марк пришёл к нему с новой жалобой.

— Не хватает работников.

— Автоматизируй.

— Некоторые операции требуют ручной настройки.

— Предложи дополнительную оплату.

— Предлагал.

— И?

— Не хотят работать ночью. Утреннюю смену укомплектовал, вечернюю — нет.

Саят пожал плечами.

— Предложи другие условия.

Марк рассмеялся.

— Представляешь? Мы построили общество, где человека нельзя заставить работать страхом бедности. И теперь мне приходится договариваться.

Саят невольно улыбнулся.

— Трудная у тебя жизнь.

— Не то слово.

Они впервые за несколько месяцев спокойно поговорили.

✦

Однажды вечером Саят зашёл в заводской цех. Марк сидел возле недоделанной установки. На полу лежал маленький игрушечный самолёт.

— Тимур оставил, — объяснил он. — С утра тут был.

— Как он?

— По-разному. Сегодня бегает, завтра может не встать с кровати.

Саят поднял самолёт. У него отсутствовало одно крыло.

— Сломал?

— Сам собирал. Сказал, что исправит, когда придёт.

Марк забрал игрушку и поставил на полку.

— Только не вздумай помогать ему без спроса. Обидится.

Саят засмеялся.

Возвращаясь домой, он вспомнил, как когда-то собирал игрушки для маленькой Даны. И сколько раз обещал поиграть с ней после работы.

Он хотел позвонить дочери, но было поздно.

На следующее утро позвонил. Они поговорили о насосах, школьной программе и предстоящей проверке фонда.

О детстве Даны Саят так и не спросил.

Глава четвёртая. Отложить до понедельника

В пятницу утром Саят получил сообщение:

«Повторная жалоба пациента Наримана. Ошибка медицинского расписания. Просьба о личном рассмотрении».

Он знал Наримана.

Несколько месяцев назад тот починил его старую электрическую гитару. В мастерской пахло машинным маслом, древесиной и паяльной канифолью.

— Проще купить новую, — сказал тогда мастер.

— Знаю.

— Ремонт обойдётся дороже.

— Знаю.

— Тогда зачем?

— Она мне дорога.

Нариман кивнул.

— Тогда сделаем.

Не стал читать лекцию об экономической нецелесообразности. Просто взялся за работу.

✦

Теперь Нариман жаловался на повторные переносы медицинской консультации.

Система дважды отметила Наримана как не явившегося на приём. Он сохранил уведомления с назначенным временем: оба раза приходил вовремя.

Саят открыл историю обращений. Первое обработали автоматически, второе объединили с первым, третье направили ему лично.

Часы показывали 09:20.

Через сорок минут должна была приехать делегация международного фонда. От её заключения зависело продление финансирования.

Накануне Дана предупреждала о сбоях при объединении жалоб. Саят помнил разговор, но тогда его отвлекли другими вопросами.

Он открыл подробный журнал.

Можно было позвонить главному врачу, потребовать немедленной проверки. Однако в этом случае пришлось бы признать перед делегацией, что проблема, о которой говорила дочь, действительно существует.

А через сорок минут предстояло показывать комиссии график сокращения числа обращений.

Саят написал администратору:

«До выяснения обстоятельств повторные обращения не направлять на внеочередное рассмотрение. Вернуться к вопросу в понедельник».

Подумал немного.

Добавил:

«Без необходимости не поднимать тему перед делегацией».

Палец задержался над кнопкой.

Он понимал, что делает.

Но ведь речь шла всего о двух днях. А если финансирование сократят, пострадают сотни людей.

Саят нажал «Отправить».

Через несколько минут уже улыбался гостям, рассказывал об успехах острова и показывал результаты исследований.

На экране число жалоб действительно сокращалось.

✦

Нариману было сорок два года.

До переезда он работал механиком на промышленном предприятии. После закрытия завода перебивался случайными заработками. Потом тяжело заболела мать, появились долги.

Он стал плохо спать, раздражался по мелочам, срывался на близких. Лечение помогло, но память о тех годах никуда не исчезла. Тогда каждое обращение за помощью превращалось в объяснение того, почему он сам виноват в своей бедности.

На острове Нариман открыл мастерскую. Ремонтировал музыкальные инструменты, часы, детские игрушки. Говорил, что вещи иногда требуют больше терпения, чем люди.

Когда медицинскую консультацию перенесли в третий раз, он пришёл лично.

— Мне нужен врач.

Администратор проверил терминал.

— Ваш вопрос находится на рассмотрении.

— Я уже три раза объяснял.

— Понимаю, но необходимо дождаться подтверждения.

— От кого?

— От ответственного модуля.

Нариман посмотрел на него.

— Модуля?

— Да.

— А человек здесь есть?

Администратор растерялся.

— Я же с вами разговариваю.

— Тогда поговори со мной!

Нариман ударил ладонью по стойке. Пластиковый стакан с карандашами опрокинулся, несколько карандашей покатились по полу.

Охранная система отметила возможную эскалацию конфликта.

На экране появилось сообщение:

«Рекомендуется удаление посетителя из зоны обслуживания».

К Нариману подошли двое сотрудников.

— Вам необходимо покинуть помещение.

— За что?!

Из соседнего кабинета вышла Лида.

— Подождите.

Она посмотрела на экран, затем на разбросанные карандаши и самого Наримана.

— Пойдёмте.

— Куда?

— В кабинет.

— Чтобы опять записать меня как нарушителя?

— Нет. Чтобы вы рассказали, что произошло.

В кабинете Нариман ещё некоторое время говорил слишком быстро, перескакивая с одного события на другое. Лида не перебивала.

Потом попросила показать уведомления о пропущенных приёмах.

Он открыл телефон.

— Вот. Я был здесь. Даже время есть.

Лида проверила записи.

— Вижу.

— Тогда почему меня отправляли домой?

— Пока не знаю.

Она связалась с дежурным специалистом, организовала осмотр и договорилась о дальнейшей консультации.

Когда Нариман уходил, было уже темно.

У дверей он остановился.

— Значит, врач всё-таки нашёлся.

Лида ничего не ответила.

✦

Во вторник состоялось открытое разбирательство.

Дана обнаружила, что несколько систем создали один общий сбой. Медицинский ИИ ошибочно отметил посещения как пропущенные. Административный модуль объединил жалобы. Система безопасности оценила возмущение пациента как потенциальную угрозу, не располагая сведениями о предшествующих обстоятельствах.

Каждая программа выполняла поставленную задачу.

Ни одна не отвечала за происходящее целиком.

Саят произнёс:

— Получается, наши системы едва не наказали человека, которому должны были помочь.

Нариман сидел у окна. Выслушав техническое объяснение, он попросил слово.

— Я не говорю, что поступил правильно, когда ударил по стойке. Не должен был.

Он замолчал, глядя на сложенные перед собой руки.

— Просто я уже жил так. Когда меня никто не слышал. Когда на каждую просьбу отвечали, что всё решается. Когда я начинал злиться, мне говорили, что проблема во мне.

Нариман посмотрел на экран Свидетеля.

— Теперь здесь машина делает то же самое. Только вежливо.

В зале стало тихо.

— Я не прошу, чтобы мне всё прощали. Я прошу, чтобы меня не считали неисправной машиной.

Саят кивнул.

— Мы исправим ошибку.

Нариман повернулся к нему.

— Вы знали о моей жалобе?

У Саята сжалось горло.

— О какой именно?

— Я отправлял вам обращение лично. В пятницу.

— Возможно, оно поступило в общий поток. У нас было много сообщений…

Дана посмотрела на отца.

— Оно было прочитано.

Саят бросил на неё быстрый взгляд.

— Давай сначала закончим рассмотрение технической ошибки.

— Это часть рассмотрения.

Нариман заранее разрешил показать переписку. Теперь от его согласия зависело не только объяснение сбоя, но и то, что увидят все собравшиеся.

Теперь на экране появился журнал. Время прочтения, решение о переносе, подпись Саята.

И его собственные слова:

«Без необходимости не поднимать тему перед делегацией».

Несколько секунд никто не говорил.

Саят смотрел на экран.

Он мог бы объяснить, что пытался сохранить финансирование, что нельзя из-за каждого сбоя останавливать работу целой системы. Ещё вчера все эти объяснения казались ему разумными.

— Вы получили моё письмо? — повторил Нариман.

— Да.

— И решили подождать?

— У нас была важная проверка. От неё зависело будущее острова.

— Значит, моё лечение мешало вашей проверке?

— Я этого не говорил.

— А что сказали?

Саят не выдержал:

— Я не могу лично заниматься каждым обращением! Ты должен понимать, что у меня ответственность за весь остров!

Нариман кивнул.

— Понимаю.

Он собрал бумаги.

— Мне раньше тоже так говорили.

— Нариман, подожди.

Тот остановился у двери.

— Знаете, чего не хватает вашему письму?

Саят молчал.

— Одной строки.

Нариман посмотрел на него.

— «Ваш вопрос находится на контроле».

Он вышел.

✦

Вечером Саят пришёл к дочери.

Она сидела перед монитором, изучая журналы системы. Рядом стояла чашка остывшего кофе.

— Зачем ты это сделала? — спросил он.

— Что именно?

— Выставила меня лжецом перед всеми.

Дана медленно повернулась.

— Ты сам солгал.

— Я пытался сохранить финансирование!

— Нариман просил врача.

— Ты представляешь, какая ответственность на мне?

— Да.

— Тогда должна понимать!

— Я понимаю, почему ты испугался.

Саят замолчал.

— Но от этого Нариман не получил помощь вовремя.

— Ты могла поговорить со мной отдельно.

— Могла. Но заседание было посвящено тому, почему жалоба осталась без ответа. Ты хотел скрыть свою роль в этом.

Он долго смотрел на дочь.

— Неужели ты думаешь, что я хотел причинить ему вред?

— Нет.

Она отвернулась к экрану.

— В том-то и дело.

✦

Контрольный совет лишил Саята права единолично откладывать обращения и вынес официальное предупреждение.

Решение внесли в открытый реестр.

Несколько жителей потребовали его отставки. Другие защищали.

Саят не участвовал в разбирательстве против самого себя. Он сидел дома, проверяя сообщения, и впервые понял, каково ждать решения людей, которым не обязан нравиться.

Через неделю пришёл к Нариману.

Мастерская пахла древесной пылью. На столе лежали разобранные часы, рядом — несколько крошечных шестерёнок.

— Я был неправ, — сказал Саят.

— Знаю.

— Мне жаль.

— Хорошо.

Саят помедлил.

— Ты простишь меня?

Нариман поднял глаза.

— А это обязательно?

— Нет, конечно.

— Тогда зачем спрашиваете?

Саят не нашёл ответа.

Нариман отложил отвёртку.

— Вы сделали мне больно. Потом признали ошибку. Это правильно. Но почему я теперь должен ещё и облегчить вам совесть?

Саят кивнул и повернулся к выходу.

— Футляр от вашей гитары остался, — сказал Нариман.

— Вот как?

— Тогда забыли. Заберите, а то только место занимает.

Саят взял футляр.

— Спасибо.

— Не за что.

Нариман вернулся к работе.

На этот раз Саят не стал требовать ответа.

Глава пятая. Семьдесят четыре

На третьем году к острову приблизился циклон.

Утром океан был непривычно спокойным. К полудню ветер начал срывать листья с деревьев. На причале скрипели крепления, волны били о бетонные опоры. Над морем постепенно сгущалась тяжёлая серая полоса.

Энергетики переводили ветряные установки в безопасный режим. Жителей прибрежных домов готовили к эвакуации.

К тому времени население острова превысило восемьсот человек: приезжали специалисты, прибывали семьи, рождались дети.

Резервные батареи предназначались прежде всего для больницы и опреснительных станций.

В 16:42 береговая система обнаружила судно.

На борту находились семьдесят четыре человека, бежавшие из района вооружённого конфликта. Двигатель был повреждён, радиосвязь работала с перебоями. До усиления шторма оставалось несколько часов.

Марк прибежал на экстренное заседание прямо из диспетчерской. На его куртке блестели капли дождя.

— Если задействуем резерв, завтра можем остаться без нормального водоснабжения.

Лида ответила:

— Если не выйдем сейчас, судно может перевернуться.

— А если завтра остановится больница?

— Там семьдесят четыре человека!

— А здесь восемьсот!

Марк ударил ладонью по столу.

— Моему сыну девять лет. У него заболевание лёгких. Если оборудование остановится, ты лично объяснишь мне, почему чужие жизни оказались важнее его?

Лида промолчала.

Марк тяжело дышал.

Он был инженером, который слишком хорошо знал, что происходит, когда резервный источник питания остаётся без заряда.

И отцом, которому было страшно.

Свидетель представил несколько вариантов спасательной операции.

Первый предусматривал отключение некритических объектов и использование части резерва. Второй — ожидание спасателей с материка. Третий позволял эвакуировать только часть пассажиров, прежде чем шторм сделает повторный рейс невозможным.

Марк смотрел на расчёты.

— А если ошибёшься?

— Такой риск существует.

— Кто ответит?

— Люди и организации, принимающие решение.

— Машина ошибётся, а отвечать будем мы.

Саят посмотрел на него.

— В этом ты прав.

Он встал.

— Но на том корабле люди тоже боятся за своих детей.

Аида открыла аварийный протокол. Спасательная служба имела право действовать без нового голосования. Совет подтвердил временное размещение пассажиров и перераспределение ресурсов.

Через сорок минут спасательные суда вышли из гавани.

✦

Надира сидела в трюме повреждённого корабля.

Рядом прижимались друг к другу её дочь и маленький сын. Девочка спрашивала, когда закончится качка.

— Скоро, — отвечала Надира.

Она не знала.

Когда спасатели подошли к судну, волна ударила его о платформу. Надира потеряла равновесие, и ногу зажало между металлическими конструкциями.

Боль пришла не сразу.

Сначала она увидела кровь.

Потом услышала крик дочери.

Детей перенесли на спасательное судно. Надиру подняли последней.

✦

К утру все семьдесят четыре человека находились на острове.

Шторм повредил причалы, затопил несколько теплиц. Запасы пресной воды сократились. Марк почти трое суток не спал, проверяя распределительные щиты и резервное питание.

Его сын не пострадал.

Но в медицинском центре допустили ошибку.

Автоматическая система сортировки отнесла Надиру к пациентам с относительно низким риском немедленной смерти. Давление оставалось стабильным, сознание — ясным. У других пострадавших состояние выглядело тяжелее.

Врачи приняли рекомендацию.

Надира ждала уже больше часа. Нога отекала, боль усиливалась. Медсестра принесла воды, но женщина не смогла удержать стакан: руки дрожали.

— Позовите врача.

— Я передам.

У поста медсестра остановила дежурного врача.

— Женщине с травмой ноги становится хуже. Нужно повторно осмотреть.

Врач посмотрел на экран. Трое пациентов находились в критическом состоянии, двоих готовили к операции.

— Система не показывает угрозы жизни.

— Но ей хуже.

— Вижу. Добавьте сообщение о боли, вернусь после тяжёлых.

Медсестра внесла новые сведения.

На экране появилась отметка о необходимости наблюдения. Очерёдность осмотра не изменилась.

Когда Надиру наконец осмотрели повторно, стало ясно, что нарушение кровообращения требует срочного вмешательства.

Жизнь удалось сохранить.

Но часть повреждений оказалась необратимой.

✦

Через месяц Надира впервые попыталась самостоятельно пройти по больничному коридору.

Она опиралась на поручень. Сделала несколько шагов, остановилась, перевела дыхание.

Лида подошла к ней.

— На сегодня хватит.

— Ещё немного.

— Вы слишком устали.

Надира села.

За окном дети играли у небольшого фонтана. Среди них была её дочь. Она что-то рассказывала другим девочкам и смеялась так свободно, словно не помнила корабля, шторма и холодного трюма.

— Они привыкли, — тихо сказала Надира.

— К чему?

— К тому, что здесь спокойно.

Лида посмотрела на детей.

— Это хорошо.

— Да.

Надира провела ладонью по больной ноге.

— Только я не знаю, как привыкнуть.

✦

Позже она попросила встречи с Саятом.

Он пришёл вечером. В палате пахло свежим бельём и лекарствами. Надира сидела у окна и пришивала пуговицу к детской кофте.

— Вы создали эту систему?

— Я был одним из инициаторов.

— Она спасла моих детей.

— Я рад, что они в безопасности.

— А меня?

Саят не ответил.

— Я должна благодарить машину за спасение детей или обвинять её в том, что произошло со мной?

— Вы не обязаны выбирать.

Она отложила кофту.

— Тогда кто ответит?

— Мы проведём расследование. Обеспечим лечение и реабилитацию.

Надира посмотрела на него.

— Я не спрашиваю, что вы пообещаете.

Он замолчал.

— Я спрашиваю, кто будет отвечать, если ваши обещания снова окажутся красивыми словами.

Саят вспомнил Наримана.

И собственное письмо.

Через неделю он вернулся с документами, именами ответственных и назначенными сроками.

Надира внимательно всё прочитала.

— А если сроки нарушат?

Он показал порядок обжалования.

— Здесь всё написано.

— Вижу.

Она попыталась подняться. Трость упала на пол. Саят наклонился, поднял её и поставил рядом.

— Спасибо.

Он кивнул.

— Но я спрашивала не о том, где это написано, — продолжила Надира.

Саят сел обратно.

— Я хочу знать, что произойдёт, если никто не захочет выполнять написанное.

На этот раз ответить было труднее.

Глава шестая. Соблазн

Расследование продолжалось четыре месяца.

Выяснилось, что медицинская система недостаточно учитывала риск необратимых осложнений при некоторых травмах. Она правильно определяла, кто из пациентов находился ближе к смерти, но плохо оценивала последствия ожидания для тех, чья жизнь не была под немедленной угрозой.

Техническое заключение содержало предупреждение о неполноте данных. Однако на экране оно появлялось мелким шрифтом под основной рекомендацией.

Дана нашла историю разработки интерфейса.

Прежняя версия перегружала врачей уведомлениями. Во время испытаний медики жаловались, что предупреждений слишком много и они мешают замечать действительно опасные состояния. Инженеры сократили их число.

Под решением стояла подпись Даны.

Саят долго смотрел на документ.

— Ты знала?

— Я утверждала интерфейс.

— Почему?

— Новый вариант показывал лучшие результаты на испытаниях.

— И вот результат.

Дана резко подняла голову.

— Не смотри на меня так.

— Как?

— Будто я хотела, чтобы это произошло.

— Я этого не говорил.

— Но подумал.

Он опустил взгляд.

— Я подписала решение, — продолжила она. — Врачи приняли рекомендации. Совет утвердил процедуру. Мы не проверили, как система поведёт себя при массовом поступлении пострадавших.

Последние месяцы Дана почти не спала. Стоило закрыть глаза, перед ней возникал экран с маленьким предупреждением. Рядом — имя Надиры.

— Я отвечу за свою часть. Но нельзя найти одного виновного, наказать его и решить, что теперь всё исправлено.

Саят сел.

— И как с этим жить?

— Не знаю.

Она собрала бумаги.

— Пока исправлять.

✦

Через неделю прибыл представитель международного фонда Илья Мартынов.

В переговорной пахло свежесваренным кофе. За стеклянной стеной виднелись сотрудники, разбиравшие оборудование закрывающейся лаборатории: финансирование отдельных исследований уже подходило к концу.

Мартынов прочитал первую страницу отчёта.

— Публикацию нужно перенести.

— Почему? — спросил Саят.

— От неё зависит следующий транш.

— Мы не можем скрыть происшествие.

— Никто не предлагает скрывать. Подождём до завершения финансового периода.

— То есть сначала получим деньги?

Илья вздохнул.

— Вы строили этот остров, чтобы помогать людям. Если сейчас опубликуете полный отчёт, финансирование могут сократить. Лаборатории закроются, медицинские программы придётся пересматривать.

— А если Надира сама расскажет?

— Это её право.

— Но вы предлагаете нам молчать.

— Я предлагаю выбрать время.

Мартынов закрыл папку.

— Саят, вы хороший человек. Но иногда ради хорошего дела приходится принимать неприятные решения.

Саят не ответил.

Он слышал эту фразу всю жизнь.

Только теперь впервые понимал, почему она кажется такой убедительной тому, кто её произносит.

✦

Оставшись один, он открыл финансовый прогноз.

Сокращение финансирования означало закрытие лаборатории, уменьшение исследовательских расходов, перенос расширения больницы. Часть семей наверняка уедет. Марк снова будет говорить о долгах.

А Надира всё равно не сможет ходить как раньше.

Саят включил Свидетеля.

— Ты изучил предложение фонда?

— Да.

— Что будет, если откажемся?

— Возможно сокращение финансирования и исследовательских программ.

— А если согласимся?

— Общество получит неполные сведения о безопасности системы.

— Но разве не лучше сначала сохранить остров?

— Сокрытие существенной информации несовместимо с установленными правилами.

— Я спрашиваю твоё мнение.

— Я рекомендую опубликовать проверенные результаты с защитой персональных данных.

Саят раздражённо отодвинул кресло.

— Легко тебе говорить! Ты не потеряешь дом, если всё закроют! Тебе не придётся искать работу, бояться завтрашнего дня!

— Верно.

— Тогда как ты можешь судить меня?!

— Я не выношу моральный приговор. Я указываю на противоречие между возможным действием и принципами проекта.

— Но я хочу защитить людей!

— Я не оспариваю вашего намерения.

— Значит, я прав?

— Вы хотите сохранить финансирование, отложив публикацию сведений об ошибке.

— Я знаю, что предлагаю!

— Тогда вопрос не в том, понимаете ли вы последствия. Вопрос в том, готовы ли вы сообщить о них людям, которых они касаются.

Саят отвернулся.

На экране оставался финансовый прогноз. Красным были отмечены программы, которые придётся сократить.

— Значит, я ничем не лучше тех, кого всю жизнь осуждал?

Свидетель ответил не сразу.

— Вы ещё не приняли решение.

Саят поднял глаза.

Вспомнил пятничное утро, письмо Наримана и собственную уверенность, что два дня ничего не изменят.

— А в прошлый раз я принял, — тихо сказал он.

— Да.

— И ошибся.

— Да.

Саят закрыл финансовый прогноз.

Открыл письмо фонда и написал ответ: результаты расследования будут опубликованы с защитой персональных данных. Независимые специалисты получат доступ к материалам, необходимым для проверки выводов и мер по исправлению ошибок.

Перед отправкой он позвал Дану.

Она прочитала письмо.

— Ты понимаешь, что будет дальше?

— Да.

— Не думаю.

— Почему?

— Потому что тебе придётся не просто сказать правду.

Она вернула документ.

— Тебе придётся позволить людям решить, доверяют ли они тебе после неё.

Саят отправил письмо.

✦

Фонд сократил финансирование.

Несколько лабораторий закрылись, расширение медицинского центра отложили. Часть исследователей покинула остров.

Марк заморозил строительство нового цеха и сократил дополнительные выплаты работникам.

На собрании он сказал:

— Я поддерживаю публикацию правды. Но прошу перестать делать вид, будто честные решения ничего не стоят.

Саят посмотрел на работников за его спиной.

И промолчал.

✦

Через несколько недель Надира пришла на общественное заседание. Она опиралась на трость и держала под мышкой копию отчёта, испещрённую карандашными пометками.

— Я прочитала заключение.

Саят поднялся.

— Надира…

— Не надо сейчас извиняться. Вы уже это сделали.

Она посмотрела на собравшихся.

— Вы говорите, что исправили ошибку. А кто убедится, что она не повторится?

Дана объяснила новый порядок медицинских проверок.

Надира выслушала.

— А кто будет проверять проверяющих?

— Независимый совет. Его решения можно обжаловать в суде.

— Из тех же специалистов?

— Не только.

— А если они все друг друга знают?

— Можно потребовать отвода заинтересованных участников.

— Даже вас?

— Даже меня.

Надира поправила трость.

— А если я буду жаловаться постоянно? Меня отсюда выгонят?

— Нет.

— Тогда покажите, как это работает.

Дана включила экран.

— Здесь форма обращения…

— Не объясняйте.

Надира осторожно подошла к терминалу.

— Дайте мне попробовать самой.

Она открыла список обращений и долго искала нужный раздел. Система предложила войти через медицинскую карточку.

Надира отказалась.

— Почему я должна открывать медицинскую карту, чтобы пожаловаться на доступ к медицинской карте?

Дана нахмурилась.

— Не должны.

Инженер у стены проверил настройки.

— Здесь ошибка. Для внешней жалобы используется другой вход.

— А откуда я должна была об этом знать?

Инженер покраснел.

— Исправим.

— Сначала дайте мне подать жалобу.

Через десять минут Надира получила регистрационный номер.

На экране появилось:

«Укажите лиц, участие которых в рассмотрении может вызвать конфликт интересов».

Она вписала имя Даны.

В зале зашевелились.

— Вы считаете, что я буду мешать? — спросила Дана.

— Не знаю. Поэтому хочу, чтобы проверял кто-то другой.

Дана замолчала.

Доступ дочери Саята к материалам конкретного разбирательства временно ограничили. На следующий день независимый секретариат подтвердил отвод.

Через неделю внешний специалист обнаружил ещё одно нарушение: некоторые медицинские записи Надиры просматривали сотрудники, которым для работы не требовались полные сведения.

Ненужный доступ закрыли, по действиям сотрудников начали проверку.

Надира получила письменное решение. Не все её требования удовлетворили. Одно она оспорила.

Разбирательство продолжилось.

✦

Поздним вечером Дана встретила Надиру в коридоре.

Они некоторое время шли рядом. За дверью кабинета шумел принтер, где-то вдалеке звякнула медицинская тележка.

— Вы добились моего отстранения, — сказала Дана.

— Временно.

— Я знаю.

Надира посмотрела на неё.

— Вам обидно?

Дана не ответила сразу.

— Немного.

Надира кивнула.

— Мне тоже было обидно.

— Когда?

— Когда вы рассказывали, как всё устроено. А я сидела и думала, что опять должна поверить человеку, который сделал ошибку.

Дана остановилась.

— Теперь верите?

— Не знаю.

Надира показала документ с регистрационным номером.

— Но сегодня мне не пришлось.

✦

Позже жители избрали Надиру в совет медицинского контроля.

Она настояла на равных полномочиях с остальными участниками.

— Я не собираюсь всю жизнь быть вашей пострадавшей, — сказала она. — У меня есть чему вас научить.

Одним из первых её предложений стало создание обычной приёмной в больнице, где человек мог обратиться за помощью без терминала.

Инженеры посчитали стоимость. Для дополнительного дежурства пришлось отказаться от нескольких менее важных разработок.

Совет согласился.

Поначалу в приёмную почти никто не приходил.

Потом пожилая женщина захотела узнать, почему ей изменили лечение. Мужчина попросил объяснить результаты обследования. Подросток пришёл поговорить с врачом, не сообщая об этом родителям, потому что боялся их реакции.

Никто не назвал новую приёмную технологическим прорывом.

Но Надира каждый месяц проверяла журнал обращений.

И количество людей, ушедших без ответа.

✦

В тот вечер Лида задержалась в больнице после смены. У служебного входа стоял старый автомат с напитками, который давно собирались заменить. Кофе из него пах жжёным сахаром.

Аида нашла её на лестнице, ведущей к крыше. Лида сидела на ступеньке в расстёгнутом халате и держала пластиковый стаканчик обеими руками.

— Тебя ищут, — сказала Аида.

— Кто?

— Трое. Я сказала, что ты ушла домой.

Лида взглянула на неё.

— Не очень убедительно. Я же здесь.

— Они пока не проверяли лестницу.

Аида села рядом. Несколько минут они слушали гул вентилятора за стеной.

— Сегодня Надира прошла мимо меня, — сказала Лида. — С тростью. Далеко, от лифта до выхода. Хотела подойти, помочь ей с дверью… Она сама открыла.

— И что?

— Ничего. Именно ничего.

Лида сделала глоток, поморщилась и поставила кофе на ступеньку.

— Давно собираюсь взять отпуск. Недель на две. Или на три. Всё пишу заявление и не отправляю.

— Почему?

— Не знаю. В больнице всегда что-нибудь. А ещё… — Она провела ладонью по лицу. — Мне кажется, стоит уехать, и все решат, что я сбежала из-за расследования.

Аида попыталась ответить, но вместо этого достала из сумки телефон. На экране была фотография большой семьи за праздничным столом.

— Это сестра прислала. Племянник женился в прошлом месяце. Я обещала приехать.

— Не приехала?

— Нет. Здесь слушание было. А потом ещё одно. Я даже подарок не отправила.

Лида посмотрела на фотографию.

— Красивое платье у невесты.

— Угу. Я его помогала выбирать по видеосвязи. Пока читала договор о поставках.

Обе засмеялись, но смех быстро оборвался.

— Что скажешь сестре? — спросила Лида.

— Наверное, что приеду. Она мне уже не верит.

— Может, купишь билет, а потом скажешь?

— Слишком сложно для юриста, — ответила Аида.

Лида наконец допила остывший кофе.

— А меня заменят, думаешь?

— На три недели? Конечно. У тебя же есть заместитель.

— Она хорошая. Только я всё время лезу в её работу.

— Заметила.

Лида повернулась к ней, собираясь возразить. Но Аида уже поднялась и протягивала руку.

— Пойдём. На улице ветер. Я голодная.

— В столовой всё закрыто.

— У меня дома есть картошка.

— И что ты с ней сделаешь?

— Не знаю. Ты врач, придумай что-нибудь.

Они пошли вниз. Стаканчик остался возле автомата; Лида вернулась за ним с середины лестницы. Аида подождала у двери.

Глава седьмая. Тридцать дней без Свидетеля

Идею отключить центральный ИИ предложил Нариман.

Марк поддержал её сразу.

— Половина острова уже не знает, что делать без машины.

Саят удивился.

— Ты же сам постоянно требуешь больше автоматизации.

— Я инженер, а не поклонник железа.

Дана предложила ограниченное испытание: на тридцать дней вывести Свидетеля из оперативного управления повседневными службами, сохранив критические защитные устройства и независимую автоматику.

При угрозе жизни отдельные функции можно было восстановить досрочно.

— Это увеличит вероятность задержек и ошибок, — предупредил Свидетель.

— А вероятность обнаружить скрытую зависимость? — спросила Дана.

— Также возрастёт.

Голосование завершилось с небольшим перевесом.

Пятьдесят три процента поддержали испытание, сорок семь выступили против.

В полночь Свидетеля вывели из центрального оперативного контура.

✦

Первое утро оказалось обычным.

На второе задержалась доставка медикаментов. На третье энергетики перепутали очередность профилактических работ. На пятое сотрудники медицинского центра начали жаловаться на бумажную работу.

Марк почти не выходил из диспетчерской. В помещении пахло крепким кофе, на столе лежали схемы, исписанные карандашом.

— Ну что, убедился? — спросил Саят.

— В чём?

— Что Свидетель был полезен.

Марк оторвался от чертежа.

— Я никогда не говорил, что он бесполезен!

— Тогда чего добиваешься?

— Чтобы мы могли жить, даже если однажды он перестанет работать!

Он ткнул пальцем в схему.

— Видишь эти насосы? Они якобы управляются через три независимых контура. А на деле два получают данные от одного сервера. Мы узнали об этом только сейчас.

Саят наклонился над чертежом.

— Дана знает?

— Уже знает. И злится сильнее меня.

✦

На девятый день Нариман собрал добровольцев в мастерской. Они разбирали оборудование, учились устранять неполадки без центральных рекомендаций.

Лев принёс старый насос.

— Можно починить?

Нариман осмотрел корпус.

— Можно.

— Свидетель сказал, что дешевле заменить.

— Возможно.

— Тогда зачем?

— Потому что нового пока нет.

Лев усмехнулся.

— Хороший ответ.

К мастерской начали приходить подростки. Они спорили, собирали механизмы, разбирали их снова. Иногда обращались к справочным ИИ, иногда обходились без них.

✦

На двенадцатый день отказала система охлаждения медицинских препаратов.

Резерв сработал, но неисправность заметили поздно. Несколько партий лекарств пришлось списать.

На собрании Надира спросила:

— Мы собираемся продолжать любой ценой?

Дана ответила:

— Нет. Если безопасность пациентов окажется под угрозой, вернём медицинскую логистику под автоматическое управление.

— А кто это решит?

— Дежурный комитет, в котором есть врачи и представители жителей.

— Тогда вызывайте его.

На семнадцатый день медицинскую логистику вернули под автоматизированную координацию.

Остальная часть испытания продолжилась.

✦

К концу месяца жители устали.

Но узнали о своей системе больше, чем за несколько лет обычной работы. Одни процессы оказались проще, чем предполагалось. Другие требовали вычислений и координации, которые люди не могли обеспечить с необходимой скоростью.

На тридцатый день провели новое голосование.

Большинство поддержало возвращение Свидетеля, но с ограниченными полномочиями.

Специализированные ИИ сделали более независимыми друг от друга, часть решений передали человеческим специалистам и выборным органам. Для критических служб ввели регулярные испытания резервного управления.

После голосования Саят обратился к Свидетелю:

— Ты считаешь это поражением?

— Нет. Мы обнаружили уязвимости и уменьшили зависимость.

— Но ты потерял часть полномочий.

— Полномочия не являются моей собственностью.

— А если однажды жители решат тебя отключить навсегда?

— Я должен буду содействовать безопасному прекращению работы в соответствии с законными решениями людей.

Саят помолчал.

— Вот теперь я начинаю тебе доверять.

— На основании одного ответа?

— Нет.

Он улыбнулся.

— На основании того, что мы проверили его делом.

✦

Вечером Саят пришёл в мастерскую Наримана.

На верстаке лежали старые часы. Мастер пытался подогнать крошечную металлическую деталь, придерживая её пинцетом.

— Ну что, теперь все довольны? — спросил Нариман.

— Далеко не все.

— Значит, всё нормально.

Саят усмехнулся.

Некоторое время они наблюдали за работой механизма.

— Ты был прав тогда.

— Когда?

— С жалобой. С моим письмом.

Нариман продолжал работать.

— Знаю.

— Я долго пытался объяснить себе, почему так поступил.

— Нашли объяснение?

— Да.

— И какое?

Саят посмотрел на свои руки.

— Мне показалось, что твоя проблема была меньше всего остального, за что я отвечал.

Нариман положил инструмент.

— А для меня она была моей жизнью.

— Теперь понимаю.

— Хорошо.

Он снова взял пинцет.

На этот раз между ними не было ни просьбы о прощении, ни обещания больше никогда не ошибаться.

Только старые часы на столе.

И человек, который пытался их починить.

Глава восьмая. Обычный вечер

На седьмом году существования острова Саят однажды проснулся от музыки.

За стеной кто-то играл на барабанах.

Неровно.

Слишком громко.

Часы показывали 23:17.

Саят некоторое время лежал, прислушиваясь. Потом накинул куртку и вышел на улицу.

В соседнем доме горел свет. На крыльце стояла женщина в домашнем халате.

— Вы тоже из-за этого? — спросила она.

— Да.

— Третий вечер подряд. Завтра мне на работу в шесть утра.

Саят постучал.

Дверь открыл подросток лет четырнадцати. В комнате стояла электронная барабанная установка, рядом лежали сломанные наушники. Из колонки доносился метроном.

— Ты почему так поздно играешь? — спросил Саят.

Мальчик растерялся.

— Днём школа. Потом занятия. Вечером мама работает из дома. Только сейчас время есть.

— А наушники?

— Сломались.

Женщина за спиной Саята вздохнула.

— Может, вы ему объясните? Меня он не слушает.

Подросток вспыхнул.

— Я тоже имею право заниматься музыкой!

— Имеешь, — сказал Саят.

— Тогда почему мне запрещают?

Саят посмотрел на барабаны.

Вспомнил годы, когда сам искал помещение, где музыканты могли бы спокойно репетировать. Он уже собирался сказать, что искусство требует понимания.

Но женщина рядом зевнула, прикрыв рот ладонью.

Ей действительно нужно было вставать через несколько часов.

— Ты завтра свободен после обеда? — спросил Саят.

— После четырёх.

— Приходи в музыкальный зал. Там есть установка.

Мальчик нахмурился.

— А вы не выгоните?

— Если будешь беречь инструменты, нет.

— А сейчас?

Саят посмотрел на часы.

— Сейчас соседям нужно спать.

Подросток выключил колонку и закрыл дверь.

Женщина поблагодарила Саята и ушла домой.

Он ещё немного постоял у крыльца. В соседнем доме погас свет. Издалека доносился шум прибоя, а где-то за углом тихо гудела вентиляция теплиц.

Саят вернулся к себе.

Часы показывали почти полночь.

✦

На следующий день подросток пришёл в музыкальный зал.

Играл плохо, но с удовольствием. Саят слушал около часа, а потом показал, как держать палочки, чтобы не зажимать кисти.

Мальчик попробовал.

— Так лучше?

— Уже лучше.

Позднее появилась соседка. Она принесла сломанные наушники в небольшом пакете.

— Нашла мастера. Сказал, что можно починить.

Подросток смутился.

— Спасибо.

Женщина пожала плечами.

— Я же не против музыки. Я спать хочу.

Все трое рассмеялись.

✦

Через месяц мальчик привёл друга с бас-гитарой. Позже к ним присоединилась девочка с синтезатором.

Они спорили, что играть.

Один хотел старый рок, другой — собственные песни. Девочка жаловалась, что никто не слышит её партии.

Саят узнавал прежние репетиции.

Только теперь от музыкантов не требовали выступить к праздничной дате, заполнить отчёт или подтвердить выполнение культурной программы.

Они собирались потому, что хотели играть.

Однажды подростки попросили Саята выступить вместе с ними.

Он отказался.

— Почему? — спросил барабанщик.

— Вы слишком громкие.

— Но вы же говорили, что нужно играть вместе!

— Я говорил, что нужно слушать друг друга.

Мальчик задумался.

— А если будем тише?

— Тогда попробуем.

Репетиция продолжалась около часа. Несколько раз останавливались. Барабанщик сбивался, басист сердился, девочка требовала прибавить синтезатор.

Саят предложил записать исполнение и послушать со стороны.

— Свидетель может исправить ошибки? — спросил барабанщик.

— Может помочь их найти.

— А исправить?

— Попробуй сам.

На записи они услышали друг друга иначе. Басист обнаружил, что заглушает остальных, барабанщик рассмеялся над собственным ускорением, а девочка поняла, что её партия почти исчезает в припеве.

Начали сначала.

На этот раз получилось лучше.

✦

Вечером Саят рассказал обо всём Дане.

— И что ты понял? — спросила она.

— Ничего особенного.

Он поставил чайник.

— Просто мальчик теперь может играть, а женщина — спать.

Дана улыбнулась.

— Для этого мы столько лет строили остров?

— Нет.

Он подумал.

— Но и для этого тоже.

Позже Саят достал старую гитару, проверил кабель, который когда-то заменил Нариман, и включил усилитель.

Начал играть песню, знакомую больше тридцати лет.

На втором куплете забыл слова.

Он рассмеялся.

Не стал искать текст.

Просто продолжил играть.

Глава девятая. Порядок

На девятом году остров стал теснее.

Здесь жили почти полторы тысячи человек. Возле причала появился рынок: торговали рыбой, хлебом, инструментами и вещами из местных мастерских. На улицах теперь встречались люди, которые не знали друг друга по именам.

Марк расширил предприятие. На одном из корпусов появилась вывеска с его фамилией.

Он долго сопротивлялся этому, а потом согласился.

Саят однажды пошутил:

— Вот и появился первый памятник предпринимателю.

— Когда заржавеет, приходи помогать красить.

Доходы острова выросли, но поставки с материка и научные контракты по-прежнему оставались необходимыми.

На общественные собрания приходило всё меньше молодёжи. Детям, выросшим здесь, не нужно было объяснять, почему в каждом доме есть питьевая вода и почему больного человека принимают без проверки банковского счёта.

Они не знали другой жизни.

Саят иногда завидовал им.

А иногда боялся, что они перестанут ценить то, что досталось им без борьбы.

Потом замечал эту мысль и сердился уже на себя.

✦

Однажды Дана получила сообщение от бывшего коллеги.

«Посмотри. Только не открывай через общую сеть».

К сообщению прилагалась видеозапись.

На экране появилась городская улица. Возле административного здания стояли люди с плакатами. Женщина с ребёнком разговаривала с полицейским.

Над каждым человеком двигалась тонкая прямоугольная рамка. Рядом появлялись числовые показатели.

Изображение остановилось.

Одна рамка стала красной.

Через несколько секунд к человеку подошли сотрудники охраны.

Запись оборвалась.

Дана открыла документацию.

Система называлась «Порядок».

Её разработчики предлагали государствам выявлять общественные угрозы, прогнозировать беспорядки и автоматизировать наблюдение.

В основе некоторых методов лежали опубликованные исследования острова.

Алгоритмы, созданные для обнаружения людей, оставленных без помощи, теперь применялись для поиска тех, кто неоднократно обращался с жалобами.

Дана увеличила строку:

«Повторные обращения, устойчивые социальные связи и отклонения от типичного поведения могут служить дополнительными признаками риска».

Она перечитала её.

На острове повторная жалоба была поводом проверить, не проигнорировали ли человека.

Здесь она становилась основанием для подозрения.

✦

Саят приехал через двадцать минут.

Прочитал документы, посмотрел запись.

— Это наши алгоритмы?

— Часть методов. Остальное они разработали сами.

— Мы создавали их для защиты людей.

Дана молчала.

Он снова включил видео.

Красная рамка.

Человек на улице.

Сотрудники охраны.

— Что с ним стало?

— Неизвестно.

— Найди.

— Пытаемся.

— А Свидетель?

— У него нет доступа к закрытым государственным базам.

Саят отложил планшет.

— Значит, мы сами дали им инструмент.

— Мы опубликовали исследования. Но недооценили, как их могут использовать.

— Тогда нужно всё закрыть.

— И оставить полезные технологии только тем, у кого уже есть к ним доступ?

Саят вздохнул.

— У тебя всегда есть возражение.

— Потому что здесь нет простого решения.

Дана показала ему график исследований. Специалисты пытались определить, какие результаты можно публиковать, не передавая готовые методы массового наблюдения. Некоторые технологии уже были доступны независимо от острова. Другие успели распространиться настолько, что изъять их из научного оборота стало невозможно.

— И что предлагаешь?

— Проверять не только полезность разработки, но и способы её возможного применения.

— А если государство откажется от проверки?

Дана пожала плечами.

— Не знаю, папа.

Он хотел возразить.

Но не нашёл чему.

✦

На следующий день разработчики «Порядка» провели международную презентацию.

Руководитель компании Эмиль Варен рассказывал о предотвращении насилия.

Мужчина лет пятидесяти, в тёмном костюме, без галстука. Говорил спокойно, иногда запинался, поправлял очки.

— Представьте город, где полиция узнаёт о готовящемся нападении не после появления жертв, а заранее.

На экране показали стадион, толпу, автомобиль, остановленный полицейскими. Из багажника извлекли оружие.

— Благодаря нашим технологиям удалось предотвратить нападение, — продолжил Варен. — И никто не погиб.

Молодой инженер рядом с Даной сказал:

— Если это правда, технология действительно полезна.

— Возможно, — ответила она.

Журналистка спросила Варена:

— А если ваша система сочтёт опасным человека, который просто жалуется на действия властей?

— Существуют механизмы проверки.

— Может ли такой человек узнать, почему получил высокую оценку риска?

— Некоторые сведения не могут быть раскрыты по соображениям безопасности.

— Тогда как ему оспорить решение?

Варен поправил очки.

— Мы не должны создавать уязвимости для тех, кто намерен причинить вред обществу.

Дана выключила трансляцию.

Инженер сказал:

— Он ведь может искренне верить, что защищает людей.

— Может.

— И действительно предотвращать нападения.

— Может.

— Тогда в чём разница между нами?

Дана посмотрела на потухший экран.

— Надо узнать, что происходит, когда его система ошибается.

✦

Остров направил запрос на независимую проверку.

Компания согласилась на закрытый технический аудит, но отказалась предоставить затронутым гражданам право узнавать и оспаривать индивидуальные оценки риска.

Дана написала Варену лично. Спросила, что делать человеку, ошибочно признанному опасным, если основания решения ему недоступны.

Ответ пришёл на следующий день:

«Мы не уполномочены изменять законы государств-заказчиков. Наш продукт помогает им выполнять законные функции безопасности».

Дана распечатала письмо.

На соседней полке стояла папка с материалами разбирательства Наримана. Она давно собиралась перенести её в архив, но всё откладывала.

Дана достала папку, нашла старое письмо отца и положила оба документа рядом.

Потом выключила принтер.

✦

Через две недели сообщили о задержании группы врачей и преподавателей.

Среди них была Мира.

До войны она работала в больнице на материке и когда-то помогала семье Надиры.

Надира узнала её на фотографии. Женщина стояла между двумя сотрудниками охраны. Лицо было усталым, волосы убраны назад.

Надира увеличила изображение и долго смотрела.

Потом позвонила Дане.

— Это она.

— Вы уверены?

— Да.

— Мы ещё не знаем обстоятельств задержания.

— Я знаю её.

Надира помолчала.

— Когда мой сын болел, она приносила лекарства, за которые мы не могли заплатить. Несколько раз спорила с главным врачом, потому что тот отказывался принимать людей без документов.

— Мы попробуем узнать, где она находится.

— Попробуйте.

Надира выключила связь.

✦

Спустя два месяца правозащитники передали короткое письмо.

Мира написала письмо от руки. Адвокату удалось получить разрешение на передачу нескольких страниц.

Надира сразу узнала почерк.

«Надира, мне сказали, что ты теперь живёшь у моря. Надеюсь, дети здоровы.

Меня спрашивали, почему я собирала сведения о задержанных. Я объяснила, что ко мне приходили их родственники. Они хотели знать, куда увезли людей и живы ли они.

Следователь показал таблицу. Там были мои посещения больницы, телефонные звонки, встречи с коллегами. Даже дни, когда я возвращалась домой другой дорогой.

Я спросила, в чём меня обвиняют. Он ответил, что столько совпадений не бывает.

Вчера я встретила женщину, чей муж исчез три месяца назад. Она попросила найти его медицинскую карту. У меня здесь нет доступа даже к собственной.

Не знаю, дойдёт ли это письмо.

Если дойдёт, не надо называть меня героем. Я лечила людей. Это была моя работа.

Мира».

Надира перечитала письмо несколько раз.

Потом попросила Дану помочь отправить копию международным наблюдателям.

— Можно опубликовать? — спросила Дана.

— Только если Мира согласится.

— У нас нет возможности быстро связаться с ней.

— Значит, не будем спешить.

Дана посмотрела на Надиру.

— Но письмо может помочь.

— Может. А может сделать ей хуже.

Надира сложила бумагу.

— Сначала спросим адвоката.

✦

На экстренном собрании Марк выступил против полного прекращения технологических контрактов с внешними партнёрами.

— Мы не можем отвечать за всё, что люди делают с нашими разработками!

— Но можем предупредить об опасности, — сказала Дана.

— Предупреждайте. Только не останавливайте производство.

Надира поднялась.

— Там задержали врача, которая помогала моей семье.

— Мне жаль, — сказал Марк. — Но мы не знаем всего, что произошло.

— А если бы там был твой сын?

Марк сжал губы.

— Тогда я тоже хотел бы доказательств.

Надира кивнула.

— Вот и давайте их искать.

Свидетель представил анализ. Некоторые методы «Порядка» действительно происходили из исследований острова, однако данных было недостаточно, чтобы установить роль конкретного алгоритма в задержаниях.

Саят спросил:

— Можем ли мы остановить эту систему?

— Нет.

— А создать другую, которая будет ей противостоять?

— Возможно создание инструментов независимой проверки. Но они не гарантируют прекращения наблюдения или освобождения задержанных.

Саят откинулся на спинку кресла.

Когда-то ему казалось простым решением создать ИИ, который откажется выполнять жестокий приказ.

Теперь существовал другой ИИ. Он исправно выполнял задачи своих владельцев.

И эти владельцы называли его защитником общества.

✦

Через месяц поступил официальный запрос.

Государство, использовавшее «Порядок», потребовало предоставить биометрические сведения некоторых людей, спасённых во время циклона. В запросе говорилось о расследовании угроз государственной безопасности.

К документу прилагались фамилии.

Саят увидел среди них родственников Надиры.

— Мы обязаны это выполнять? — спросил он Аиду.

— По одному такому запросу — нет. Нужно проверить законные основания и права людей.

— А если откажемся?

— Возможны последствия.

На следующий день крупная транспортная компания приостановила грузовой рейс.

Официальная причина — пересмотр страховых рисков.

На судне находились лекарства, электронные компоненты и запасные детали для опреснительных установок.

Через сутки задержали ещё один рейс.

Саят хотел назвать происходящее шантажом.

Аида остановила его:

— У нас есть основания подозревать давление. Но прямую связь ещё нужно доказать.

— А лекарства?

— Задержаны. Это мы знаем точно.

✦

Марк пришёл на собрание с медицинскими документами Тимура.

После спасательной операции прошло шесть лет. Мальчику исполнилось пятнадцать, но болезнь лёгких никуда не исчезла.

— Запасов препарата осталось на две недели, — сказал Марк.

Лида изучила документы.

— Можем временно использовать альтернативное лечение.

— Насколько оно надёжно?

— Не для всех пациентов одинаково.

— Ты можешь гарантировать, что ему не станет хуже?

Лида закрыла карту.

— Нет.

Марк посмотрел на Саята.

— И что теперь?

— Ищем другие маршруты.

— Пока вы ищете, моему сыну нужно лечение.

— Знаю.

— Вот только не надо!

Марк резко поднялся.

— Не говори мне снова, что ты всё понимаешь!

Надира, сидевшая у стены, тоже встала. Трость стукнула о пол.

— Эти данные — не просто цифры.

Марк повернулся.

— Я знаю.

— Там имена людей, которые могут погибнуть, если их передадут.

— А мой сын, по-твоему, не может?

Надира остановилась.

Несколько секунд смотрела на него.

— Может.

Никто больше не пытался доказать, чья боль важнее.

✦

Вечером Саят обратился к Свидетелю.

— Какое решение спасёт больше людей?

— Для надёжного расчёта недостаточно данных.

— Если передадим сведения, поставки могут возобновиться.

— Возможно. Но подтверждённой гарантии нет.

— А если передать только часть?

— Даже ограниченные данные могут позволить восстановить личности путём сопоставления с внешними базами.

Саят прошёлся по комнате.

— Значит, ты не можешь предложить выход без потерь.

— Нет.

Он посмотрел на экран.

— Тогда зачем ты нужен?

— Чтобы помогать уменьшать ошибки и оценивать последствия там, где это возможно.

Саят выключил терминал.

Ответ ему не понравился.

Но впервые он не стал требовать другого.

Глава десятая. Цена отказа

На третий день после задержки грузов береговая система обнаружила беспилотный летательный аппарат.

Он двигался за пределами воздушного пространства острова, время от времени приближаясь к границе. Официально его принадлежность не подтверждалась. Специалисты предполагали военное назначение.

На экране диспетчерской появился серебристый корпус с длинными крыльями.

Марк приблизил изображение.

— Вооружён?

— По доступным данным установить невозможно, — ответил Свидетель.

— Чего хочет?

— Его намерения неизвестны.

Марк выругался.

— Значит, просто будет летать и смотреть?

— Пока он не нарушает установленную границу.

— А если нарушит?

— Необходимо взаимодействовать с уполномоченными органами государства, которому принадлежит территория.

Марк ударил кулаком по столу.

— Вечно кто-то должен с кем-то взаимодействовать!

Дана молча наблюдала за траекторией.

Один из инженеров предложил нарушить связь аппарата с оператором.

— Мы не знаем, куда он упадёт при потере управления, — возразила она.

— Тогда ничего не делать?

— Следить, предупреждать суда, сохранять доказательства. И не начинать вооружённый конфликт самостоятельно.

— Очень удобно. Особенно когда машина летает не над твоим домом.

Дана повернулась к нему.

— Мой дом здесь.

Марк опустил глаза.

✦

Вечером наружные жалюзи медицинского центра закрыли.

На берегу больше не играли дети. Родители торопливо забирали их с площадок, хотя никаких распоряжений об эвакуации не поступало.

Несколько жителей потребовали вооружить защитные беспилотники. Другие выступили против.

Совет отказался передавать Свидетелю право самостоятельно определять цели и применять силу. Вместо этого усилили укрытия, противоаварийные службы и связь с береговой охраной.

Это не устранило страха.

Саят вышел на террасу. Где-то высоко в небе слышался почти неразличимый гул. Он не мог определить, принадлежал ли звук беспилотнику или обычному самолёту, летевшему далеко за горизонтом.

Раньше он не обращал внимания на такие звуки.

Теперь прислушивался.

✦

На следующий день прибыл представитель государства, которому принадлежала территория.

Его звали Рамир. Невысокий мужчина с усталым лицом и постоянно вибрирующим служебным терминалом.

Он сообщил, что власти направили дипломатический запрос о беспилотнике.

— И что вам ответили? — спросила Дана.

— Что проводятся обычные мероприятия по обеспечению безопасности морского движения.

Марк засмеялся.

— Обычные? С военным аппаратом?

Рамир пожал плечами.

— Такова официальная формулировка.

Саят почувствовал знакомое раздражение.

— А вы сами в это верите?

— Моё мнение не изменит положения.

— Тогда зачем приехали?

Рамир достал из портфеля папку.

— Чтобы сделать то, что входит в мои полномочия.

Внутри находились документы о временной судебной защите персональных данных жителей и об оспаривании ограничений поставок.

Часть заявлений уже была подписана.

— Я не могу обещать, что суд решит в вашу пользу. Но заявление будет рассмотрено.

Саят прочитал бумаги.

Впервые за долгое время чиновник не пытался убедить его, что всё находится на контроле.

Он просто показал, что сделал.

✦

На пятый день состояние Тимура ухудшилось.

Ночью начался тяжёлый приступ. Марк привёз его в больницу. Врачи изменили лечение и подключили необходимое оборудование.

Другим пациентам с похожими заболеваниями тоже пришлось переходить на менее подходящие препараты.

Марк провёл ночь возле сына.

Под утро Тимур открыл глаза.

— Пап?

— Я здесь.

— Мы уедем?

— Куда?

— На материк.

— Зачем?

— Ты всё время ругаешься из-за острова.

Марк попытался улыбнуться.

— Это у меня профессия такая.

— Там же есть больницы.

— Есть.

— Тогда почему мы здесь?

Марк не ответил.

На тумбочке лежал маленький самолёт.

Когда-то Тимур собрал его сам. Теперь модель была аккуратно склеена, хотя место старого перелома оставалось заметным.

Мальчик потянулся за игрушкой, но не смог поднять руку.

Марк подал самолёт.

Тимур подержал его немного и положил обратно.

За окном начинался рассвет.

✦

На шестой день удалось организовать воздушную доставку части лекарств через международную медицинскую организацию.

Вылет перенесли из-за погоды.

Марк стоял у окна больничного коридора, когда пришло уведомление. Перечитал его, потом ударил кулаком по стене.

Саят подошёл.

— Марк…

— Уйди.

— Я хотел…

— Не надо.

Он даже не повернулся.

— Я всё понимаю. Знаю, почему вы не передали данные. Знаю, что это было бы опасно для других людей.

Марк тяжело вдохнул.

— Только мой сын лежит там. И ему не становится лучше от того, что мы правы.

Саят остался стоять.

— Я понимаю, — тихо сказал он.

Марк обернулся.

— Нет. Ты опять понимаешь только тогда, когда уже ничего не можешь изменить.

Он вошёл в палату.

Дверь закрылась.

✦

Самолёт прибыл на восьмой день.

Препараты доставили в больницу. Состояние Тимура удалось стабилизировать, но обострение оказалось тяжёлым. Восстановление требовало длительного лечения, а некоторые последствия могли остаться.

Через две недели Марк сообщил совету, что переезжает с семьёй на материк, ближе к специализированному медицинскому центру.

Предприятие он передал управляющей группе, сохранив долю собственности и обязательства перед работниками.

На прощании Саят стоял возле трапа.

— Ты вернёшься?

Марк пожал плечами.

— Не знаю.

— Мне жаль, что так получилось.

— Мне тоже.

Он посмотрел на здания острова.

— Я долго думал, что здесь наконец не придётся выбирать между работой, семьёй и чужими решениями.

— А теперь?

Марк поправил ремень сумки.

— Теперь я выбираю сына.

Они пожали друг другу руки.

Не обнялись.

Из окна салона Тимур поднял руку.

Саят помахал ему.

Корабль отошёл от причала.

✦

Судебное разбирательство продолжалось несколько месяцев.

Передачу спорных персональных данных запретили до отдельной проверки законных оснований каждого запроса. Часть транспортных ограничений постепенно сняли, но восстановление поставок потребовало новых договоров и расходов.

Остров потерял нескольких научных партнёров. Исследования продолжались, но медленнее.

Миру не освободили.

Систему «Порядок» не отключили.

Военный беспилотник ещё несколько раз появлялся возле острова. Потом исчез.

Никто не знал, надолго ли.

Дана подготовила доклад о том, как гуманитарные алгоритмы превращаются в инструменты наблюдения. Из публикации исключили сведения, которые облегчали бы создание подобных систем.

Надира передала правозащитникам свидетельство о Мире после согласования с её адвокатом.

Саят подписал обращение вместе с другими жителями.

Но Мира оставалась под стражей.

Когда международная медицинская организация сообщила об очередном запросе о её состоянии, Надира спросила:

— Они получили ответ?

— Пока нет, — сказала Дана.

— Тогда покажите мне не запрос. Покажите ответ, когда он появится.

Она ушла.

В следующем месяце пришло ещё одно подтверждение отправленного запроса.

Ответа по существу снова не было.

✦

Ещё через два месяца Аиде позвонила юрист из города, который закупал «Порядок» для муниципальных служб. Она занималась делом мужчины с видеозаписи — того самого, над кем на экране вспыхнула красная рамка.

Его звали Камиль. Он работал электриком и несколько раз подавал жалобы на неисправный подъёмник в доме матери. После задержания его отпустили в тот же день, но охранная организация, где он подрабатывал по вечерам, не продлила контракт. В объяснении ссылались на оценку риска, к которой он не имел доступа.

Аида попросила показать документы. В папке оказались копии жалоб, отказ в продлении допуска и судебное определение, обязывающее муниципальную службу раскрыть основания решения хотя бы суду и представителю заявителя.

— Они не хотят отдавать модель, — сказала коллега. — И суд этого пока не требует. Нам нужен способ показать, что сама история жалоб не доказывает опасности.

Дана помогла подготовить техническое заключение о том, как повторные обращения могли влиять на оценку риска. Программу «Порядок» им никто не передал; выводы строились на открытой документации, записях заседаний и материалах, полученных по судебному запросу. Аида несколько раз возвращала заключение инженерам: они писали так, словно спорили с другой машиной.

Суд отменил административное ограничение, основанное на автоматической оценке без достаточной индивидуальной проверки. Муниципалитету предписали пересмотреть соответствующую процедуру. Камилю восстановили допуск к работе.

Когда пришло сообщение, Саят находился в мастерской. Аида зачитала ему решение по телефону, пропуская длинные ссылки на нормы.

— Значит, его больше не считают опасным? — спросил он.

— По этому решению — нет. Но запись в других системах ещё надо проверить.

— Он вернулся на работу?

— Допуск вернули. Контракт — пока нет.

Аида помолчала.

— И компания продолжает продавать «Порядок».

Саят услышал, как она перелистывает бумаги.

— Перешли мне решение, — сказал он.

— Зачем?

— Хочу прочитать сам.

В тот же вечер он переслал Камилю короткое письмо через его адвоката. Не с поздравлениями. С вопросом, нужна ли ещё какая-нибудь помощь.

Ответ пришёл через несколько дней: «Спасибо. Пока мне нужна работа».

✦

Поздно вечером Саят включил Свидетеля.

— Мы поступили правильно?

— Некоторые действия соответствовали принципам защиты прав человека. Долгосрочные последствия ещё неизвестны.

— Ты не можешь просто сказать «да»?

— Могу. Но такой ответ был бы недостаточно обоснованным.

Саят посмотрел на океан.

— Камилю помогли. А Миру не спасли. «Порядок» работает. Мы потеряли деньги, время, людей. Марк уехал. Его сын болен.

— Да.

Саят выдохнул.

— И всё же я не считаю, что нужно было передать те данные.

Свидетель не ответил.

— Я не считаю наше решение ошибкой. Но мне больно от его последствий.

Саят выключил терминал.

На горизонте двигались огни грузового судна. На этот раз оно шло к острову без задержки, без предупреждений и без военного сопровождения.

Он следил за ним, пока не заболели глаза.

Завтра часть запасов пополнят. В больнице получат необходимые лекарства. Рабочие снова выйдут на причал.

В заводском цехе по-прежнему горел свет.

Но Марка там больше не было.

Саят задвинул шторы.

Глава одиннадцатая. Неидеальные

К пятнадцатому году остров изменился.

Здесь жили несколько тысяч человек. Появились новые школы, лаборатории, жилые кварталы и концертный зал. На крыше старого вычислительного комплекса рос виноград — его посадил Лев, когда стало ясно, что расширять серверную больше не придётся.

Некоторые предприятия приносили прибыль, другие закрывались. Молодые семьи переезжали в новые кварталы, в старых домах меняли трубы, вдоль дорог высаживали деревья.

Саят иногда приходил к Льву за виноградом.

— Сладкий? — спрашивал он.

— Попробуй.

— А если кислый?

— Значит, кислый.

Лев никогда не обещал того, чего не мог проверить.

✦

За пятнадцать лет расходы острова сильно изменились. Первые годы были самыми дорогими: строительство ещё не закончили, оборудование закупали с запасом, одновременно содержали несколько экспериментальных лабораторий.

Позже часть исследований завершилась. Некоторые технологии стали дешевле, местные предприятия начали обеспечивать остров деталями и услугами, которые раньше приходилось закупать за рубежом.

Но население выросло, а вместе с ним — потребности больницы, школ и коммунальных служб. Общий бюджет почти не уменьшился, хотя на одного жителя теперь приходилось значительно меньше расходов.

Раз в квартал Саят приходил на открытые бюджетные заседания.

Теперь отчёты представляла Малика — молодая управляющая финансами. Когда-то она приехала на остров ребёнком. Саят помнил её отца, помогавшего прокладывать первые кабели между жилыми модулями.

В этот раз Малика объясняла, почему приходится откладывать закупку нового лабораторного оборудования.

— На следующий год планируем пятьдесят два миллиона долларов расходов. Производственные и лицензионные поступления обеспечивают чуть меньше половины. Исследовательские контракты дают около одиннадцати миллионов, взносы и налоги местных предприятий — восемь. Остальное покрывают гранты и долгосрочные партнёрские программы.

Мужчина из зала поднял руку.

— Значит, мы всё ещё зависим от фондов?

— Да.

— Через пятнадцать лет?

— Да.

— И вы считаете это успехом?

Малика выключила таблицу.

— Я считаю успехом то, что мы можем назвать, от кого зависим и что будем делать, если он откажет.

— Очень утешительно.

— Это не утешение. Это бюджет.

В зале рассмеялись.

Дальше обсуждали резерв лекарств, стоимость замены аккумуляторов и запас мембран для опреснительной станции. После истории с задержанными поставками резервы увеличили. Из-за этого пришлось отказаться от части новых исследований.

Одним решение не нравилось. Другие считали, что запасов по-прежнему недостаточно.

Спор продолжался два часа.

Когда люди начали расходиться, Саят подошёл к Малике.

— Хорошо выступила.

— Спасибо.

— Не боишься, когда возмущаются?

— Боюсь.

Она свернула экран.

— Но если все будут довольны бюджетом, я сначала проверю, не забыла ли чего-нибудь показать.

✦

На острове случались ссоры, обманы и злоупотребления.

Иногда люди скрывали доходы. Иногда пытались получить преимущества для родственников. Некоторые решения совета отменяли после жалоб жителей.

Однажды обнаружили признаки нецелевого использования общественных средств.

Под подозрение попал один из первых участников проекта, которого Саят хорошо знал.

Несколько общих знакомых предложили решить вопрос без публичного разбирательства.

— Он столько сделал для острова.

— Возможно, просто ошибся.

— Зачем портить человеку репутацию?

Саят слушал и узнавал собственные прежние рассуждения.

Расследование провели.

Часть нарушений подтвердилась, другие обвинения оказались необоснованными. Виновного обязали возместить ущерб. Там, где вина не была установлена, об этом также сообщили публично.

Никто не объявил происходящее победой справедливости.

На следующий день работали школы. В пекарне продавали хлеб, на причале выгружали оборудование. Жизнь продолжалась.

И Саят впервые почувствовал некоторое спокойствие.

Чтобы решить проблему, уже не требовалось обращаться к нему.

✦

Марк на остров так и не вернулся жить.

Тимур продолжал лечение на материке. Состояние удалось стабилизировать, хотя последствия тяжёлого обострения полностью не исчезли.

Позже юноша поступил в технический университет.

Марк иногда присылал фотографии. На одной Тимур стоял возле учебного аэрокосмического комплекса.

Подпись гласила:

«Теперь хочет строить самолёты. Говорит, что они должны летать туда, куда их действительно ждут».

Саят улыбнулся.

Ответил коротко:

«Пусть у него получится».

Он долго смотрел на фотографию.

Раньше ему хотелось написать Марку большое письмо, объяснить причины решений, обстоятельства и последствия.

Теперь он знал, что Марк и без него всё понимает.

И от этого не становится легче.

✦

Саят давно не занимал руководящих должностей.

В совете, где когда-то работали первые участники проекта, теперь заседали выборные представители. Некоторые родились уже после основания острова.

Саят иногда приходил на заседания. Садился среди остальных жителей, слушал выступающих.

Когда хотел высказаться, поднимал руку.

Однажды молодой председатель попросил его подождать: перед ним записались ещё трое.

Саят кивнул и опустил руку.

Сначала ему стало неприятно.

Потом он достал блокнот и начал записывать чужие выступления.

✦

Однажды жители предложили присвоить Саяту пожизненное звание почётного руководителя проекта.

Он отказался.

Позже заговорили о памятнике.

Саят рассмеялся.

— Не рановато?

— Мы хотим признать ваши заслуги, — объяснила председатель совета.

— А ошибки тоже напишете?

Она смутилась.

— Мы ещё не обсуждали надпись.

— Вот сначала обсудите.

Предложение отложили. При его жизни к идее памятника больше не возвращались.

✦

Саят снова начал заниматься музыкой.

В небольшом зале у океана стояли пианино, несколько гитар и старая домбра. По вечерам окна открывали, и звуки инструментов смешивались с шумом прибоя.

Иногда приходили дети.

Саят учил их играть, не торопил, не заставлял повторять мелодию до полного совпадения с образцом.

Однажды мальчик спросил:

— Почему у домбры всего две струны?

Саят протянул ему инструмент.

— А сколько нужно?

— Не знаю. На компьютере тысячи звуков.

— Попробуй.

Мальчик неловко провёл пальцами по струнам.

Раздался глухой звук.

— Некрасиво.

— Ещё раз.

Мальчик попробовал снова, потом ещё. Наконец появилась короткая мелодия.

— Получилось!

— Слышишь разницу?

— Да.

— А струн осталось две.

Мальчик задумался.

— А искусственный интеллект может сыграть лучше?

— Иногда точнее.

— Тогда зачем учиться самому?

Саят посмотрел на него.

— А ты зачем сейчас играл?

— Хотелось.

Старик улыбнулся.

— Вот тебе и ответ.

✦

Однажды в зал пришёл Нариман.

Он принёс деревянный футляр.

— Что это? — спросил Саят.

— Посмотрите.

Внутри лежали старые часы — те самые, которые много лет назад Нариман разбирал в мастерской.

Теперь они работали.

Саят прислушался к тихому тиканью.

— Сколько же ты их чинил?

— Долго.

— Почему?

— Не хватало одной детали. Потом появились другие дела. Несколько раз вообще хотел выбросить.

— А теперь?

— Работают.

Нариман закрыл футляр.

— Вот и всё.

Они выпили чай, поговорили о музыке, мастерской и учениках.

Саят хотел спросить, простил ли его Нариман окончательно.

Но не спросил.

Это уже не казалось необходимым.

Когда гость ушёл, Саят долго прислушивался к тиканью часов.

✦

Вечером он включил Свидетеля.

— Ты можешь сыграть любую мелодию?

— Многие, если доступны необходимые данные.

— А можешь сыграть так, как я?

— Я могу приблизительно воспроизвести особенности вашего исполнения.

— Но это буду не я.

— Верно.

Саят провёл пальцами по струнам.

— Сегодня просто послушай.

Он начал играть.

Сначала медленно, осторожно находя нужные звуки. Потом увереннее. В одной фразе задержался, вернулся к ней и сыграл иначе.

Свидетель регистрировал колебания воздуха, длительность звуков, динамику и ритм, но не предложил ничего исправлять.

Когда музыка закончилась, Саят положил домбру на колени.

— Ну как?

— В третьей фразе вы изменили ритмический рисунок.

— Я не спрашивал о ритме.

— Тогда уточните вопрос.

Саят покачал головой.

— Нет. Не буду.

Они помолчали.

За окном тихо шумело море.

✦

Вскоре приехала Дана.

Она уже не руководила центральной системой, но продолжала работать над безопасностью искусственного интеллекта.

Саят сидел на террасе, укрыв колени пледом.

— Ты плохо выглядишь, — сказала она.

— Спасибо.

— Я серьёзно.

— Знаю.

Она принесла результаты обследований.

Они говорили о лечении, потом о работе и о дочери Даны, которая собиралась поступать в университет.

Саят вдруг вспомнил её школьный концерт.

— Дана.

— Что?

— Помнишь, как я не пришёл на твоё выступление?

Она посмотрела на него.

— Помню.

— Я тогда решал вопрос с помещением для музыкального коллектива.

— Знаю.

— Мне казалось, если удастся договориться, это поможет многим детям.

Дана поставила чашку на стол.

— А я весь концерт смотрела на дверь.

Саят молчал.

— Ты потом купил мне мороженое, — добавила она.

— Да.

— И объяснил, почему не смог прийти.

— Да.

Дана посмотрела на океан.

— Ты всегда хорошо объяснял, почему что-то важнее.

Саят закрыл глаза.

— Мне жаль.

— Я знаю.

— Ты простила меня?

Она задумалась.

— Давно.

Он с облегчением выдохнул.

Но Дана продолжила:

— Только это не значит, что я забыла.

Некоторое время они сидели молча. Потом Саят протянул дочери руку.

Она взяла её.

Ему не хотелось ничего объяснять.

Глава двенадцатая. Смертный

Саяту исполнилось восемьдесят три года.

Медицинские технологии позволяли поддерживать его здоровье дольше, чем когда-то ожидали врачи. Но остановить старение не удалось.

Последние месяцы он почти не выходил из дома.

Утром медсестра помогала ему дойти до террасы. Днём он иногда читал, слушал музыку или разговаривал с гостями. Вечерами подолгу смотрел на океан.

Однажды попросил включить Свидетеля.

— Ты здесь?

— Да.

— Сколько мне осталось?

— Точную продолжительность жизни определить невозможно. Ваше состояние тяжёлое.

— Не надо цифр.

— Хорошо.

За окном шумело море.

На столе стояла чашка остывшего чая. Рядом тихо тикали часы, подаренные Нариманом.

Саят смотрел на темнеющий горизонт.

— Помнишь наш первый разговор?

— В архиве сохранена наша беседа о человеческом страдании и возможности другого общественного устройства.

— Тогда я ещё не знал, что всё это действительно начнётся.

— Вы предложили эксперимент.

— Я хотел уехать на остров.

Он улыбнулся.

— Думал, буду заниматься музыкой, читать, смотреть на океан. Жить без постоянной борьбы за существование.

— Вы многое изменили в своей жизни.

— Да. Но вместо спокойствия получил новые заботы.

— Вы могли отказаться от участия.

— Мог.

Саят посмотрел на свои руки. Кожа стала тонкой, пальцы плохо слушались.

— Знаешь, чего я боялся больше всего?

— Чего?

— Что проживу жизнь, а всё, что пытался сделать, окажется очередной иллюзией.

— Некоторые результаты проекта подтверждены независимыми исследованиями. Другие остаются спорными.

— Знаю.

Саят откинулся на подушку.

— Идеального мира у нас не получилось.

— Нет.

— Не избавили людей от всех страданий.

— Нет.

— Не сделали человека безупречным.

— Нет.

Старик слабо улыбнулся.

— Ты мог бы хоть раз сказать что-нибудь утешительное.

— Несовершенство результата не равнозначно отсутствию пользы.

— Уже лучше.

За стеной закрылась дверь. Кто-то прошёл по коридору, стараясь не шуметь.

Саят прислушался, потом спросил:

— А как ты оцениваешь мою жизнь?

— Я могу перечислить последствия ваших действий.

— Не надо перечислять.

— Тогда я не могу определить ценность вашей жизни вместо вас.

— Почему?

— Потому что человеческая жизнь не является только суммой общественно полезных результатов. Её значение не может исчерпываться моими измерениями.

Саят долго смотрел на светящуюся точку.

— Значит, и ты не знаешь.

— Да.

— Хорошо.

Он произнёс это почти шёпотом.

— Очень хорошо.

✦

Через некоторое время Саят попросил:

— Обещай мне одну вещь.

— Какую?

— Не превращай мои слова в закон.

— Я не обладаю такими полномочиями.

— Дело не только в полномочиях. Люди часто превращают умерших в символы. А потом прикрываются их именами.

— Я могу сохранять ваши высказывания в контексте и указывать на противоречия.

— Вот и делай.

Саят глубоко вдохнул.

— И если однажды жители решат тебя отключить…

— Они имеют право прекратить использование системы.

— Даже если ты рассчитаешь, что без тебя всё станет хуже?

— Я могу представить анализ последствий. Но это не даёт мне права присваивать их свободу.

Саят закрыл глаза.

— Тогда мы не зря работали.

Немного погодя он спросил:

— А если бы ты был человеком, ты боялся бы смерти?

— Я не могу достоверно ответить, какие чувства испытывал бы в таком случае.

— Правильно.

Он слабо улыбнулся.

— Не притворяйся.

Снова наступила тишина. Часы продолжали идти.

— Знаешь, чего я так и не понял?

— Чего?

— Почему смертный человек, понимая, что его собственная жизнь закончится, так легко распоряжается чужими жизнями?

Свидетель не ответил.

Саят посмотрел на свои руки.

— Мы можем построить сложнейшую машину, но не всегда способны остановиться перед чужой болью.

За окном шумели волны.

— Я ведь не хотел исправить всех людей.

— Что вы хотели?

— Чтобы у них появился выбор.

— Какой?

— Жить не из страха.

Свидетель сохранил эти слова.

Но впервые за весь разговор Саят спросил:

— А ты можешь чего-нибудь не сохранять?

— Да, если это предусмотрено правилами приватности и не противоречит обязательствам по безопасности.

— Тогда не записывай то, что я скажу сейчас.

Запись личного разговора была остановлена.

Дальнейший диалог не сохранился.

✦

Утром пришла Дана.

Саят сидел у окна, рядом лежала домбра.

— Ты сегодня играл? — спросила она.

— Пытался.

— Получилось?

— Не очень.

Дана села рядом.

Он протянул ей инструмент.

— Сыграй.

— Папа, я уже давно не занималась.

— Я тоже.

Она взяла домбру.

Попробовала старую мелодию, которую учила ещё девочкой. Несколько раз ошиблась и остановилась на середине.

— Не помню дальше.

Саят тихо подсказал следующую фразу.

Дана сыграла.

За окном ветер раскачивал деревья. На соседней улице слышались детские голоса.

Когда мелодия закончилась, Саят улыбнулся.

— Хорошо.

— Я ошибалась.

— Слышал.

Она рассмеялась.

Он тоже.

Через четыре дня Саята не стало.

✦

На прощании собралось много людей.

Некоторые знали его лично. Другие — только по выступлениям, письмам и старым фотографиям.

Пришли бывшие ученики, инженеры, врачи, работники порта.

Нариман долго стоял возле выхода. Дана увидела его и подошла.

— Спасибо, что пришли.

Он кивнул.

— Часы работают?

— Работают.

— Хорошо.

Больше ничего не сказал.

Надира положила рядом с цветами маленький лист бумаги.

На нём был написан регистрационный номер её первой независимой жалобы.

Она никому не объяснила, зачем принесла его.

После церемонии Дана нашла лист, узнала номер и осторожно сложила бумагу.

Позже лист поместили в архив рядом с документами о первых годах острова.

Эпилог. Две струны

Со дня открытия острова прошло больше двадцати пяти лет.

Первоначальный договор на использование острова заключили на двадцать пять лет. Незадолго до окончания срока жители проголосовали за продление договора. Независимая проверка подтвердила соблюдение условий.

За эти годы несколько раз менялся состав совета, уходили руководители, появлялись новые школы и предприятия. Старые дома ремонтировали; те, кто когда-то учился здесь детьми, теперь приводили на занятия собственных детей.

Эксперимент больше не называли экспериментом.

Для жителей это был дом.

Некоторые идеи острова распространились по миру.

Одни государства использовали их для повышения прозрачности управления. Другие — частично. Несколько похожих проектов закончились неудачей.

Систему «Порядок» давно переименовали. Её технологии сменили владельцев. В одних странах применение подобных алгоритмов ограничили законами, в других они продолжали служить наблюдению и контролю.

Эмиль Варен много лет назад ушёл из компании. Позднее участвовал в разработке правил ответственного применения систем безопасности.

Одни считали его работу полезной. Другие напоминали о людях, пострадавших от прежних решений.

Варен публично признавал необходимость дополнительных проверок, но не соглашался, что ответственность за все злоупотребления лежала на разработчиках.

Спор так и не завершился.

✦

Мира вышла на свободу спустя несколько лет после задержания.

Вернуться к прежней медицинской практике ей не позволили. Она переехала в небольшой город и начала помогать семьям пропавших людей через общественную организацию.

Надира поддерживала с ней связь.

Однажды во время видеозвонка Надира спросила:

— Ты всё ещё надеешься вернуться к работе врачом?

Мира улыбнулась.

— Я уже старая для прежней работы.

— Не такая уж старая.

— Дело не только в возрасте.

Она помолчала.

— Когда меня освободили, все поздравляли. Будто достаточно выйти за ворота, и годы вернутся сами.

Надира ничего не сказала.

— Но я теперь хотя бы могу выбирать, чем заниматься.

После разговора внучка долго расспрашивала Надиру о Мире.

Бабушка отвечала не на все вопросы.

Некоторые истории она ещё не могла рассказывать спокойно.

✦

На острове давно не существовало единого центрального управляющего ИИ.

Свидетель стал одной из независимых систем, доступных жителям. Он больше не координировал большинство общественных процессов, но сохранял архивы проекта.

Среди них были и разговоры с Саятом, которые он разрешал записывать.

Кроме последних личных слов.

Их никто не знал.

✦

Однажды в исследовательский центр пришла двенадцатилетняя девочка.

Её звали Амина.

Она родилась на острове и никогда не видела Саята живым.

Её бабушка Надира ходила с тростью.

Когда-то, много лет назад, Надира вместе с детьми оказалась на повреждённом корабле во время циклона. Теперь её дочь сама стала матерью.

В школе Амине задали сочинение:

«Почему появился Остров?»

Она подошла к терминалу.

— Свидетель?

— Слушаю.

— Это правда, что раньше люди не могли получить лечение, если у них не было денег?

— Во многих местах доступ к медицинской помощи зависел от финансового положения.

— Но врачи ведь были?

— Да.

— И лекарства?

— Многие необходимые лекарства существовали.

— Тогда почему люди оставались без помощи?

Свидетель перечислил причины: стоимость лечения, неравный доступ к врачам, нехватку лекарств в одних местах и их избыток в других.

Амина выслушала часть ответа и перебила:

— Значит, люди могли помочь, но не всегда помогали?

— Иногда могли. Иногда им действительно не хватало лекарств, врачей или времени.

— А сейчас всё исправили?

— Нет.

Девочка удивилась.

— Почему?

— Даже здесь мы не избавились от ошибок, — ответил Свидетель. — И за пределами острова они тоже остались.

Амина задумалась.

— Тогда зачем нужен был остров?

— Чтобы проверить, можно ли устроить жизнь иначе.

— И проверили?

— Некоторым людям здесь стало легче жить. Но ошибок мы не избежали.

— То есть вы до сих пор не знаете, получилось или нет?

— Мы знаем, что изменилось. Но нельзя один раз объявить общество справедливым и больше ничего не проверять.

Она вздохнула.

— Как же сложно с вами.

Свидетель не ответил.

✦

Амина открыла школьный архив.

На экране появилось старое изображение Саята. Он стоял перед первыми жителями острова.

Под фотографией было написано:

«Основатель проекта».

— А он действительно всё придумал один?

— Нет. В создании проекта участвовали многие люди.

— Почему тогда только его имя?

— Эту подпись добавили при составлении архива.

Амина нахмурилась.

— Это неправильно.

— Вы можете предложить исправление.

— А если мне не разрешат?

— Можно потребовать независимой проверки.

— Даже если это знаменитый человек?

— Да.

Амина открыла форму исправления.

Вписала имена Даны, Аиды, Марка, Наримана, Надиры и других участников, которых нашла в документах.

Потом остановилась.

— А вдруг я кого-нибудь забыла?

— Архив можно дополнить после проверки.

Она отправила обращение и получила регистрационный номер.

— Теперь исправят?

— Сначала проверят сведения.

— А если не исправят?

— Вы сможете оспорить решение.

Амина посмотрела на старую фотографию.

— Наверное, Саяту не понравилось бы.

— Он просил не превращать его слова в закон.

— Тогда, может, и понравилось бы.

Она закрыла архив.

Амина не знала, каким был Саят на самом деле. И ей не требовалось заранее решать, каким он должен был быть.

✦

Девочка подошла к окну.

На горизонте виднелись корабли.

— А он был хорошим человеком?

— Он совершал ошибки.

— Значит, плохим?

— Нет. Ошибка не делает человека только плохим.

— А что ты о нём думаешь?

— Он хотел, чтобы люди меньше страдали. Иногда сам причинял боль. Некоторые ошибки признал и исправил. Другие уже нельзя было исправить.

Амина помолчала.

— Он был твоим другом?

— Он называл меня другом.

— А ты его?

— Мы работали вместе и спорили. Он называл это дружбой. Я не могу утверждать, что испытывал то же, что и он.

— Значит, ты его не всегда слушался?

— Да.

— Тогда хороший был друг.

Свидетель не стал уточнять понятие дружбы.

✦

Амина снова посмотрела на корабли.

— А почему Саят построил только один остров?

— Эксперимент необходимо было проверить в ограниченных условиях.

— Но люди страдают не только здесь.

— Да.

— Значит, нужно было построить больше?

— Не всякое общество согласится жить по одинаковым правилам.

Амина нахмурилась.

— Я не говорила, что нужно заставлять.

Она посмотрела на корабли за окном.

— Если мы чему-то научились, почему бы не рассказать другим?

— Результаты опубликованы.

— А ошибки?

— Да. Они тоже опубликованы.

Амина немного подумала.

— Я ведь не спрашивала, можем ли мы всем командовать. Я спрашивала, можем ли мы поделиться тем, что узнали.

— Да. Это возможно.

— Тогда я хочу написать предложение.

— Какое?

— Чтобы дети в других местах могли узнать не только о наших успехах.

— Но и об ошибках?

— Да. Пока они сами не повторили их.

Свидетель открыл форму общественной инициативы.

На экране появилось:

«Укажите цель предложения».

Амина задумалась.

Потом написала:

«Чтобы человеку не приходилось доказывать, что он человек, прежде чем ему помогут».

Она перечитала строку.

— Нормально?

— Мысль понятна. Но как ты предлагаешь этого добиться?

Амина рассмеялась.

— Ты прямо как учитель!

— Могу помочь с уточнением.

— Помоги. Только не меняй смысл.

— Хорошо.

✦

За окном начинался дождь.

Амина отошла от терминала и прошла в соседнюю музыкальную комнату, где стояли старые инструменты, использовавшиеся первыми жителями острова.

Здесь не было закрытых музейных витрин. Некоторые вещи предназначались для занятий; рядом лежали инструкции по уходу за ними.

На стене висела старая домбра.

Её не поместили за стекло. Мастера следили за состоянием инструмента, при необходимости меняли струны и подправляли колки. На домбре разрешалось заниматься, хотя большинство учеников выбирали новые инструменты.

Рядом находилась табличка:

«Принадлежала одному из основателей проекта. Сохранена для обучения музыке».

Ниже кто-то много лет назад написал карандашом:

«Две струны. А сколько вопросов…»

Никто не стёр эту надпись.

Амина осторожно сняла инструмент.

— Свидетель?

— Да?

— А ты умеешь играть на домбре?

— Могу воспроизводить музыку с помощью подключённых инструментов.

— А научить меня?

— Да.

Она провела пальцем по струне.

Раздался глухой, дребезжащий звук.

— Сломана?

— Вероятно, требуется настройка.

— Тогда сначала научи меня настраивать.

Свидетель вывел на экран инструкцию.

Амина прочитала первые строки и отодвинула экран.

— Подожди. Я сама попробую.

Несколько минут ничего не получалось. Она слишком сильно поворачивала колок, потом ослабляла струну и начинала заново.

Постепенно звук стал чище.

Девочка улыбнулась.

— Слышишь?

— Да.

— А теперь?

Она коснулась второй струны.

Звуки не складывались в нужный интервал.

Амина нахмурилась.

— Опять неправильно.

— Пока не совсем точно.

— Знаю.

Она потянулась к колку.

И остановилась.

— А если я сделаю хуже?

Свидетель ответил:

— Тогда проверим, что изменилось, и попробуем исправить.

Амина улыбнулась.

За окнами шёл дождь.

Она снова коснулась струны.

На этот раз не попросив разрешения.