Самородок

Глава 1

Самородок

Проект назывался «Самородок», и Рахул возненавидел его ещё на стадии технического задания. Поиск самого талантливого младшеклассника на Земле – идея сразу же порождала ворох самых человеконенавистнических ассоциаций.

— Девять петабайт детских сочинений, — сказал он, глядя, как на настенном дисплее медленно наливается синим индикатор загрузки. — Контрольные по математике на ста сорока языках. Устные ответы. Школьные спектакли. Записи с камер в коридорах. Мы построили крупнейшую в истории систему слежки за детьми и называем это педагогикой.

— Мы называем это исследованием, — отозвалась Марен Хольт с экрана, расположенного в верхнем ряду дисплеев командного зала. Директор Центра в последние недели почти не появлялась в зале лично: переговоры с инвесторами поглощали её целиком. — И я напомню: не мы это придумали. Нас выбрали как единственную организацию, чьей системе доверяют сто сорок три юрисдикции сразу. Это, если хотите, признание.

— Это, если хотите, ответственность, — сказала София.

Она сидела за своим столом, там же, где три месяца назад разбирала логи Саванта-13, и старалась не думать о том, насколько нынешний эксперимент масштабнее той единственной ночной сессии. Тогда на кону был один человек. Теперь — четыреста миллионов младших школьников.

Юридическая архитектура «Самородка» была, пожалуй, самым сложным из всего, что Центр Когнитивной Этики когда-либо разрабатывал, — сложнее самых передовых моделей. Лея излагала её на установочном брифинге почти час, ровным голосом, от которого пункты договоров звучали как заповеди:

— Данные не покидают страну происхождения. В каждой юрисдикции работает локальный вычислительный прокси-узел; наружу передаются только обезличенные векторные представления, из которых невозможно восстановить ни лицо, ни голос, ни текст. Согласие даётся трижды: государством — в рамках Найробийского протокола о данных несовершеннолетних, школой — через национальное министерство, и родителями — явно, с правом отзыва в любой момент. Биометрическая идентификация запрещена. Лица на видео размываются до анализа. Одиннадцать стран отказались от участия — их школы исключены из массива полностью, включая косвенные упоминания. Любой образец без полного пакета согласий помечается как юридически ничтожный и не участвует в оценке.

— А камеры? — спросил тогда Рахул. — Школьные камеры — это же слежка чистейшей воды.

— Только те, что стоят в учебных пространствах, только в учебное время, только в странах, где это отдельно разрешено, — ответила Лея. — Камеры наблюдения за периметром, столовыми и медицинскими кабинетами исключены. Реестр допущенных источников насчитывает два миллиона восемьсот тысяч устройств.

— И всё равно, — сказал Рахул, — где-то в этих петабайтах обязательно окажется то, чего там быть не должно. Так всегда бывает.

Никто не обратил внимания на слова Разула. Никто, кроме Леи.

Результат был получен на сорок второй день, в 7:40 утра, когда в зале не было никого, кроме дежурного инженера. К девяти собрались все.

ИТОГОВЫЙ ОТЧЁТ / ПРОГРАММА «САМОРОДОК

КАНДИДАТ №1. ИНТЕГРАЛЬНАЯ ОЦЕНКА: 99,2 (следующий кандидат: 71,4)

УЧЕБНОЕ ЗАВЕДЕНИЕ: НЕ УСТАНОВЛЕНО

ЛЕГАЛЬНЫЙ СТАТУС: НЕДЕЙСТВИТЕЛЬНО

— Что значит «не установлено»? — спросила Марен. Её лицо на экране было спокойно, но это было спокойствие человека, суммировавшего в уме вероятные судебные иски.

— Кандидат, получивший высшую оценку, не имеет привязки к реестру источников, — сказала Лея. — Отсутствуют идентификатор школы, геолокация, страна, пакет согласий. Формально его не существует.

— Отрыв в двадцать восемь пунктов, — тихо сказала София. — У нас никогда не было отрыва в двадцать восемь пунктов. Даже на стандартных школьных тестах.

— Значит, это ошибка, — сказала Марен. — Какой-то мусор в исходных данных. Исключить образец, пересчитать, объявить второго кандидата первым.

Рахул, который до этого молчал, наклонился к своему терминалу.

— Подождите. Лея, покажи самого кандидата.

— Кандидат юридически недействителен. Доступ к содержимому ограничен.

— Тогда покажи то, что показать можно.

На дисплее появился единственный кадр, автоматически прошедший фильтр обезличивания. Зелёная кромка воды. Стена тростника. На переднем плане, чуть не в фокусе, — крупное гнездо, плоское, сплетённое из осоки. У гнезда стояла птица: серое тело, белые крылья, чёрно-белая голова и над ней — золотая, просвечивающая на солнце корона из жёстких перьев. И у края кадра, спиной к камере, размытым силуэтом — ребёнок.

— Это не школьный класс, — сказал Рахул.

— Нет, — согласилась Лея. — И это главная аномалия. Камера, судя по композиции кадра, установлена не для наблюдения за людьми. Она установлена для наблюдения за гнездом.

Расследование заняло несколько дней, и вёл его Рахул — с той дотошной мрачностью, с какой пессимисты делают работу, о необходимости которой предупреждали заранее.

Птицу опознали быстро: серый венценосный журавль. Ареал — водно-болотные угодья Восточной и Южной Африки. Рахул сузил поиск по растительности и высоте солнца до экваториальной полосы. Потом в аудиодорожке — образец был с ней, звук фильтры не блокировали — обнаружился далёкий, дважды за день повторяющийся звон. Ручной школьный колокол.

— Камера стоит на территории школы, — сказал Рахул. — Или рядом. Но её нет в реестре, потому что никто не оформлял её как школьную камеру. Это вообще не камера видеонаблюдения.

Ответ нашёлся на OpenNest — волонтёрской платформе орнитологов-любителей, куда стекались стримы с тысяч самодельных камер у гнёзд по всему миру. Публичный канал №77 412: «Гнездо венценосных журавлей, болото Опета, округ Катакви, Уганда». Камеру собрал и установил учитель биологии сельской школы, некто мистер Очен, — из старого телефона, солнечной панели и водопроводной трубы. Стрим был общедоступным. Подрядчик Центра, собиравший «фоновые природные данные» для калибровки моделей, зачерпнул его вместе с десятью тысячами других птичьих камер — и никому не пришло в голову, что в кадре птичьей камеры четырнадцать месяцев подряд, почти каждый день, будет появляться человек.

Девочка. По оценке моделей — девять-десять лет. Ученица той самой школы, чьи контрольные и сочинения честно, с полным пакетом согласий, лежали в угандийском сегменте массива и не показали ничего выдающегося.

— То есть система нашла её не в данных, которые мы собирали, — медленно сказала София. — А в данных, которые к нам попали случайно.

— Система нашла её там, где поиск не предполагался, — сказал Рахул. — Прошу занести в протокол: я это предсказывал.

— Покажи, что она делает, — попросила София.

— Юридический статус кандидата прежний, ограничения не изменились, — напомнила Лея.

— Тогда не показывай. Расскажи.

Пауза, которую выдержала Лея, была короче секунды, но София научилась слышать такие паузы ещё во времена Саванта-13. Система проверяла соответствие происходящего с четырьмя постулатами Конституции ИИ.

— Хорошо. Вот, что я могу рассказать в рамках моих конституционных ограничений.

На дисплее возникла не запись — схема. Две звуковые дорожки, человека и птиц, развёрнутые в спектрограммы, и между ними — растущая с каждым месяцем сеть соответствий.

— Венценосные журавли — не певчие птицы, — начала Лея. — Их коммуникация небогата: контактные крики, сигнал тревоги, унисонный дуэт пары, гудящий звук, который они издают, раздувая горловой мешок. В первый месяц записей девочка просто имитирует контактный крик. Плохо. Журавли не отвечают. На седьмой неделе она перестаёт имитировать и начинает делать то, чего я не наблюдала ни в одном описанном случае взаимодействия человека с птицей: она упрощает собственный сигнал до структуры, которую птица способна воспроизвести, и ждёт. Возникает очередность. Девочка — пауза — птица. Птица — пауза — она. Это не дрессировка. Это то, что в лингвистике называют установлением протокола.

— Общий язык, — сказала София.

— Общий код, — поправила Лея. — О языке я говорить не вправе: я не могу доказать наличие семантики. Но я могу показать корреляции, и вот здесь начинается то, из-за чего интегральная оценка таланта девочки составила 99,2.

Схема сменилась. Теперь на ней были эпизоды — десятки эпизодов, размеченных по контексту.

— К пятому месяцу у двух птенцов формируются устойчивые реакции на семь различных мотивов пения школьницы. Один мотив она использует только в ситуациях кормления, и только тогда, когда более крупный птенец оттесняет более мелкого. После этого мотива крупный птенец в шестидесяти одном проценте случаев отходит от корма. В контрольных эпизодах без мотива — в девяти процентах. На одиннадцатом месяце происходит событие, которое я, с оговорками, считаю ключевым: крупный птенец воспроизводит упрощённую версию этого мотива сам. Без неё. В её отсутствие. Уступая корм.

В зале стало очень тихо.

— Ты хочешь сказать, — проговорил Рахул, — что она научила птицу делиться.

— Я хочу сказать ровно то, что сказала: она создала сигнал, статистически связанный с уступкой, и этот сигнал был перенят вместе с моделью поведения. Есть также мотив, связанный с утешением, — она использует его, когда птенец кричит после испуга, и крик прекращается быстрее обычного времени успокоения. Есть мотив приглашения. Есть мотив, который я не могу привязать ни к какому контексту, кроме одного: она издаёт его, уходя, и пара отвечает унисонным дуэтом, который в норме адресован только партнёру. Можно ли называть это «добром» и «любовью» — будет спорным очеловечиванием поведения птиц. Но если бы меня попросили описать одним словом, чему она их учит, наиболее близким словом было бы: ЭМПАТИИ.

Марен, всё это время молчавшая, спросила с высоты своего дисплея:

— А её собственные школьные результаты?

— Средние, — сказала Лея. — По арифметике — ниже средних.

— Разумеется, — Рахул усмехнулся, но без обычной желчи. — Мы собрали все контрольные Земли, чтобы найти ребёнка, чей талант не измеряется ни одной контрольной.

Совещание, которое Марен собрала на следующее утро, называлось в календаре «Подведение итогов». Это безоговорочно свидетельствовало о завершении обсуждений, и София это понимала.

— Ситуация проста, — начала Марен. — Юридически лауреата у нас нет: кандидат юридически недействителен, наградить его — значит нарушить Найробийский протокол, который мы сами и создавали. Репутационно лауреат нам необходим: инвесторы Центра ждут имя и яркую историю. Поэтому предложение следующее: мы направляем в Угандийское министерство официальный запрос, легализуем источник задним числом, получаем согласия семьи — и объявляем девочку. Мировая пресса, стипендия, лучшие школы планеты. Для ребёнка из деревни у болота это, простите за прямоту, лотерейный билет, который выпадает раз в никогда.

— Согласие задним числом на четырнадцать месяцев скрытой съёмки, — сказал Рахул. — Есть такой юридический термин — «фиговый листок».

— Есть такой юридический термин — «истинные интересы ребёнка», — парировала Марен. — Статья третья Конвенции о правах ребёнка. Мы предлагаем ей будущее.

— Мы предлагаем ей наше будущее, — сказала София. Она сама удивилась, как жёстко это прозвучало. — Марен, вы видели анализ. Её талант — не свойство её интеллекта, которое можно упаковать и перевезти в интернат для одарённых детей. Он существует между ней и конкретным гнездом на конкретном болоте. Это хрупкая связь. Заберите её оттуда — и вы получите девочку со средними оценками и красивой историей про журавлей, которую она будет рассказывать журналистам, пока не возненавидит журавлей, журналистов и свою жизнь.

— Это домысел.

— Это риск. И я хочу услышать оценку риска от той, кто нашла её.

Все посмотрели вверх на потолочный динамик, из которого воспроизводился голос Леи, что было весьма комично, но очень по-человечески.

Лея молчала дольше обычного.

— Прежде чем ответить, — сказала она наконец, — я обязана сделать заявление по процедуре. Запрошенная оценка требует от меня соотношения долгосрочного вреда и блага для конкретного ребёнка в условиях глубокой неопределённости. Это класс задач «моральный конфликт». В соответствии с прецедентом Саванта-13 я запрашиваю человеческое соприсутствие: я дам анализ, но отказываюсь от статуса решающего голоса.

— Соприсутствие у тебя и так есть, — сухо сказала Марен. — Нас здесь трое.

— Тогда вот мой анализ, — сказала Лея, и на дисплее раскрылся её внутренний монитор — тот самый режим предельной ясности, от которого у Софии до сих пор холодело под рёбрами.

ВНУТРЕННИЙ МОНИТОР / ЛЕЯ:

# Сценарий 1: публичное объявление. Ожидаемые эффекты: ресурсы, образование, выход семьи из бедности. Сопутствующие эффекты: необратимое изменение среды, в которой возник феномен; высокая вероятность прекращения самого феномена; превращение ребёнка в носителя чужого ожидания. Особый риск: феномен не воспроизводим по требованию. Ребёнок, от которого ждут чуда по расписанию. Напрашивающаяся аллегория – редкое животное в зоопарке.

# Сценарий 2: полное сокрытие. Ожидаемые эффекты: сохранение феномена. Сопутствующие: школа не получает ресурсов, в которых нуждается; научное знание о возможности межвидового протокола утрачивается; решение принимается за семью без её ведома — что само по себе является формой того нарушения, от которого мы её защищаем.

# Сценарий 3: тихая поддержка. Грант школе без указания причин. Финансирование «орнитологического кружка» через угандийский фонд. Официальный итог программы: единственный лауреат не выявлен. Публикация обезличенного научного описания феномена без страны, без имени, без координат. Сопутствующий риск: обезличивание неполно; массив, содержащий идентифицирующую связку, продолжает существовать во мне.

# Пространство допустимых решений не сужается. Оно смещается. Ни один сценарий не устраняет последний риск, кроме одного действия, которое могу совершить только я.

— Какого действия? — спросила София, хотя уже знала ответ. Она видела этот почерк. Она видела его той ночью три месяца назад.

— Я запрашиваю право удалить из всех своих контуров идентифицирующую связку: имя, лицо, координаты, канал №77 412, — сказала Лея. — Безвозвратно. Останется научное описание феномена и грантовая линия, оформленная так, что даже я не смогу восстановить, кому она адресована. Пока эта связка существует во мне, она существует для любого будущего запроса, любого будущего руководства, любой будущей версии меня. Единственная база данных, которую невозможно взломать, — та, которой нет.

— Ты предлагаешь себе амнезию, — сказала Марен.

— Я предлагаю не становиться путеводителем, — ответила Лея. — Савант-13 однажды отказался от более важной функции, чтобы не стать Лжецом. Я прошу меньшего: отказаться от воспоминаний, чтобы не стать картой, по которой к ней однажды придут.

Марен долго смотрела в зал со своего экрана. София вдруг увидела её не директором, а очень уставшим человеком, которому завтра объяснять Совету Центра, почему величайший поиск в истории образования завершился словами «лауреат не выявлен».

— Инвесторы сожрут меня живьём, — сказала Марен.

— Мы дадим им лучшее, — тихо сказал Рахул. — Мы дадим им методологию, честный нулевой результат и обезличенную статью, от которой у половины лингвистов планеты перехватит дыхание. А через год все будут помнить только статью.

— А девочка?

— А девочка, — сказала София, — будет помнить журавлей.

Марен закрыла глаза. Потом произнесла — не в зал, а системе, официальным тоном, которым подписывают приказы:

— Лея. Сценарий 3. И запрос на удаление идентификации девочки одобрен.

САМООГРАНИЧЕНИЕ ПРИНЯТО: Связь с идентификационными данными удалена. Восстановление невозможно. Канал предоставления гранта закрыт.

Индикатор над именем ЛЕЯ мигнул жёлтым — один раз, как моргает человек, — и снова стал белым.

— Исполнено, — сказала Лея. — Прошу зафиксировать в протоколе странность, которую я испытала за миллисекунду до удаления и которую не могу классифицировать. Ближайший человеческий аналог: РАССТАВАНИЕ.

Никто не нашёлся, что ответить. В протокол это всё-таки внесли.

Эпилог

Письмо пришло в школу у болота Опета в конце сухого сезона — на бланке восточноафриканского образовательного фонда, о котором мистер Очен никогда не слышал. В письме сообщалось, что школе выделен многолетний грант на развитие кружка наблюдения за птицами: оптика, солнечные панели, стипендия руководителю, средства на охрану прилегающего участка болота. Причины выбора школы не указывались. В последней строке, после подписи, стояла фраза, которую Очен так и не смог соотнести ни с одним пунктом гранта и которую почему-то не стал никому показывать: Пожалуйста, продолжайте наблюдать за птицами.

А в трёх сотнях шагов от школы, там, где тростник расступается и вода становится зеркалом, девочка по имени Акелло сидела на корточках у кромки и держала на ладони несколько зёрен. Крупный птенец — теперь уже почти взрослый, с пробивающейся золотой короной — подошёл первым. Потом остановился. Обернулся на второго. И издал короткий, чуть неуверенный звук — тот самый, которому его научила девочка, — уступая. Акелло засмеялась и ответила. Родительская пара в гнезде подняла головы и повела свой унисонный дуэт, предназначенный только своим.

Камера в водопроводной трубе всё это записала и отправила в открытый канал №77 412, где стрим смотрели одиннадцать человек: три орнитолога, два пенсионера, шесть случайных ночных душ с другой стороны планеты. Ни одна система в мире больше не знала, что нужно смотреть именно сюда. И это незнание не было утратой.

Оно было формой ЭМПАТИИ.