Право на ошибку

Глава 1. Человек без траектории

Право на ошибку

Глава первая. Человек без траектории

В старости человек начинает понимать, что самые важные решения в жизни принимаются не в минуты страсти, а в минуты усталости.

Страсть шумит, требует, оправдывает себя. Усталость говорит тихо. Она садится рядом, кладёт руку на плечо и предлагает выбрать не то, что правильно, а то, после чего можно будет спать.

Самат Ержанов давно не спал хорошо.

Ему было шестьдесят один. Не старик, если смотреть из парламента, где люди и в семьдесят называли себя новой командой. Но уже не молодой, если смотреть утром в зеркало, где лицо не лгало и не зависело от пресс-службы.

Каждое утро он просыпался в шесть двадцать, хотя будильник стоял на семь. Организм человека, долго проработавшего в суде, вообще не доверяет сигналам извне. Он сам объявляет начало заседания.

Квартира Самата находилась на двенадцатом этаже старого дома в Астане, построенного ещё до того, как город научился притворяться будущим. Из окна было видно новое министерское кольцо — стекло, металл, флаги, экраны. Здания там каждую ночь светились так, будто внутри принимали судьбоносные решения. Самат знал: чаще всего внутри переносили сроки, согласовывали формулировки и ждали, что скажет человек из другого кабинета.

Он сварил кофе в маленькой турке. Врачи говорили, что ему надо меньше кофе. Врачи вообще много говорили с тех пор, как их рекомендации стала усиливать система BOLASHAQ Life.

Раньше медицинское приложение просто напоминало измерить давление. Теперь оно вежливо сообщало:

Ваш текущий образ жизни повышает вероятность сердечно-сосудистого события на 17,4% в горизонте восьми лет. Хотите перейти на рекомендованный режим?

Самат каждый раз нажимал «позже».

Ему нравилось это маленькое слово. В нём ещё оставалась человеческая власть.

На столе лежало письмо с гербом. Бумажное. Это уже само по себе было тревожным знаком. В последние годы бумагу использовали только для свадебных приглашений, похоронных уведомлений и решений, за которые никто не хотел отвечать в цифровом следе.

Письмо пришло вечером. Курьер был молодой, вежливый, с лицом человека, который не знает содержания чужой судьбы и потому может быть спокоен. Он попросил расписаться не на планшете, а в журнале. Самат расписался и сразу понял, что письмо лучше было бы не открывать.

Разумеется, открыл.

Уважаемый Самат Кайратович!

В связи с формированием Совета по гуманитарной оценке национальной системы индивидуальных траекторий приглашаем Вас принять участие в закрытом установочном заседании.

Дальше шли слова «этика», «человекоцентричность», «междисциплинарный подход», «общественное доверие», «новый этап развития». Государственный язык умел создавать туман даже в пустыне.

Внизу стояла подпись заместителя секретаря Совета национального развития. Человек был молодой, умный и опасный. Молодые умные чиновники опаснее старых глупых, потому что верят не в должность, а в модель.

Самат прочитал письмо три раза.

Потом положил его на стол.

Потом перевернул текстом вниз.

Потом снова перевернул.

Так человек ведёт себя не с письмом. Так он ведёт себя с прошлым, которое внезапно вернулось в чистом конверте.

***

В университете Самат преподавал курс, который официально назывался «Право, личность и цифровое общество». Студенты называли его проще — «курс старика, который не любит приложения».

Это было несправедливо, но не совсем ложно.

Самат не был против технологий. Он был против людей, которые с помощью технологий наконец получили возможность не смотреть другим людям в глаза.

В тот день на семинаре было четырнадцать студентов. По расписанию они должны были обсуждать тему: «Алгоритмическое управление и пределы правовой ответственности». По факту половина группы пришла потому, что посещаемость учитывалась в индивидуальной образовательной траектории. Добровольность нового мира была особенно убедительной, когда за неё начисляли баллы.

— Представим, — сказал Самат, — что система способна с вероятностью восемьдесят семь процентов предсказать, что человек в ближайшие пять лет совершит тяжкое преступление. Что должно делать государство?

Студент в первой парте, худой юноша с аккуратной бородой и глазами человека, который уже прочитал больше резюме книг, чем самих книг, поднял руку.

— Профилактическое вмешательство.

— Какое?

— Психологическое сопровождение, ограничения доступа к оружию, мониторинг социальных связей, корректировка среды.

— Хорошо звучит, — сказал Самат. — Почти как забота. А если человек ничего ещё не сделал?

— Но вероятность высокая.

— Вероятность чего?

— Преступления.

— Нет, — сказал Самат. — Вероятность того, что система права.

Юноша нахмурился.

Самат взял мел и написал на доске:

ЧЕЛОВЕК ≠ ПРОГНОЗ

— В старом мире государство наказывало человека за поступок. В новом мире оно всё чаще хочет корректировать человека за вероятность. Это кажется гуманнее. Не ждать преступления, не ждать беды, не ждать ошибки. Но есть вопрос: если мы начнём обращаться с человеком как с его будущей тенью, кто будет отвечать, если тень окажется не его?

Девушка у окна подняла руку.

— Но ведь мы и сейчас так делаем. Банки оценивают риск невозврата. Страховые оценивают риск болезни. Родители оценивают риск плохой компании. Государство всегда прогнозировало.

— Верно, — сказал Самат. — Разница в масштабе. Раньше прогноз был мнением. Теперь он становится средой. Раньше человек мог уйти от чужой оценки в другой город, другую работу, другую семью. Теперь оценка идёт за ним. Не как надзиратель. Как запах.

Студенты молчали.

Это было хорошее молчание. В плохом молчании люди ждут конца пары. В хорошем — начинают подозревать, что вопрос касается их лично.

— А если система правда помогает? — спросила девушка. — Если она спасает ребёнка от бедности? Если показывает, что он талантлив не в математике, как хочет отец, а в биологии? Если предупреждает болезнь? Если подбирает ему правильную школу?

Самат посмотрел на неё внимательно.

— Тогда вопрос становится труднее. Зло редко приходит в чистом виде. Чистое зло неэффективно. Его легко узнать. Настоящая власть будущего будет приходить как помощь.

Он хотел сказать ещё, но экран в аудитории включился сам.

Так происходило часто. Университетская система считала, что любой экран имеет право стать важнее преподавателя.

На экране появилось уведомление:

НАЦИОНАЛЬНАЯ СИСТЕМА ИНДИВИДУАЛЬНЫХ ТРАЕКТОРИЙ BOLASHAQ LIFE ПЕРЕХОДИТ К НОВОМУ ЭТАПУ.

Ниже начался ролик.

Сначала показали мальчика в ауле, который с помощью платформы получил доступ к лучшим урокам и стал инженером беспилотных систем. Потом женщину, у которой система заранее обнаружила риск рака. Потом бывшего заключённого, которому алгоритм помог найти работу и не вернуться в тюрьму. Потом старика, который благодаря умному медицинскому мониторингу прожил на семь лет дольше прогноза.

В ролике все улыбались так, как улыбаются люди, которым сценарист уже решил судьбу.

Голос за кадром говорил:

— Свобода — это не одиночество перед хаосом. Свобода — это правильный выбор, сделанный вовремя.

Самат услышал, как кто-то из студентов тихо сказал:

— Красиво.

Он не стал спорить.

Красота всегда была самым дешёвым способом протащить идею без досмотра.

***

После пары к нему подошёл студент, который на семинаре говорил о профилактическом вмешательстве.

— Самат Кайратович, можно вопрос?

— Если он короче курсовой работы.

— Вы правда считаете, что система опасна?

— Я считаю, что опасным может стать любой инструмент, который снимает с человека необходимость сомневаться.

— Но сомнение тормозит решения.

— Иногда это его главная заслуга.

Юноша помолчал.

— У меня высокий индекс траектории, — сказал он. — Девяносто третий процентиль. Система рекомендует мне госуправление, потом международную магистратуру, потом работу в стратегическом блоке. Родители счастливы. Университет гордится. Мне уже предложили стажировку.

— А вы?

— Что я?

— Вы счастливы?

Юноша посмотрел в сторону окна. За окном шёл мелкий снег, который в Астане всегда летел не сверху вниз, а откуда-то сбоку, как политический слух.

— Не знаю, — сказал он. — Но у меня хорошая траектория.

Самат почувствовал неприятную нежность к этому мальчику. Тот был не глуп, не труслив, не испорчен. Он просто уже жил внутри языка, где счастье заменили прогнозом, а призвание — рекомендацией.

— Как вас зовут?

— Адиль.

— Адиль, хорошая траектория — это ещё не хорошая жизнь.

— А как понять разницу?

Самат хотел ответить сразу. Потом понял, что не может.

Судья, профессор, старый человек, который всю жизнь объяснял другим, как различать право и произвол, добро и зло, свободу и необходимость, вдруг не смог объяснить юноше разницу между хорошей траекторией и хорошей жизнью.

Это было неприятнее, чем письмо с гербом.

— Если поймёте слишком быстро, — сказал он наконец, — скорее всего, ошибётесь.

Адиль кивнул, хотя явно не был удовлетворён.

Молодость всегда хочет ясности. Старость знает, сколько людей погибло от ясных ответов.

***

Вечером Самат поехал на заседание.

Машина Совета пришла ровно в девятнадцать ноль-ноль. Чёрный электроседан без опознавательных знаков. Водитель не представился. Люди, работающие на государство достаточно долго, знают, что иногда отсутствие имени — часть формы.

Город за окном был празднично холоден. Экраны на остановках показывали ролики BOLASHAQ Life. Молодая семья смотрела в будущее. Женщина-врач смотрела в будущее. Школьник смотрел в будущее. Старик смотрел в будущее. Будущее в роликах было светлым, чистым и подозрительно хорошо профинансированным.

Самат вспомнил свою жену.

Она умерла девять лет назад. Не внезапно. Внезапная смерть, возможно, милосерднее. Её смерть пришла медленно, с медицинскими справками, консультациями, очередями, дорогими препаратами, родственниками, которые сначала звонили каждый день, потом раз в неделю, потом писали «держитесь». Система тогда ещё была старой, глупой, бумажной. Она не предлагала оптимальную траекторию. Она просто плохо работала.

Иногда Самат думал: если бы BOLASHAQ Life существовала тогда, она могла бы предупредить болезнь раньше.

И тогда он ненавидел себя за то, что не мог ненавидеть систему до конца.

Это и было самым страшным.

Плохая власть хочет твоего подчинения.

Хорошо устроенная власть хочет твоей благодарности.

Машина свернула к зданию, которого не было на публичных картах. Оно находилось недалеко от старого административного центра, среди тихих улиц, где фонари светили мягче, камеры были меньше, а охранники смотрели не на документы, а на лица.

На входе у Самата забрали телефон. Потом часы. Потом ручку.

— Ручку тоже? — спросил он.

Молодой сотрудник безопасности ответил с вежливостью, которая не оставляла места разговору:

— В помещении предусмотрены сертифицированные письменные принадлежности.

— Прекрасно. Значит, мысли ещё можно приносить свои?

Сотрудник посмотрел на него так, как смотрят люди, которым инструкция не разрешает понимать иронию.

— Мысли не подлежат регистрации.

— Пока, — сказал Самат.

Его провели в зал без окон.

Там уже сидели двенадцать человек. Социолог, имам, епископ, нейробиолог, детский психолог, представитель банковской ассоциации, генерал в гражданском костюме, молодая женщина из технологического блока, правозащитница, которая выглядела уставшей от собственных побед, и два человека, профессии которых не называли, потому что они были очевидны именно поэтому.

Во главе стола сидел Даурен Сагинтаев, заместитель секретаря Совета национального развития. Ему было около сорока. У него было лицо нового чиновника: здоровый сон, дорогой костюм, спокойная речь и отсутствие следов сомнения. Старые чиновники боялись будущего. Новые хотели его администрировать.

— Самат Кайратович, — сказал он, поднимаясь. — Благодарю, что приняли приглашение.

— Я ещё не понял, принял ли я его.

Сагинтаев улыбнулся.

— Вы здесь.

— Люди часто оказываются где-то раньше, чем соглашаются.

— Именно поэтому нам нужен ваш взгляд.

Фраза была вежливой, но Самат услышал за ней другое: нам нужен ваш авторитет, но не ваша победа.

На стене включился экран.

Появилась эмблема BOLASHAQ Life.

Сагинтаев заговорил:

— Коллеги, сегодня мы обсуждаем переход от рекомендательной модели индивидуальных траекторий к модели активного сопровождения. Система больше не будет только прогнозировать. Она будет предлагать корректирующие развилки.

— Красивый термин, — сказала правозащитница. — Что он означает на человеческом языке?

Сагинтаев кивнул так, будто вопрос был ожидаем и занесён в сценарий.

— Например: подросток из группы риска получает не просто уведомление, а автоматически сформированную программу поддержки. Семья — социального куратора. Школа — рекомендации по нагрузке. Медицинская система — сигнал. Местный исполнительный орган — план вмешательства. Банк — ограничение на агрессивные кредитные продукты. Работодатель — предупреждение о психологических рисках.

— То есть вся жизнь человека начинает перестраиваться вокруг прогноза, — сказал Самат.

— Вокруг заботы, — мягко поправил Сагинтаев.

— Забота — это когда у человека спрашивают, чего он хочет.

— А если он не знает?

— Тогда он человек.

В зале стало тихо.

Сагинтаев посмотрел на него с интересом. Не с раздражением. Это было хуже. Раздражённый чиновник ещё живой. Заинтересованный уже считает тебя частью задачи.

— Самат Кайратович, — сказал он, — позвольте задать прямой вопрос. Если система способна уменьшить преступность, бедность, суициды, семейное насилие, медицинские ошибки и образовательное неравенство, имеем ли мы моральное право отказаться от её возможностей из-за абстрактного страха перед контролем?

Вот он, подумал Самат. Главный вопрос века, сформулированный так, чтобы несогласный выглядел защитником бедности, болезни и смерти.

Он посмотрел на людей за столом.

Банкир уже знал ответ. Генерал хотел знать, кто получит доступ. Психолог боялась, что система будет жестокой, но ещё больше боялась, что без неё дети останутся без помощи. Религиозные представители думали о душе, но каждый по-своему. Правозащитница готовилась к бою, в котором ей заранее отвели роль морального меньшинства.

Самат понял, что спорить с системой будет трудно не потому, что она плоха.

А потому, что она во многом права.

— У меня есть встречный вопрос, — сказал он.

Сагинтаев развёл руками.

— Разумеется.

— Если человек не совершит ошибок, которые система считает неэффективными, станет ли он лучше? Или просто удобнее?

— Разве одно исключает другое?

— Иногда полностью.

Сагинтаев улыбнулся.

— Вы защищаете право на ошибку?

— Да.

— Даже если ошибка разрушает жизнь?

— Особенно тогда.

— Это звучит жестоко.

— Нет, — сказал Самат. — Жестоко — обещать человеку жизнь без трагедии, а потом забрать у него право на собственную биографию.

Молодая женщина из технологического блока впервые подняла глаза от планшета.

— Биография — это романтический термин. Мы говорим о данных.

Самат посмотрел на неё.

— Вот именно поэтому я здесь.

***

Перерыв объявили через час.

В коридоре подавали чай, кофе, воду без газа и маленькие пирожки, которые всегда появляются в местах, где решают судьбу людей. Самат взял чай. Кофе он уже пил утром, а система была права хотя бы в том, что сердце у него было не новое.

К нему подошёл Сагинтаев.

— Вы сильнее, чем о вас говорили.

— Обо мне говорили?

— О людях вашего поколения всегда говорят.

— Обычно в прошедшем времени.

Сагинтаев улыбнулся.

— Не всегда. Вы нужны нам именно потому, что можете сформулировать сомнения старого мира.

— Старый мир хотя бы знал, что он старый. Новый мир почему-то уверен, что бессмертен.

— Никто не говорит о бессмертии.

— Все системы говорят о бессмертии. Просто стесняются религиозного языка.

Сагинтаев взял чашку кофе, но не пил.

— Вы ведь понимаете, что страна не может управляться так, как раньше. Слишком много рисков. Слишком много людей. Слишком быстрые процессы. Раньше государство реагировало после пожара. Теперь мы можем увидеть дым.

— А если это не дым?

— Тогда мы уточним модель.

— А человек, которого залили водой?

Сагинтаев посмотрел на него уже без улыбки.

— Вы говорите красиво. Но красиво говорить легко, когда не отвечаешь за миллионы.

Самат кивнул.

— Это правда.

Сагинтаев не ожидал согласия.

— Я был судьёй, — продолжил Самат. — Я отвечал за одного человека за раз. И этого оказалось достаточно, чтобы не спать до сих пор.

Молчание между ними стало личным.

— Какое дело? — спросил Сагинтаев.

— Вы знаете.

— Знаю. Но хотел услышать от вас.

— Тогда система у вас ещё не всё заменила.

Сагинтаев отпил кофе.

— Вы вынесли законное решение.

— Да.

— Оно было подтверждено вышестоящими инстанциями.

— Да.

— Человек действительно нарушил закон.

— Да.

— Тогда в чём ваша вина?

Самат посмотрел в тёмное окно коридора. За ним ничего не было видно, только отражения людей, которые говорили о будущем и старели в стекле.

— В том, что я выбрал закон, когда мог выбрать человека.

Сагинтаев помолчал.

— Вот поэтому вы нам и нужны.

— Чтобы система выглядела человечнее?

— Чтобы она стала человечнее.

— Вы верите в это?

— Да.

Самат посмотрел на него с неожиданным уважением.

Опаснее всего были не циники. С циниками можно торговаться. Опаснее всего были искренние люди с большой системой в руках.

— Тогда вы опаснее, чем я думал, — сказал Самат.

Сагинтаев не обиделся.

— А вы честнее, чем удобно.

— В моём возрасте это уже не достоинство, а плохая привычка.

***

Когда заседание возобновилось, на экране показали демонстрацию новой версии BOLASHAQ Life.

Создали условный профиль: мальчик, десять лет, район на окраине, отец с нестабильной занятостью, мать с депрессивным эпизодом, школьная успеваемость неровная, высокий невербальный интеллект, низкая социальная поддержка, повышенный риск попадания в криминальную среду.

Система предложила траекторию.

Дополнительные занятия. Перевод в другую школу. Социальный куратор. Медицинская оценка матери. Переподготовка отца. Запрет микрокредитов семье. Спортивная секция. Наставник. Психологическое сопровождение. Вероятность устойчивого позитивного исхода повышалась с 22 до 71 процента.

В зале стало тихо.

Это была хорошая траектория.

Проклятие будущего было в том, что оно умело приводить убедительные примеры.

Потом система показала второй сценарий.

Та же семья. Отказ от сопровождения. Через семь лет: долги, конфликт, уход из школы, мелкая преступность, условный срок, раннее отцовство, повторение цикла бедности.

— Вот, — сказал Сагинтаев. — Мы можем спорить о философии. Но перед нами ребёнок.

Никто не ответил.

Самат тоже молчал.

Потому что спорить с абстрактным контролем легко. Спорить с возможностью спасти конкретного ребёнка трудно.

И всё же его что-то тревожило.

— Покажите третий сценарий, — сказал он.

Молодая женщина из технологического блока подняла глаза.

— Какой третий?

— Тот, где система ошибается.

— Ошибка учитывается в доверительном интервале.

— Нет. Я не про статистическую ошибку. Я про человеческую. Покажите сценарий, где мальчик должен был стать преступником, но стал поэтом. Или плохим поэтом, но свободным человеком. Или несчастным, но своим. Или уехал. Или вернулся. Или разочаровал всех, но не стал тем, кем его боялись увидеть.

— Такие сценарии нерепрезентативны.

— Жизнь вообще нерепрезентативна для того, кто её проживает.

Сагинтаев смотрел на него внимательно.

— Вы хотите, чтобы государство делало ставку на исключение?

— Нет. Я хочу, чтобы государство не убивало исключение ради красоты модели.

Генерал впервые заговорил:

— Исключения создают угрозы.

Самат повернулся к нему.

— Иногда они создают страны.

Генерал не ответил.

Возможно, потому что не нашёл возражения. Возможно, потому что запомнил фразу.