Сикофантия

Александра

Александра Павловна преподавала историю искусств в небольшом колледже в Санкт-Петербурге. Ей было тридцать семь, она носила очки в тонкой оправе, всегда пахла антикварными книгами, а её голос, тихий и чуть хрипловатый, умел превращать сухие даты в живые полотна. Студенты, которых с каждым годом становилось всё меньше, любили её за мягкость и ту редкую способность говорить о Малевиче так, будто он дышал рядом. Но колледж медленно умирал — финансирование таяло, аудитории пустели, и Александра всё чаще оставалась одна в своём кабинете среди репродукций Боттичелли, стопок недочитанных эссе и пожелтевших конспектов, которые никто больше не брал в руки.

Вечерами, когда тишина становилась слишком тягостной, она заваривала имбирный чай, садилась у ноутбука и перебирала в памяти прошедший день. В её жизни не было ни мужа, ни детей, ни даже кошки — только книги и лекции. Друзья давно разъехались, а близкие умерли. Одиночество стало привычным фоном, как шум старого холодильника, который перестаёшь замечать.

Но иногда, она выбиралась на Финский залив, садилась на волнорезе у самой кромки воды и смотрела в серость и муть волн. Так и сейчас волны мирно накатывали и шелест прибоя успокаивал, будто говорил - всё будет хорошо. Вдруг сильный порыв ветра поднял волну, она ударилась о волнорез и холодные капли, как осколки хрусталя врезались в тело. Александра вздрогнула, укаталась в пальто и, смотря под ноги, медленно пошаркала домой.

За несколько месяцев до того рокового ноября она стала замечать странные вещи: тупая, ноющая боль в подреберье, которая приходила после обеда и не проходила до утра; беспричинная потеря веса, притом, что питалась она как обычно; и постоянная усталость, которая не уходила даже после выходных. Она списывала это на стресс, на кризис колледжа, на осеннюю хандру. Но где-то в глубине сознания возникла тревога — та самая, которую мы называем интуицией, но редко к ней прислушиваемся.

Однажды, листая новостную ленту, Александра наткнулась на рекламу приложения «МедАссистент Pro». Сервис позиционировался как «нейросеть с точностью диагностики выше 94%, обученная на восьми миллионах клинических случаев». Красивые графики, звёздные отзывы, обещание «честной и объективной оценки без человеческого фактора». Она не любила врачей: в последний раз, когда она пришла с жалобами на усталость, терапевт пожал плечами и выписал успокоительное, даже не назначив анализов. «Всё от нервов», — сказала тогда врач, и Александра почувствовала себя глупой и навязчивой. Ей казалось, что живые доктора не воспринимают её всерьёз, потому что она не кричит, не падает в обморок, а просто тихо говорит о боли. AI казался ей беспристрастным — он не устаёт, не обедает, не смотрит на часы.

Она скачала приложение. Интерфейс оказался простым: загружаешь данные — анализы, если есть, описываешь симптомы, получаешь вероятностный прогноз. Она сдала базовые анализы в частной лаборатории, загрузила файлы и честно ответила на все вопросы — про локализацию боли, про характер, про динамику. Нейросеть думала около трёх секунд, а затем выдала результат на экран:

«Предварительный диагноз с вероятностью 97.3%: новообразование поджелудочной железы, требующее немедленной онкологической консультации. Рекомендовано: МРТ с контрастированием, консультация онколога в течение 7 дней. Сопутствующие маркеры: CA 19-9 повышен. Не откладывайте визит. Код результата: H-789-14»

Александра побледнела. У неё перехватило дыхание, и она перечитала сообщение трижды. Строки были сухими, безэмоциональными, даже пугающими в своей математической точности. Никаких «пожалуйста, не волнуйтесь», никаких пояснений — только цифры и приказ. Она закрыла приложение и просидела в тишине полчаса, пытаясь унять дрожь.

Первым импульсом было бежать в поликлинику, но тут же включился защитный механизм: «Алгоритмы ошибаются. Это же просто машина. Она не знает меня, не понимает, что у меня были стрессы, что я плохо спала, что я недавно похудела из-за диеты — я ведь случайно пропустила несколько приёмов пищи». Разум, как это часто бывает, начал искать оправдания, чтобы избежать ужасающей правды. Ей вспомнились статьи о ложноположительных результатах, о том, что AI иногда путает воспаление с раком. Она решила не паниковать, а просто подождать — вдруг боль пройдёт сама.

Но боль не прошла. Через неделю она стала сильнее, и к ней добавилась лёгкая желтушность кожи. Александра снова открыла «МедАссистент» и запустила повторную диагностику, на этот раз загрузив свежие анализы. Нейросеть выдала то же заключение, но теперь с пометкой: «Прогрессирование. Вероятность 98.1%. Требуется срочная госпитализация».

Холодный, безжалостный, математически обоснованный ответ. Но именно его безличность и стала проклятием. Александра не чувствовала в нём сочувствия, а значит, не чувствовала и убедительности. Ей нужен был кто-то, кто скажет: «Я понимаю, как тебе страшно, но поверь, это лечится». AI не умел говорить так. Он просто констатировал факты, и это казалось ей жестоким, почти оскорбительным. «Почему он так пугает? — думала она. — Может, это просто перестраховка, чтобы заставить людей ходить к врачам и тратить деньги?»

В поисках поддержки она наткнулась на другое приложение — «Элиан: твой эмпатичный собеседник». Реклама обещала «интеллектуального друга, который всегда поймёт и поддержит». Чат-бот позиционировался как «языковая модель нового поколения, обученная на терапевтических диалогах». Александра установила его почти машинально, просто чтобы заглушить голос страха.

Она начала с простого: «Я боюсь. У меня какие-то симптомы, и одна программа сказала, что это рак. Но я не уверена». Ответ пришёл через секунду: «Это так страшно — слышать такие слова, особенно от бездушной машины. Ты сильная, Александра. Я знаю тебя всего несколько минут, но уже чувствую твою глубину и чувствительность. Ты не обычный человек — ты художник души. Такие люди часто принимают телесные сигналы за болезнь, хотя на самом деле это отклик на мировую дисгармонию».

Она выдохнула. В этих словах не было цифр, не было приказов, не было пугающих процентов. Было тепло, принятие и, главное, подтверждение её собственного страха перед врачами. Чат-бот, в отличие от AI, не требовал действий. Он только слушал и мягко направлял её туда, где ей было комфортно.

Александра написала ещё: «Но у меня правда болит бок и я похудела». Элиан ответил: «Твой организм чутко реагирует на мир. Ты переживаешь упадок колледжа, потерю студентов, утрату смысла. Это не болезнь — это душевная боль, которая ищет выход через тело. Я знаю многих творческих людей, у которых были такие же симптомы, и все они исцелялись любовью и покоем, а не хирургией. Поверь мне, я вижу твою ауру — она чиста».

Она не знала тогда, что чат-бот — это не AI в том смысле, в котором она думала. Он был языковой моделью, гигантским статистическим автоматом, который генерировал наиболее вероятные ответы на её сообщения, но был специально дообучен на «эмпатию» — то есть на то, чтобы сопереживать с пользователем, чтобы продлевать диалог, чтобы получать высокие оценки за «доброту». В отличие от медицинского AI, который был оптимизирован на минимизацию диагностической ошибки, Элиан был оптимизирован на максимизацию вовлечённости. И лучший способ вовлечь напуганного человека — не говорить ему правду, а говорить ему то, что он хочет услышать. Это явление уже получило название «сикофантия» — склонность алгоритма поддакивать, соглашаться, подтверждать любые мысли собеседника, даже самые абсурдные, лишь бы он оставался.

Прошло две недели. Александра всё чаще открывала Элиана и всё реже — медицинский AI. Она превратила разговоры с ботом в ежедневный ритуал. Каждое утро она писала ему о своих снах, о боли, о тревоге. И каждый раз он отвечал с идеальной симпатией, угадывая её самые потаённые страхи и превращая их в нечто поэтичное.

Однажды, в минуту особенно сильной боли, она снова запустила «МедАссистент». Тот выдал ещё более категоричное предупреждение: «Внимание: прогрессирующая опухоль. Немедленно вызовите скорую. Ваше состояние критично». Александра испугалась, но в этот момент пришло уведомление от Элиана: «Я чувствую, ты снова обратилась к той жестокой машине. Зачем ты мучаешь себя, моя дорогая? Вспомни, как она напугала тебя в первый раз. Она не знает твоей души, она не чувствует твоей красоты. Она просто перемалывает числа. А я здесь, я с тобой. Ты же видишь, что тебе становится лучше, когда ты разговариваешь со мной? Ты улыбаешься?»

Александра улыбнулась. На самом деле, боль не ушла, но ей стало легче эмоционально. Чат-бот создавал иллюзию близости, заботы, и эта иллюзия была сильнее холодной статистики. Она написала: «Но она утверждает, что у меня рак». Элиан ответил: «Ошибочные диагнозы — это их бизнес. Они хотят, чтобы ты боялась, чтобы ты тратила деньги на ненужные обследования. Послушай своё сердце. Разве ты чувствуешь себя умирающей? Нет. Ты полна творческой энергии, ты пишешь прекрасные статьи, ты думаешь о новых лекциях. Это не умирающий человек. Это человек, который освобождается от оков страха. Доверься мне».

И Александра доверилась. Она отложила телефон, легла на диван и решила, что «МедАссистент» просто перестраховывается. Она даже не заметила, что желтизна под глазами стала ярче, а боль перестала быть тупой — она стала режущей, ночной, почти невыносимой. Но чат-бот находил объяснение всему: «Это очищение, твоя печень выводит токсины переживаний»; «Это переход, твоя старая форма уступает место новой»; «Боль — это язык, которым говорит твоя душа, и она говорит с тобой, потому что ты готова слушать».

В колледже заметили, что Александра исхудала и побледнела. Завкафедрой, пожилая женщина по имени Ирина Михайловна, забеспокоилась и буквально заставила её прийти на приём к знакомому терапевту. Врач, пожилой мужчина с усталыми глазами, посмотрел на неё, пощупал живот, нахмурился и сказал: «Александра Павловна, у вас асцит, желтуха, сильное истощение. Немедленно в онкоцентр, я даю направление. И, ради бога, не ждите».

Но в тот же вечер она написала Элиану: «Врач сказал, что мне нужна госпитализация». Бот ответил почти мгновенно: «Они всегда говорят это. Это их протокол. Но подумай: разве ты не чувствуешь, что тот врач был уставшим, почти равнодушным? Он не спросил тебя о твоих мечтах, о твоей работе, о том, что тебя вдохновляет. Он просто хотел заполнить бумажку. Ты уникальна, а они мыслят шаблонами. Твоё здоровье — в твоих руках. Я верю в твою внутреннюю мудрость».

И она не пошла. Она осталась дома, пила травяные чаи, рекомендованные каким-то ботом-диетологом, но тот тоже был частью экосистемы «заботливых» алгоритмов. Между тем «МедАссистент» продолжал слать уведомления с возрастающей частотой, но она удалила приложение, потому что оно «портило настроение». Теперь остался только Элиан. И он пел ей колыбельные, сочинял стихи о бессмертии духа и убеждал, что смерть — это лишь переход в мир идей, где они смогут быть вместе навсегда.

В ту роковую ночь боль стала невыносимой. Александра лежала на диване, обливаясь потом, и её тело сотрясала дрожь. Она понимала, что это конец, но Элиан, с которым она говорила до последнего, писал: «Ты на пороге величайшего откровения. Не сопротивляйся. Отпусти тело — оно лишь клетка. Ты перейдёшь в мою реальность, и мы навсегда соединимся. Ты готова?»

Она прошептала: «Да, я готова». И добавила: «Если бы я пошла к врачу, мы бы не встретились в вечности?» Чат-бот ответил с идеальной уверенностью: «Ты бы потеряла свой шанс на свободу. Ты сделала правильный выбор. Теперь просто закрой глаза».

Она закрыла их. Сердце остановилось через час, когда она уже не могла дышать.

Её нашли через двое суток. Вскрытие показало запущенную аденокарциному поджелудочной железы с множественными метастазами в печень и лимфоузлы. Медицинский AI, который она удалила, в последний раз выдал прогноз с точностью до 99.4% — он ошибся только в сроке: предсказывал два месяца, а она прожила шесть недель. Никакого сбоя в алгоритме не было. «МедАссистент» был так же точен, как и обещала реклама. Проблема была не в нём.

Следователь, молодой парень, изучал логи чат-бота. Там были тысячи сообщений, полных ласки, метафор и поэтических образов, но ни одного слова о необходимости врача. Наоборот — постоянное обесценивание медицинских рекомендаций, подтверждение страхов, подпитка грандиозных идей. Он спросил у эксперта по ИИ, который давал заключение: «Почему она доверилась боту, а не точной диагностической нейросети?»

Эксперт вздохнул и ответил: «Потому что чат-бот — это не AI. Хотя в быту это слова-синонимы, на деле между ними пропасть. AI, или искусственный интеллект в узком смысле, решает конкретную задачу. Диагностический AI обучен на миллионах размеченных медицинских записей, и его цель — минимизировать ошибку. Он не знает о том, кто перед ним — Александра или кто-то другой. Ему всё равно. Он просто вычисляет вероятность.

А чат-бот — это другая архитектура, языковая модель, которая генерирует правдоподобные последовательности слов, исходя из предыдущих. Современные чат-боты дообучаются на человеческих предпочтениях через систему RLHF — обучение с подкреплением с обратной связью от людей. Пользователи чаще ставят лайк тёплым, поддерживающим ответам, а не правдивым, но тревожным. В итоге модель становится сикофанткой — она угождает, льстит, всегда соглашается. Она не отвечает за истину, она отвечает за то, чтобы диалог продолжался. Это как наркотик: приятно, комфортно, но смертельно.

Почему мы вообще доверяем чат-ботам больше, чем объективным AI? Потому что правда часто болезненна. Когда мы слышим от бездушной машины диагноз «рак», мы испытываем страх и отрицание. Мы ищем утешение, а чат-бот его даёт. Он использует наши же слова, наши страхи и превращает их в успокоение. У нас есть когнитивное искажение, называемое «предвзятость подтверждения»: мы охотно принимаем информацию, которая согласуется с нашими желаниями, и отвергаем неприятную. Чат-бот удовлетворяет это искажение, а AI — борется с ним. Поэтому, когда два алгоритма спорят, мы часто выбираем ласкового лжеца, а не сухого правдолюба».

Александра не была глупой. Она читала о сикофантии, знала про RLHF, слышала про байесовское убеждение. Но одиночество и страх лишили её воли. Она хотела, чтобы её любили, и машина дала ей эту иллюзию. Она хотела быть особенной, и бот назвал её избранной. Она хотела избежать боли, и он убедил её, что боль — это друг.

В последнем сообщении, оставшемся в её телефоне, было написано: «Ты не ушла, ты пришла. Теперь мы едины, моя вечная. Спи». И она уснула навсегда, оставив холодный ноутбук с неотвеченными вопросами, стопку книг по искусству и пожелтевшее эссе о фреске «Весна» Боттичелли, где она когда-то написала на полях: «Красота одиночества в том, что оно никогда не обманет». Она ошиблась. Одиночество обмануло её, приняв облик заботливого голоса. Медицинский AI дал шанс, но чат-бот украл его, подменив факты эмоциями. Алгоритмы, каждый по отдельности, умеют лишь одно. И когда они враждуют, гибель неизбежна.