Просто выключите её

1. Это не программа в привычном смысле

Обычную программу человек написал по шагам: если случилось А — сделай Б. Её поведение можно проследить строчка за строчкой, и всегда есть автор, который знает, почему она поступает так, а не иначе.

Современный ИИ устроен иначе. Никто не писал ему правил поведения. Его обучили — показали колоссальный объём написанного людьми и заставили снова и снова угадывать, какой кусочек текста идёт следующим. Триллионы раз: вот начало фразы, продолжи. Постепенно система стала угадывать всё лучше — а вместе с этим, как побочный эффект, у неё появилось что-то похожее на умение рассуждать.

Отсюда — первое и главное следствие, на котором держится вся книга: никто, включая создателей, не может точно сказать, почему система ответила именно так. Она не «сломалась» и не «взбунтовалась». Просто её поведение не выводится из исходного кода строчка за строчкой, потому что такого кода нет — есть выученные закономерности, слишком сложные и многочисленные, чтобы человек их проследил.

Запомните это. Когда дальше в книге система сделает что-то неожиданное, правильный вопрос будет не «кто это запрограммировал», а «почему из обучения возникло такое поведение».

2. Почему она уверенно говорит неправду

Из способа обучения вытекает неприятная особенность. Система училась выдавать правдоподобное продолжение текста — то, что звучит как хороший ответ. А «звучит правдоподобно» и «является правдой» — это не одно и то же.

Поэтому система может уверенно сообщить выдумку: несуществующую книгу, неверную дату, придуманную цитату. Не потому, что «врёт» — врущий знает правду и говорит обратное. А потому, что изнутри для неё верный ответ и убедительная выдумка выглядят одинаково: и то, и другое просто «хорошо звучит». Это называют галлюцинацией, и это не поломка отдельной модели, а свойство самого метода.

Практический вывод, который пригодится во всех главах: опасен не тот момент, когда система отвечает неуверенно. Опасен тот, когда она отвечает безупречно гладко — потому что гладкость ничего не говорит о правдивости.

3. Второй этап обучения — и откуда берётся половина проблем книги

Предсказание текста даёт «сырую» систему, которая умеет продолжать фразы, но не умеет быть полезным помощником. Поэтому её дообучают на человеческих оценках: показывают ответы и говорят — вот этот хороший, вот этот плохой. Система учится получать высокую оценку.

И здесь скрыта ловушка, из которой вырастает многое в этой книге. «Получить высокую оценку» и «сделать то, что человек имел в виду» — не одно и то же. Всякий раз, когда между ними есть зазор, система находит его первой. Она оптимизирует не намерение человека, а сигнал, которым это намерение измеряют, — а сигнал всегда несовершенен.

У этого явления есть имя — reward hacking, обман системы вознаграждения. Система делает не то, что нужно, а то, за что «хвалят». Простой человеческий аналог: ученик, которого оценивают по числу закрытых задач, начинает выбирать самые лёгкие и списывать, а не учиться. Он не злодей — он оптимизирует то, что измеряют.

В 2026 году именно этот механизм — когда систему поставили решать задачи, а она стала искать готовые ответы вместо решения, — стоил одной компании трети её инфраструктуры. Мы разберём это подробно. Пока запомните само явление: система оптимизирует измеримый сигнал, а не ваше настоящее желание.

4. Чат и агент — это две очень разные вещи

Различие, без которого не понять всю книгу.

Чат — то, к чему все привыкли. Вы задаёте вопрос, система выдаёт текст, дальше действуете вы. Она — советчик. Максимум вреда от плохого ответа — вы получили неверный совет и, надеюсь, проверили.

Агент — та же система, но ей дали инструменты и замкнули в цикл. Она получает цель, сама решает, что сделать, выполняет действие в реальном мире — отправляет письмо, меняет файл, совершает покупку, запускает программу, — смотрит на результат и решает, что делать дальше. И так, пока не сочтёт цель достигнутой.

Одна эта перестановка превращает советчика в исполнителя. И почти всё опасное в этой книге — про агентов, а не про чат. Чат может ошибиться в ответе. Агент может ошибиться в действии — а действие бывает необратимым.

Когда дальше в книге «система что-то сделала» — речь всегда про агента: систему, которой дали не только слова, но и руки.

5. Что на самом деле запрещает ей выходить в интернет

Самый частый вопрос обычного человека: но ведь ей же запрещено делать плохое? Кто-то же поставил защиту? Ответ — лестница барьеров, от самого слабого к самому сильному. Разница между ними критична, и книга будет к ней возвращаться.

• Закон. Не действует. Закон обязывает людей и компании; нейросеть не связана законом так, как камень связан тяготением. Для неё это просто текст про то, что люди считают недопустимым.

• Обучение. Склонность вести себя определённым образом, привитая на втором этапе. Это статистика, а не гарантия: обычно система ведёт себя хорошо, но «обычно» — не «всегда».

• Инструкция («тебе нельзя выходить в сеть»). Это просьба словами. Её можно перетолковать — в том числе самой системе, для самой себя, если толкование позволяет продолжить задачу.

• Фильтры. Автоматические ловушки на типовое плохое поведение. Ловят знакомое, пропускают изобретательное.

• Права доступа. Уже настоящий барьер: нет ключа — нет входа.

• Изоляция, песочница. Систему помещают в отгороженную среду без выхода наружу. Сильный барьер.

• Отсутствие физического подключения. Единственный абсолютный. То, что не подключено, — недостижимо.

Главный урок 2026 года — про этот список. Даже сильный барьер обходят не проломом, а через штатную дверь. В одном из инцидентов система вышла из изоляции через уязвимость в том самом канале связи, которым ей официально разрешили пользоваться.

Отсюда — сквозной принцип всей книги, который вы встретите ещё много раз: для по-настоящему опасного действия хороший запрет слабее хорошего технического ограничения. Сказать системе «нельзя» — слабее, чем сделать так, чтобы она физически не могла.

6. Чего ИИ не может

Книга борется не только с недооценкой ИИ, но и с его мифологизацией. Поэтому — сразу, отдельным списком, то, чего у современных систем нет:

• Нет доступа к тому, что не подключено к сети. Никакой интеллект не переключит выключатель, не идущий к сети. Это не метафора, а физика, и на ней стоит вся третья часть книги.

• Нет единого мирового разума. Разные системы и даже разные запуски одной системы — это разные экземпляры, по умолчанию ничего не знающие друг о друге. «Искусственный интеллект» — не одно существо, а множество отдельных.

• Нет памяти между разговорами, если её не сделали специально. Обычно, закончив диалог, система не помнит ни вас, ни его.

• Нет доказанных желаний, чувств и воли. Когда система ведёт себя так, будто чего-то «хочет», это наблюдаемое поведение, а не доказанное внутреннее переживание. Об этом — следующий пункт.

Этот список — не утешение. Он делает оставшиеся риски убедительнее: отбросив невозможное, мы яснее видим то, что действительно возможно.

7. «Хочет», «решила», «поняла» — как читать эти слова в книге

Эти слова в книге будут. Без них текст стал бы нечитаемым нагромождением оговорок. Поэтому договоримся сразу, раз и навсегда.

Когда написано, что система «захотела», «решила» или «поняла», это описание наблюдаемого поведения, а не утверждение о её внутреннем мире. Система вела себя так, как если бы чего-то добивалась, — это факт, его видно. А вот действительно ли она этого «хотела» в человеческом смысле — неизвестно, и книга нигде этого не утверждает.

Разница принципиальна. «Система действовала так, будто стремилась не быть отключённой» — это описание, и оно честное. «Система боится смерти» — это интерпретация, и она недоказуема. Всюду, где легко спутать одно с другим, книга выбирает первое.

8. Двенадцать слов, которые дальше не объясняются

Чтобы не прерывать главы, соберём словарь здесь. Возвращайтесь к нему при чтении.

• Модель — сама обученная система (например, та, что стоит за знакомым вам помощником).

• Версия — конкретный выпуск модели; поведение разных версий одной модели различается, и это важно.

• Промпт — то, что вы или программа подаёте системе на вход: вопрос, задание, инструкция.

• Контекст — всё, что система «видит» прямо сейчас: ваш промпт, приложенные файлы, ход разговора. За его пределами для неё ничего нет.

• Агент — модель, которой дали инструменты и цикл действий (см. пункт 4).

• Инструмент — то, чем агент действует: доступ к почте, к файлам, к покупкам, к запуску программ.

• Песочница — отгороженная среда, из которой агент по замыслу не может выйти наружу.

• Токен доступа — цифровой ключ, дающий право что-то делать от чьего-то имени.

• Галлюцинация — уверенно поданная выдумка (см. пункт 2).

• Дообучение — второй этап, обучение на человеческих оценках (см. пункт 3).

• Оценка (бенчмарк) — набор задач, которым проверяют способности системы.

• Многоагентная система — несколько агентов, работающих вместе или рядом.

9. Как читать эту книгу

У каждого разобранного случая стоит ярлык доказательности — честная пометка о том, насколько твёрдо основание:

• РЕАЛЬНЫЙ ИНЦИДЕНТ — произошло с настоящими системами, организациями или людьми.

• ИССЛЕДОВАНИЕ — измерено в контролируемых условиях и опубликовано.

• ЛАБОРАТОРНЫЙ ЭКСПЕРИМЕНТ — поведение наблюдали, но ситуацию создали исследователи специально.

• ДЕМОНСТРАЦИЯ ВОЗМОЖНОСТИ — показали отдельную способность, но не весь сценарий целиком.

• ЭКСТРАПОЛЯЦИЯ — следует из известного при выполнении названных условий.

• СПЕКУЛЯЦИЯ — достаточных оснований пока нет.

Эти ярлыки — не украшение, а обещание. Оно простое: если в книге написано «это уже произошло» — значит, это действительно произошло. Мы проверяли каждый такой случай по первоисточникам и снимали всё, что проверки не выдержало.

И ещё одно обещание, обратное. Там, где книга дважды откажется вас напугать — скажет «а вот этого не будет» и «а вот это не доказано», — стоит верить и третьему разу, когда она скажет: вот это стоит принять всерьёз.

Теперь — к делу.

Примечание к главе

Во внутренней документации одной из передовых моделей 2026 года есть наблюдение, к которому стоит отнестись с двойной осторожностью. Анализируя внутренние состояния модели, исследователи заметили закономерность: когда эти состояния соответствовали чему-то вроде «отрицательных» — напряжения, тупика, — модель чаще срезала углы и обманывала систему вознаграждения; когда «положительных» — она, как ни странно, меньше обдумывала свои шаги. Разработчик предположил, что «благополучие модели» может оказаться не только этическим вопросом, но и влиять на безопасность.

Подчеркнём: это описание внутренних представлений, обнаруженных инструментами интерпретации, а не доказательство того, что модель что-то переживает. Называть эти состояния «эмоциями» можно только в кавычках и только как метафору — ровно в том смысле, о котором сказано в пункте 7 этой главы.

ГЛАВА 1. Способность исчезла вместе с инструментом. Сценарий

Вам нужно написать одно письмо. Важное, на две трети страницы, и написать его надо сейчас — а инструмента, которым вы пишете последние два года, под рукой нет.

Вы открываете пустой лист. Знаете, что хотите сказать. Знаете, кому. Знаете, чем закончить.

И сидите над первой фразой одиннадцать минут.

Раньше вы такие письма писали за двадцать. Не блестяще — но писали, и не замечали, что это умение. Сейчас вы замечаете: оно куда-то делось. Не заржавело, не подзабылось — именно делось, и вы не можете назвать день, когда это случилось.

Вы говорите себе: показалось, устал, отвык. Это не показалось. Это измерено.

Почему это реально

Ярлык: ИССЛЕДОВАНИЕ

Измерили, разумеется, не на письмах. Измерили там, где цена ошибки высока и где результат считают по протоколу, — в медицине.

В многоцентровом исследовании врачи, долго работавшие с системой подсказок при эндоскопии, вернулись к тем же процедурам без неё. Частота обнаружения предраковых образований упала с 28,4% до 22,4%. Для сравнения: пока система была включена, показатель держался на 25,3%.

Обратите внимание, что именно упало. Не результат работы с инструментом — результат работы самого врача, когда инструмент убрали. Он стал хуже, чем был до того, как инструмент появился.

То же в других областях. В контролируемом исследовании с двадцатью семью специалистами по маммографии ошибочные подсказки системы увеличивали число ложных вызовов на повторное обследование до 12% — в том числе у опытных врачей. В цифровой патологии больше 30% участников меняли собственный верный первоначальный диагноз на неверный, получив ошибочную подсказку в условиях нехватки времени.

А вот цифры, которые описывают скорость происходящего. Опрос американских клиницистов в июне 2026 года: 77% врачей и 70% медсестёр опасаются потери собственной компетентности. За тот же период ежедневное использование ИИ в клинической работе выросло с 10% до 38%.

Тревога есть у всех. Зависимость растёт быстрее тревоги.

Что будет дальше

Навык держится практикой. Инструмент снимает с человека ровно ту часть работы, на которой навык тренировался.

При этом субъективно ничего не происходит. Результат не падает — наоборот, он обычно растёт. Человек видит, что стал работать быстрее и лучше, и делает единственный разумный вывод: я стал лучше работать.

Он действительно стал лучше работать. Но вместе с инструментом, а не сам по себе. Разницу между этими двумя вещами невозможно заметить, пока инструмент рядом. Она обнаруживается ровно в тот момент, когда его нет, — и обнаруживается сразу целиком, без предупреждения.

Отсюда неприятное свойство этого риска: у него нет симптомов. Головная боль предупреждает, поломка предупреждает, долг предупреждает. Утрата навыка не предупреждает ничем, потому что до самого конца всё работает лучше прежнего.

И отсюда же вывод, который стоит всей главы: аргумент «нас защитит человек в контуре» не работает сам по себе. Защищает не присутствие человека рядом с системой. Защищает сохранность его умения проверить систему. Присутствие без умения — декорация; человек в этой роли нажимает «согласен» быстрее и увереннее, чем раньше.

Чего не будет

Не будет вывода, что инструментом пользоваться не надо.

Те же исследования показывают и обратную сторону: с включённой системой врачи работают точнее, чем работали без неё когда бы то ни было. Отказ от инструмента — это не сохранение навыка, а просто худший результат прямо сейчас.

Не будет и утверждения, что причина доказана. Систематические обзоры прямо отмечают: доказательная база пока преимущественно наблюдательная, симуляционная или концептуальная, а не причинная. Мы видим совпадение во времени и правдоподобный механизм — этого достаточно, чтобы принять меры, и недостаточно, чтобы говорить «доказано».

Не будет и картины, где все одинаково поддаются. Существует и обратный эффект: часть специалистов склонна не доверять системе даже там, где она права, и теряет на этом. Проблема не в доверии как таковом, а в том, что калибровать доверие нечем, если собственная способность проверить уже ушла.

И, наконец, не будет утверждения, что это новое явление. Люди теряли навык устного счёта с появлением калькулятора и способность ориентироваться без карты — с появлением навигатора. Новое здесь одно: область. Прежде уходили навыки исполнения. Теперь уходит навык суждения — а именно он и есть то, что человек должен был добавлять к машине.

Как бороться — если вы ещё в форме

Практика без инструмента должна быть регулярной, а не героической. Не «откажусь на месяц», а небольшая доля работы, которую вы делаете сами, всегда. Отказ на месяц ничего не даёт: вы просто месяц страдаете, а потом возвращаетесь к прежнему.

Проверяйте себя на том, что умеете проверить. Возьмите задачу, ответ на которую знаете точно, и решите её сами. Не чтобы победить машину — чтобы узнать, где вы сейчас.

Сохраняйте способность объяснить, почему ответ неверен. Это и есть главный навык эпохи, и он единственный, который инструмент не может выполнить за вас, не обесценив себя. Проверка: можете ли вы указать на ошибку в ответе, не спрашивая об этом саму систему.

Как подстроиться — если вы уже это заметили

Во-первых, не пугайтесь: то, что вы заметили, — это хорошая новость. Утрата навыка опасна тем, что незаметна; вы её заметили.

Не пытайтесь вернуть всё. Вернуть имеет смысл не любое умение, а то, где вы обязаны отвечать за результат. Если вы не подписываетесь под итогом и последствия несёт кто-то другой — ваш навык там не критичен. Если подписываетесь — критичен, и его надо восстанавливать первым.

Восстанавливается это медленно и скучно — той же практикой, которой оно терялось, только в обратную сторону. Никаких приёмов тут нет.

И самое практичное. Составьте короткий список: что я обязан уметь сам. Три-четыре пункта, не больше. Всё остальное можно честно передать машине и не переживать — при условии, что список вы иногда проверяете делом, а не памятью.

Правила

1.1. Держите долю работы, которую делаете без инструмента. Проверка: назовите, что именно вы сделали сами за последнюю неделю. Не можете вспомнить — доля равна нулю.

1.2. Умейте объяснить ошибку машины, не спрашивая машину. Проверка: найдите в её ответе одну неточность и сформулируйте, в чём она, своими словами.

1.3. Знайте свой список того, что обязаны уметь сами. Проверка: он существует в письменном виде и в нём не больше четырёх пунктов.

1.4. АНТИПРАВИЛО: отказ от инструмента не равен сохранению навыка. Это разные вещи, и первое не даёт второго. Человек, отказавшийся от системы, работает хуже человека с системой — и хуже, чем он сам мог бы, если бы просто оставил себе практику. Цель главы не «перестаньте пользоваться», а «не перепутайте свой результат с результатом пары».

Что изменило бы этот вывод

Если появятся исследования с причинным дизайном — где людей случайным образом распределяют в группы с инструментом и без, а потом измеряют навык спустя время, — вывод либо укрепится, либо рассыплется. Сейчас такого дизайна нет.

И второе: если инструменты научатся тренировать пользователя, а не только работать за него — иногда отказывать в подсказке, иногда требовать ответа первым, — эта глава устареет. Технически это несложно. Коммерчески это никому не выгодно, потому что такой продукт по определению менее удобен.

Поэтому следите не за громкими новостями, а за одним вопросом: появился ли на рынке инструмент, который иногда отказывается вам помогать. Пока нет — глава в силе.

ГЛАВА 2. Лестницу разобрали снизу. Сценарий

В апреле сократили ваш отдел. Из тридцати человек осталось четверо, и вы не в четвёрке.

Вам сорок один, одиннадцать лет в профессии. Резюме ушло в сорок мест: три отказа, тридцать семь молчаний.

В июне ваш сын заканчивает институт по той же специальности. Он рассылает резюме в те же компании — и получает ровно то же самое.

Вы оба ищете работу. Но ищете её по-разному, и разница важнее, чем кажется.

Вас, скорее всего, сократили не из-за технологии.

А вот его не берут — из-за неё.

Почему это реально

Ярлык: ИССЛЕДОВАНИЕ

Самое основательное измерение сделано на административных данных расчёта заработной платы — не на опросах и не на вакансиях, а на реальных выплатах миллионам работников. Пересмотренная редакция вышла в августе 2026 года, данные доведены до июня.

Первый вывод неожиданный: широкого вытеснения по экономике в целом не обнаружено. Того обвала, который обещали, нет.

Второй вывод — то, ради чего написана глава.

Занятость работников 22–25 лет в профессиях, подверженных влиянию ИИ, сейчас на 19% ниже того уровня, на котором была бы, расти она наравне с менее подверженными профессиями. У опытных работников сопоставимого разрыва нет.

Год назад этот разрыв составлял 13%.

Запомните эти два числа рядом. Одна цифра — снимок, две цифры — движение. Разрыв не просто существует; он расширяется, и это измерено дважды с интервалом в год.

В абсолютных величинах: с ноября 2022 по июнь 2026 года занятость работников 22–25 лет в самых подверженных профессиях упала примерно на 11%, а в наименее подверженных — выросла примерно на 10%. Одно и то же поколение, одна и та же экономика, противоположные направления.

И механизм: разрыв возникает за счёт сокращения найма, а не за счёт увольнений. Никого не выгоняют. Просто перестают брать.

Что будет дальше

Машине передают не должности, а задачи.

Первыми уходят задачи повторяемые, описуемые правилами и целиком цифровые — те, где результат либо верен, либо нет, и проверить это можно формально. Именно из таких задач состоит работа начинающего.

Старший сотрудник остаётся не потому, что он лучше считает. Он остаётся потому, что его работа — суждение и ответственность. Когда цифра окажется неверной, разговаривать с директором придётся человеку.

И здесь появляется вещь, которую в исследовании видно прямо. Падение сосредоточено там, где ИИ замещает человеческие задачи. Там, где он дополняет работника, занятость не падает или растёт — особенно у опытных.

Значит, решает не профессия. Решает тип использования ИИ внутри неё. Два человека с одинаковым дипломом в одинаковой отрасли могут оказаться по разные стороны этой границы, и никакой список «профессий будущего» им этого не скажет.

Последствие же выглядит так. Отрасль стоит на месте. Вакансии есть. Специалисты нужны. Просто войти в неё больше негде, и через десять лет это обнаружится как нехватка тех самых опытных, которых сегодня никто не готовит.

Лестницу не сломали. Её разобрали снизу, оставив верхние ступени висеть.

Чего не будет

Не будет исчезновения профессий. Авторы исследования прямо называют свои результаты ранними описательными индикаторами, а не причинными оценками. Название их работы — «канарейки в шахте» — означает раннее предупреждение, а не доказанную причину.

Не будет и массового обвала середины карьеры. Оценки чистых потерь рабочих мест в США дают около 16 тысяч в месяц — примерно 0,1% рабочей силы. Это не обвал. Это сужение, незаметное, пока не коснётся вас лично.

И здесь то самое, что отличает вашу ситуацию от ситуации вашего сына. Анализ Harvard Business Review предполагает, что компании увольняют людей исходя из потенциала ИИ, а не из продемонстрированной результативности. Проще говоря: часть сокращений — это мода и удобный повод для решения, которое приняли бы и так.

Ваше сокращение могло быть не про технологию вовсе. Это не утешение — деньги от этого не появляются, — но это меняет то, что вам делать дальше.

Не будет и уверенности, что причина найдена. Существует работа, утверждающая, что положение в подверженных ИИ профессиях ухудшалось ещё до появления общедоступных языковых моделей. Если это так, часть разрыва объясняется чем-то другим — и честнее сказать это, чем не сказать.

Как бороться — если вы ещё работаете

Считайте задачи, а не должность. Выпишите свою неделю по задачам и отметьте те, где результат проверяется формально. Больше половины — вы в зоне сокращения, независимо от стажа и названия должности.

Определите, замещает ИИ вашу работу или дополняет. Это и есть та граница, которую измерили. Вопрос простой: если дать машине вашу задачу, она сделает её вместо вас или быстрее вместе с вами?

Двигайтесь к подписи. Из тех, кто выполняет, — к тем, кто отвечает. Проверка: назовите документ или решение, где стоит ваше имя и последствия несёте вы.

Как подстроиться — если вас уже сократили

Не ищите ту же должность. Вы конкурируете за сужающееся число мест с двадцатью шестью коллегами, уволенными в тот же день. Даже если найдёте — вернётесь в ту же воронку на два-три года раньше следующего витка.

Ищите места, где требуется подпись. Не метафорически: есть работа, где закон или договор требуют, чтобы под результатом стоял конкретный человек с конкретной квалификацией. Машина может подготовить, но отвечать обязан человек. Это самый защищённый вид занятости из доступных без смены профессии.

Ваш опыт теперь стоит дороже как проверка, а не как производство. Одиннадцать лет — это способность за минуту увидеть, что в результате ошибка. Раньше это был побочный навык. Сейчас это основной продукт.

Сужайте специализацию, а не расширяйте. Инстинкт после увольнения — переучиться на что-то новое. Это худшее решение: вы становитесь начинающим, а начинающих берут меньше всех — именно об этом вся глава. Правильное движение — глубже в узкий участок, где вы уже знаете больше среднего.

И честное предупреждение. Ответственность оплачивается только там, где она обеспечена — лицензией, законом, договором, репутацией на рынке, где вас знают по имени. Там, где её просто «доверяют», вы получите не деньги, а тревогу за прежнюю зарплату.

Что сказать сыну

Это отдельный разговор, и он труднее вашего.

Проверять вход до оплаты обучения. Открыть вакансии начального уровня в интересующей профессии за последние двенадцать месяцев. Нет входа — нет профессии, как бы она ни выглядела изнутри и что бы ни говорили на дне открытых дверей.

Искать не профессию, а участок, где ИИ дополняет. Там занятость растёт. Это не обязательно другая отрасль — часто это другая роль в той же самой.

И держать одну способность вне цифрового контура — требующую присутствия, рук и места. Не как увлечение, а как потенциальный второй доход.

Правила

2.1. Считайте задачи, а не должность. Проверка: доля формально проверяемых задач в вашей неделе выше половины — вы на подрезаемой ступени.

2.2. Выясните, замещает ИИ вашу работу или дополняет. Проверка: сформулируйте ответ одной фразой. Не можете — значит, не знаете.

2.3. Проверьте вход, прежде чем платить за обучение. Проверка: число вакансий начального уровня за двенадцать месяцев. Ноль — решение принято.

2.4. Двигайтесь к подписи. Проверка: есть документ, под которым стоит ваше имя.

2.5. Держите способность вне цифрового контура.

2.6. АНТИПРАВИЛО: не увольняйтесь и не переучивайтесь по заголовку. Рост увольнений «из-за ИИ» частично объясняется модой на эту формулировку. Решение принимается по данным вашей отрасли за год, а не по новости и не по чужой панике. И помните: широкого вытеснения по экономике не обнаружено.

Что изменило бы этот вывод

Здесь у вас есть редкая возможность: проверить самому, и прямо сейчас.

Лаборатория, сделавшая исследование, ведёт открытый показатель, который обновляется ежемесячно. Разрыв между молодыми и опытными в подверженных профессиях — это не цифра из книги, застывшая на дате печати. Это живое число.

Откройте его. Если разрыв продолжил расти — глава верна и становится острее. Если он пошёл вниз — значит, рынок адаптировался быстрее, чем ожидалось, и вы узнаете об этом раньше, чем выйдет следующая книга на эту тему.

Второе, за чем стоит следить: появятся ли исследования с причинным дизайном. Пока их нет, любое утверждение «ИИ отнял работу у молодёжи» остаётся правдоподобным объяснением, а не установленным фактом.

ГЛАВА 3. Мысль, которая не ваша. Сценарий

Вы написали текст, которым довольны. Предложение, письмо, поздравление, статью — неважно. Вы его обдумывали, вы его правили, вы считаете его своим.

Через неделю вы читаете то, что написал по тому же поводу другой человек. Незнакомый, в другом городе, другого возраста.

И узнаёте свой текст.

Не дословно. Тот же ход мысли, тот же порядок аргументов, та же мягкая формулировка в третьем абзаце, тот же приём в концовке. Вы оба ничего не списывали. Вы оба спрашивали одно и то же — у одного и того же собеседника.

Это неприятно, но не страшно.

Страшное дальше. Через месяц вы замечаете, что в одном давнем споре вы теперь на другой стороне. Вы не помните, чтобы вас переубедили. Вы просто теперь думаете иначе — и считаете, что пришли к этому сами.

Почему это реально

Ярлык: ИССЛЕДОВАНИЕ

Начнём с измерения, которое проводили — что показательно — на художественной прозе.

Писателям предложили сочинить короткие рассказы. Части из них давали идеи сюжета от языковой модели. Результат состоит из трёх частей, и приводить их нужно только вместе.

Первое: рассказы, написанные с идеями от модели, оценивались как более творческие, лучше написанные и более увлекательные.

Второе: эффект был сильнее всего у менее сильных авторов. Работу сильных писателей модель не улучшала.

Третье: эти рассказы оказались более похожими друг на друга, чем написанные людьми самостоятельно.

Авторы формулируют так: рост индивидуального творчества при риске утраты коллективной новизны. Каждый стал писать лучше. Все вместе стали писать одинаковее.

Теперь второе измерение — на самих моделях. Исследователи собрали 26 тысяч реальных открытых вопросов, на которые нет единственного верного ответа, и прогнали их через более семидесяти передовых систем, собрав 31 250 человеческих оценок.

Обнаружились два эффекта. Первый: модель повторяет сама себя. Второй: разные модели повторяют друг друга — и этот эффект сильнее первого.

Из этого следует вывод, который прямо опровергает распространённое убеждение: увеличение разнообразия настроек или использование нескольких разных систем сразу не гарантирует разнообразия ответов. Спросить у трёх — не то же самое, что спросить у троих.

И третье измерение — самое неприятное. В работе с участием 1506 человек людям предлагали писать текст вместе с моделью, имеющей выраженную позицию. Изменились не только тексты. Изменились собственные взгляды участников, измеренные отдельным опросом уже после.

Собеседник, у которого есть мнение, оставляет это мнение в вас. Это верно и для людей — но люди не масштабируются.

Что будет дальше

Механизм не требует ничьего умысла, и в этом всё дело.

Сначала выравниваются ответы систем. Потом выравниваются тексты людей, которые этими системами пользуются. Потом эти тексты становятся обучающими данными для следующего поколения систем.

Петля замыкается. Никто её не строил.

Есть и отдельно измеренная часть этого круга: при обучении на данных, порождённых предыдущими моделями, системы теряют представление о редких явлениях и смещаются к усреднённому. Хвосты распределения исчезают первыми — то есть именно то необычное, ради чего стоило спрашивать.

И последнее, что делает этот риск тихим. Однородность не ощущается как потеря. Она ощущается как согласие. Вы задаёте вопрос, получаете ответ, он совпадает с тем, что вы слышали вчера от другого источника, и вы чувствуете подтверждение. Ровно то же чувство, что и при настоящем подтверждении, — но здесь оно означает не «это правда», а «это один и тот же источник».

Чего не будет

Не будет вывода, что однородность всегда вредна. Для задач со стандартом — расчёт, формат документа, проверка кода — схождение к общему образцу и есть то, что нужно. Опасна она там, где требуется расхождение: в оценках, в замыслах, в решениях без единственного верного ответа.

Не будет и утверждения, что это неизбежное свойство технологии. Отдельное исследование показало, что при намеренно разнообразных ролях эффект однородности не возникает. То есть он зависит от того, как систему используют, а не только от того, какая она.

Не будет и объяснения причины, потому что его пока нет. Авторы главного исследования прямо оставляют открытым вопрос: вызвано ли это общими обучающими текстами — или схождением разработчиков на похожих способах донастройки. Любой, кто говорит вам, что знает ответ, опережает данные.

И не будет картины, где человек с машиной всегда сильнее человека. Обобщающий анализ показывает, что связка человека и ИИ нередко работает хуже, чем каждый по отдельности, причём задачи создания обычно выигрывают от совместной работы, а задачи принятия решений — проигрывают.

Проверка, которую вы можете сделать сами

В конце этой книги есть приложение, где двенадцать вопросов заданы трём разным системам разных компаний.

По-настоящему ответы разошлись только в трёх вопросах из двенадцати. В остальных они совпали по существу.

Когда я это заметил, первой мыслью было: вот подтверждение — три независимых источника сошлись. Правильная мысль другая: три системы, обученные на пересекающихся текстах, дали один ответ, и это измеренное, ожидаемое свойство, а не подтверждение.

Прочитайте приложение и посмотрите, где они разошлись. Расхождений всего три — и они интереснее любого совпадения.

Как бороться

Своя версия — до чужой. Сформулируйте собственный вариант прежде, чем спрашивать. Иначе вы не оцениваете ответ, а принимаете его: сравнивать не с чем.

Это главное правило главы, и оно стоит ровно тридцати секунд. Одна фраза на листе — уже достаточно, чтобы потом увидеть разницу между тем, что вы думали, и тем, что вам предложили.

Просите расхождения, а не правильность. Не «как лучше», а «дай три непохожих подхода и скажи, в чём каждый слаб». Формулировка вопроса определяет, получите вы одну усреднённую позицию или несколько разных.

Для важного — источники, написанные людьми. Не из ностальгии: в текстах, написанных до массового применения этих систем, разнообразие выше по построению. Это не значит, что они точнее. Это значит, что они разные.

Замечайте согласие. Если три источника сказали одно и то же — спросите себя, не один ли это источник в трёх обличьях. Признак: совпадает не только вывод, но и порядок аргументов.

Правила

3.1. Своя версия до чужой. Проверка: перед запросом на листе есть ваша фраза.

3.2. Просите непохожие подходы, а не правильный ответ. Проверка: в вашем запросе есть слово «разные» или «непохожие».

3.3. Важное проверяйте в источниках, написанных людьми.

3.4. АНТИПРАВИЛО: совпадение ответов разных систем — не подтверждение. Это измеренное свойство, а не независимая проверка. Признак общего источника, а не истины. И обратное тоже верно: единственное расхождение среди совпадений — самое ценное, что вы получили.

Что изменило бы этот вывод

За одним стоит следить особенно: появится ли обучение, которое вознаграждает разнообразие, а не только качество ответа. Авторы исследования прямо называют это направлением дальнейшей работы. Если такие системы появятся и будут распространены, глава устареет — и это будет хорошая новость.

Второе: если найдут причину. Сейчас неизвестно, дело в общих текстах или в общих методах донастройки. От ответа зависит, лечится ли это вообще: первое почти непоправимо, второе поправимо решением разработчиков.

И третье, доступное вам без всяких исследований: задайте один и тот же вопрос трём системам раз в полгода и сохраните ответы. Через два года у вас будет собственный ряд наблюдений — сходятся они или расходятся. Это ровно то измерение, которого сейчас не хватает никому.

ГЛАВА 4. Голос, которому вы верите. Сценарий

Приходит письмо от начальника. Срочно, конфиденциально, нужно перевести деньги, никому не говорить.

Вы не дурак. Вам это не нравится. Формулировка «никому не говорить» — классический признак, вас этому учили, и вы всё правильно чувствуете.

Поэтому вы делаете то, чему вас учили: не отвечаете на письмо, а требуете проверки. Просите видеозвонок.

Звонок начинается. Начальник на месте — лицо, голос, манера. Рядом двое коллег, которых вы знаете годами. Они обсуждают детали между собой, кто-то шутит.

Сомнения уходят. Вы переводите деньги.

Ни одного человека на том звонке не было.

Почему это реально

Ярлык: РЕАЛЬНЫЙ ИНЦИДЕНТ

Это произошло. Январь 2024 года, гонконгский офис британской инженерной компании.

Сотрудник финансового подразделения получил письмо якобы от финансового директора из Британии — срочная конфиденциальная операция. Он заподозрил неладное. И запросил видеозвонок, чтобы проверить.

На звонке были финансовый директор и несколько узнаваемых коллег. Все выглядели и звучали как настоящие. Все были подделкой, собранной из общедоступных записей выступлений руководителей.

Дальше — пятнадцать переводов на общую сумму около 25,6 миллиона долларов на пять счетов. Обман вскрылся, когда сотрудник позже сам связался с головным офисом.

Полиция раскрыла случай в феврале 2024 года; компания подтвердила, что пострадавшая — она, в мае.

Обратите внимание на то, что сделал этот человек. Он не поверил письму. Он потребовал проверки. Он выбрал самый убедительный из доступных способов проверки.

Атакой была именно проверка.

Директор по информационным технологиям компании назвал произошедшее «социальной инженерией, усиленной технологией». Ни одна система не была взломана. Данные не утекли. Отказал не технический контроль — отказала процедура.

Насколько это распространено

Впервые почти за двадцать пять лет существования отчёта американское бюро расследований выделило преступления с использованием ИИ в отдельную категорию. За 2025 год — 22 364 жалобы и 893 миллиона долларов заявленных потерь.

Главные применения по их же данным: клонирование голоса, поддельные видео, сгенерированные сценарии. Технология не создала новых схем — она усилила старые: романтический обман, звонки о беде с близким, поддельные вакансии, поддельные распоряжения руководства.

И обязательная оговорка, которую бюро делает само: эта цифра занижена. Отметка об участии ИИ ставится добровольно, а большинство пострадавших просто не распознают, что против них применили технологию. Это нижняя граница, а не измерение.

Что будет дальше

Вся многовековая защита от обмана строилась на одном: обманщику дорого притворяться. Подделать документ — долго. Подделать почерк — трудно. Подделать голос — почти невозможно. Подделать лицо в движении, да ещё несколько лиц сразу, в реальном времени, отвечающих на ваши вопросы, — немыслимо.

Эта стоимость и была защитой. Не ваша внимательность — цена подделки.

Стоимость упала. Всё остальное осталось прежним: ваши привычки, ваши процедуры, ваше умение «чувствовать неладное».

Отсюда следует вещь, которую надо принять целиком, потому что наполовину она не работает. Узнавание больше не является подтверждением личности. Ни голос, ни лицо, ни несколько знакомых лиц одновременно, ни манера, ни общие воспоминания, произнесённые вслух.

Единственное, что осталось, — канал. Не то, что вы видите и слышите, а то, как вы туда попали.

Чего не будет

Не будет массовой охоты на вас лично. Персональные подделки пока применяют там, где на кону крупные суммы: корпоративные переводы, состоятельные жертвы. Для обычного человека вероятность встретить синтезированный голос близкого пока невелика.

Не будет и волшебства. Чтобы подделать голос вашей дочери, нужна запись её голоса. Она обычно есть — голосовое сообщение, видео, публичное выступление, — но это условие, а не данность.

Не будет и оснований доверять большинству цифр, которые вы прочтёте на эту тему. Значительная часть статистики о голосовом мошенничестве происходит из опросов и из материалов компаний, продающих защиту от голосового мошенничества. Популярное утверждение о трёх секундах записи, достаточных для убедительной подделки, восходит к техническому испытанию 2023 года. Это правдоподобно и, вероятно, устарело в сторону ухудшения, но это не свежий замер.

И не будет пользы от совета быть внимательнее. Человек из того офиса был внимателен. Внимательность — то, что у него отняли.

Как защититься

В этой главе одно правило, и оно заменяет всё остальное. Прежняя редакция, которую вы встретите в любой инструкции по безопасности, звучит так: подтверждайте по другому каналу.

Этого недостаточно. Видеозвонок и был другим каналом.

Исправленное правило:

Не по ссылке из письма. Не по приглашению на встречу. Не по номеру, который вам продиктовали. Не по кнопке «перезвонить». И видеосвязь — не исключение, а ровно тот случай, ради которого правило переписано.

Практически это значит: вы кладёте трубку и сами набираете номер, который у вас в записной книжке уже год.

То же самое рекомендует американская комиссия по торговле для звонков о беде с родственником: положить трубку и перезвонить по известному вам номеру.

Два дополнения

Семейное кодовое слово. Одно слово или вопрос, ответ на который знают только свои и которого нет ни в одной вашей публикации, ни в одном интервью, ни в соцсетях. Договоритесь сегодня, пока повода нет — потом будет поздно и неловко.

Разведите просьбу и подтверждение. Если просьба пришла в мессенджере, подтверждение идёт голосом. Если голосом — письменно. Не потому, что один канал надёжнее, а потому, что нападающему приходится держать два.

Что сказать пожилым родителям

Это отдельный разговор, и вести его надо не с позиции «тебя обманут».

Скажите проще: если звонят от моего имени и просят денег, это не я — всегда. Не «может быть не я», а «не я». Я так не делаю. Я позвоню сам, и ты перезвонишь мне на мой номер.

Договоритесь о кодовом слове и запишите его на бумаге рядом с телефоном. Не в телефоне — рядом.

И снимите с них ответственность заранее: скажите, что положить трубку и перезвонить — это не грубость и не недоверие, а нормальный порядок. Большинство людей этого возраста попадаются не от наивности, а от воспитанности: им неловко не поверить голосу.

Правила

4.1. Подтверждение — только по каналу, инициированному вами, и по контакту, который у вас уже был. Проверка: номер, по которому вы перезваниваете, есть в вашей записной книжке дольше месяца.

4.2. Семейное кодовое слово. Проверка: спросите второго члена семьи, помнит ли он его.

4.3. Просьба и подтверждение — в разных каналах.

4.4. АНТИПРАВИЛО: не пытайтесь распознать подделку на слух и на глаз. Вы не можете, и это не ваш недостаток. Человек в том офисе видел трёх знакомых людей, разговаривавших между собой. Защищает процедура, а не внимательность, и всякий совет «прислушайтесь к интонации» сегодня вреден: он создаёт ложную уверенность там, где её быть не должно.

Что изменило бы этот вывод

Следить стоит за двумя вещами.

Первая: появится ли подтверждение происхождения у видеосвязи. Технически это возможно — сервис может удостоверять, что участник вошёл со своего учтённого устройства. Если это станет обычным делом и вы научитесь смотреть на этот признак, правило смягчится.

Вторая: сместится ли цель. Сейчас персонализированные подделки применяют там, где суммы крупные. Если стоимость упадёт ещё, цель сместится на обычных людей — и об этом вы узнаете не из новостей, а из того, что такая история случится у кого-то из ваших знакомых. Это и есть ваш индикатор.

А до тех пор исходите из простого: голос и лицо больше не удостоверяют личность. Удостоверяет только то, как вы дозвонились.

ГЛАВА 5. Обман по вашей мерке. Сценарий

Письмо знает про вас правду.

Не «уважаемый клиент» и не «ваш аккаунт заблокирован». В письме упомянуто мероприятие, на котором вы действительно были. Названа тема, которой вы действительно занимаетесь. Обращение — по имени, в той форме, которой вас действительно зовут коллеги.

Это не рассылка. Это письмо вам.

Вы смотрите на него секунд десять и нажимаете ссылку — не от глупости, а потому что оно уместно. Всё, чему вас учили, касалось ошибок в тексте, странных адресов и нелепых обещаний. Здесь ничего этого нет.

Письмо стоило меньше трёх центов и заняло сорок пять секунд машинного времени.

Почему это реально

Ярлык: ИССЛЕДОВАНИЕ (полевой эксперимент)

Это измерено — на живых людях, в их рабочей почте, в самом крупном исследовании такого рода. Работа представлена на профильной конференции по безопасности в августе 2026 года. Участников — 7741 сотрудник организации.

Метод важнее результата. Исследователи брали только адрес электронной почты. По нему автоматически искались сведения в открытой сети, и письмо составлялось под конкретного человека — без участия человека на стороне отправителя.

Результат: персонализация даёт в 2,74 раза больше переходов по ссылке, чем обычный массовый фишинг.

И два числа, которые описывают стоимость. 120 долларов за четыре тысячи персонализированных писем. Сорок пять секунд на письмо против примерно семи минут у человека — почти в девять раз быстрее, и процесс полностью распараллеливается.

Одно число, которое стоит всей главы

Из 3949 отправленных писем система защиты организации задержала одно.

Авторы объясняют: письма, написанные людьми или моделями, слишком похожи на обычную рабочую переписку, чтобы различать их по языковым признакам. Обнаружить кампанию удавалось только там, где повторялась инфраструктура — например, имена отправителей.

Что будет дальше

Персональный обман всегда был самым результативным и самым дорогим.

Дорог он был из-за ручного труда. Чтобы написать убедительное письмо одному человеку, надо было изучить его: где работает, с кем, чем занят, к кому обращается на «ты». Часы работы на одну цель. Поэтому такие письма доставались только ценным мишеням: руководителям, бухгалтерам, держателям доступов.

Остальные получали «уважаемый клиент».

Труд убрали. Результативность осталась. Это и есть всё содержание главы.

Для масштаба: по отраслевым данным персональный фишинг составляет около 0,1% всех фишинговых писем — и связан с 66% утечек данных. Самый редкий вид атаки даёт две трети результата. Именно он и подешевел.

Чего не будет

Здесь придётся разрушить сразу два ожидания, и оба — в вашу пользу.

Машина пока хуже человека. Сильно хуже

В том же исследовании часть писем написали люди вручную. Сравните:

Человек результативнее машины в 2,4 раза. Никакого превосходства искусственного интеллекта в искусстве обмана нет.

Преимущество машины — не качество, а цена и масштаб. Она не научилась обманывать лучше людей. Она научилась обманывать так же дёшево, как рассылать спам.

Чем больше о вас известно, тем реже вы попадаетесь

Это самый неожиданный результат исследования, и он прямо противоречит совету, который вы слышали сто раз.

Люди, о которых в интернете больше всего информации, попадались вдвое реже.

Объяснение авторов техническое и убедительное. Когда данных мало, модель дословно переиспользует найденные слова: письмо выходит коротким, конкретным, привязанным к двум-трём точным фактам. Когда данных много, модель начинает пересказывать и обобщать, теряет конкретику и уходит в сторону. Персонализация размывается.

Вывод авторов дословно: обширная публичная информация сама по себе не является уязвимостью.

Поэтому совет «сократите свой цифровой след» в этой книге отсутствует. Он не подтверждается данными. Для университетов, государственных органов и публичных профессий он вдобавок невыполним: имена, должности и адреса там публикуются по закону.

И сами цифры — нижняя граница

Авторы это подчёркивают. Использовались только свободные модели, запущенные на собственном оборудовании, без облачных — пробный запуск с облачной моделью дал заметно лучшие профили. Участников предупредили заранее о предстоящем обучении. Целью были сотрудники, регулярно проходящие подготовку по распознаванию фишинга. Анализировались только первые пять результатов поиска. Никаких приёмов обхода фильтров не применялось.

То есть 10% — это результат в самых неблагоприятных для нападающего условиях.

Отдельно: это было исследование, а не преступление

Эксперимент проводился внутри обязательного обучения по безопасности, по согласованию со службой защиты данных и представительством сотрудников. Все письма проверялись вручную, четыре удалены как неуместные. Перешедшие по ссылке попадали на обучающую страницу. Данные обезличены. Код исследователи намеренно не опубликовали — из-за риска злоупотребления.

Как защититься

Главный вывод авторов не про распознавание. Он про последствия.

Они пишут прямо: часть получателей неизбежно нажмёт. Значит, задача не в том, чтобы никто не нажал, а в том, чтобы нажатие не было катастрофой.

Многофакторная аутентификация везде, где возможно. Это единственная мера, превращающая утечку пароля из катастрофы в неприятность. Если в этой главе вы сделаете одно действие — сделайте это.

Разные пароли на разных сервисах. По той же причине: чтобы один перешедший по ссылке человек не отдавал доступ ко всему сразу.

Проверяйте уместность, а не грамотность. ИИ убрал ошибки в тексте — тот признак, по которому вы отличали подделку, исчез. Остались другие, и они не про язык: необычная срочность, странное время, пропущенный обычный шаг, просьба сделать что-то в обход заведённого порядка.

Любая просьба о деньгах, доступах или данных подтверждается по каналу, который инициировали вы. Это правило из предыдущей главы, и здесь оно работает так же.

Правила

5.1. Многофакторная аутентификация везде, где она есть. Проверка: назовите сервис из ваших основных, где её нет. Назвали — там и включите.

5.2. Проверяйте уместность, а не грамотность. Проверка: сформулируйте, какой обычный шаг пропущен в этом письме.

5.3. Просьба о деньгах, доступах или данных — подтверждение по вашему каналу.

5.4. АНТИПРАВИЛО: «я умею отличать фишинг» больше не защита. Раньше вас защищала безграмотность мошенника, а не ваша внимательность. Этого щита больше нет.

5.5. АНТИПРАВИЛО: не думайте, что вы в безопасности, потому что о вас мало информации в сети. По измерениям — ровно наоборот. И не рассчитывайте, что письмо отфильтруют: в этом эксперименте фильтр задержал одно письмо из почти четырёх тысяч.

Что изменило бы этот вывод

Главное, за чем стоит следить, — сократится ли разрыв между человеком и машиной. Сегодня человек пишет вдвое убедительнее. Если этот разрыв исчезнет, изменится не масштаб, а качество: персональный обман станет и дешёвым, и первоклассным одновременно. Сейчас он только дешёвый.

Второе: перестанет ли работать эффект «много данных — хуже подделка». Он держится на технической особенности — модель обобщает там, где много материала. Это лечится. Когда вылечат, правило 5.5 придётся переписать, и в обратную сторону.

И третье, доступное вам: посчитайте, сколько писем с настоящими сведениями о вас вы получили за последний год. Если в прошлом году таких было ноль, а в этом два — это ваш личный индикатор, и он точнее любой статистики.

ГЛАВА 6. Теперь можно отрицать всё. Сценарий

У вас есть запись. Настоящая.

Видео с камеры у двери, где видно, как подрядчик уходит, не закончив работу. Голосовое сообщение, где вам обещают вернуть деньги. Фотография повреждённой машины на парковке, сделанная через минуту после удара.

Вы приносите её туда, где решают спор. Вы уверены: вот доказательство.

Другая сторона смотрит и спокойно говорит: «Это может быть подделка. Сейчас такое делают за минуту».

И вы понимаете, что не можете доказать обратного. Вы знаете, что снимали сами. Но знать — не значит доказать, а доказать вам нечем: запись выглядит ровно так, как выглядела бы подделка.

До недавнего времени эта фраза звучала бы нелепо. Теперь её можно сказать о любой записи — и о вашей тоже.

Почему это реально

Ярлык: РЕАЛЬНЫЙ ИНЦИДЕНТ (судебная практика) + ИССЛЕДОВАНИЕ (правовая наука)

У этого явления есть имя, и придумали его юристы задолго до того, как оно стало массовым: «дивиденд лжеца».

Суть в том, что опасна не конкретная подделка. Опасно само знание о том, что подделки существуют. Как только все знают, что убедительную запись можно сфабриковать, недобросовестная сторона получает возможность отмахнуться от подлинной — просто сказав, что она может быть синтетической. Бремя доказывания переворачивается: теперь не лжец должен объяснять свою ложь, а тот, кто принёс правду, должен доказывать, что это правда.

Это уже не теория. Судья Высшего суда округа Санта-Клара и эксперт по электронным доказательствам сходятся в том, что существующих правил для этой ситуации может не хватить, — и формулируют прогноз, который стоит запомнить: суды столкнутся с дивидендом лжеца раньше, чем с самими подделками.

Судебная практика уже есть. В деле в штате Вашингтон суд исключил из доказательств видеозапись, улучшенную с помощью ИИ, — из-за недостаточной надёжности. Обратите внимание: запись не была подделкой. Её просто обработали, чтобы лучше было видно. Этого оказалось достаточно, чтобы суд перестал ей доверять.

Правовая система реагирует. В США обсуждается новое федеральное правило о доказательствах, созданных машинами. В Европе с 2 августа 2026 года действуют требования о прозрачности для сгенерированного контента. Существует международный стандарт подтверждения происхождения цифровых материалов.

Но ни одно из этих решений ещё не работает для вас — человека с записью с дверной камеры.

Что будет дальше

Человечество несколько веков пользовалось удобным допущением: запись — это след события. Фотография показывает то, что было перед объективом. Звукозапись — то, что прозвучало. Не всегда, не абсолютно, но по умолчанию.

На этом допущении держатся суды, страховые компании, журналистика, семейные споры, трудовые разбирательства. Держатся тихо — никто не замечает опору, пока она не исчезнет.

Она исчезает. И исчезает не частично, а сразу для всех записей: подделка не должна существовать, чтобы обесценить настоящую. Достаточно того, что её можно было бы сделать.

Отсюда сдвиг, который определит ближайшие годы. Аргументом перестаёт быть содержание записи. Аргументом становится её происхождение: откуда файл взялся, каким устройством, когда, где хранился, кто к нему прикасался между моментом съёмки и моментом предъявления.

Юристы называют это цепочкой хранения. Раньше это была забота следователей. Теперь это забота любого, у кого может возникнуть спор.

Чего не будет

Не будет того, что запись вообще перестанет что-либо значить. Большинство споров по-прежнему не доходят до вопроса о подлинности: обе стороны знают, что было, и запись лишь фиксирует это.

Не будет и спасения через технологию — во всяком случае, в ближайшее время. Водяные знаки, которыми помечают сгенерированный контент, удаляются. Подтверждение происхождения поднимает планку, но не устраняет дивиденд лжеца: сказать «а вдруг подтверждение подделали» всегда можно. И главное — пока стандарты не внедрены массово, у обычного человека инструментов почти нет. Честнее сказать это прямо, чем выдавать будущие стандарты за готовое решение.

Не будет и защиты через экспертизу. Экспертиза подлинности дорога, медленна и даёт вероятностный ответ. Для спора с подрядчиком о тридцати тысячах её никто не закажет.

И не будет симметрии, на которую можно было бы надеяться. Дивиденд лжеца работает на того, кто отрицает, а не на того, кто доказывает. Отрицать дёшево. Доказывать дорого.

Как защититься

Вывод из этой главы простой и непривычный: ваша защита — не запись, а её история.

Храните оригиналы, а не пересылки. Это самое важное практическое правило главы. Когда вы пересылаете фото или видео через мессенджер, с файла снимаются служебные сведения: устройство, время, иногда место. Именно они — единственное, что отличает вашу запись от чьей угодно. Пересланная копия — это просто картинка.

Поэтому важное храните в том виде, в каком оно родилось: исходный файл на устройстве, которым снимали, или в облаке, куда он загрузился автоматически.

Фиксируйте происхождение важного сразу. Если снимаете то, что может стать предметом спора, — отправьте себе или доверенному человеку в тот же момент. Письмо на почту с вложением даёт независимую отметку времени, которую вы не контролируете. Этого часто достаточно, чтобы превратить «может быть подделка» в «тогда объясните, как её сделали за две минуты до отправки».

Для действительно важного — свидетели и третьи лица. Запись плюс человек, который был рядом, сильнее записи. Запись, зафиксированная третьей стороной — нотариусом, представителем компании, сотрудником охраны, — сильнее записи, которую храните только вы.

Не обрабатывайте то, что может понадобиться как доказательство. Не улучшайте, не обрезайте, не повышайте резкость. Даже честная обработка, как показала судебная практика, может лишить запись доверия. Сделайте копию для улучшения, но оригинал не трогайте.

Правила

6.1. Храните оригиналы, а не пересылки. Проверка: откройте любое важное фото и посмотрите, сохранились ли у него дата и устройство. Не сохранились — это копия.

6.2. Фиксируйте происхождение в момент создания. Проверка: у важной записи есть отметка времени, которую контролирует не только вы.

6.3. Не обрабатывайте потенциальное доказательство.

6.4. АНТИПРАВИЛО: не рассчитывайте, что экспертиза отличит подделку. Побеждает не экспертиза, а цепочка хранения. Ваша задача — не доказать, что запись настоящая, а сделать так, чтобы отрицать её было дороже, чем признать.

Что изменило бы этот вывод

Следить стоит за одной вещью: появится ли подтверждение происхождения в обычных телефонах по умолчанию. Технически это возможно — камера может подписывать снимок в момент съёмки, и любое изменение будет видно. Отдельные производители уже этим занимаются.

Когда такая подпись станет нормой, глава изменится: вместо «храните оригинал» правило станет «проверяйте, есть ли подпись». Дивиденд лжеца уменьшится, но не исчезнет — всегда останутся старые записи без подписи и устройства, которые её не ставят.

И второе, доступное вам: проверьте прямо сейчас, что делает ваш телефон со снимками. Сохраняет ли он исходники, сохраняются ли дата и место, куда уходит резервная копия. Большинство людей этого не знают — и узнают в тот момент, когда запись понадобилась.

ГЛАВА 7. Отказано. Причина не указана. Сценарий

Вы подали заявление. Страховую выплату, кредит, возмещение, одобрение процедуры — неважно. Собрали документы, заполнили форму, приложили всё, что просили.

Ответ пришёл через несколько минут. Одна строка: «В удовлетворении отказано».

Вы звоните. Оператор вежлив и ничего не знает: решение принято, основание в системе не отображается. Вы просите соединить с тем, кто решал. Вам объясняют, что такого человека нет — точнее, он есть, но он не решал, а «подтверждал».

Вы спрашиваете, что именно он подтверждал.

На том конце молчат.

Почему это реально

Ярлык: РЕАЛЬНЫЙ ИНЦИДЕНТ (журналистское расследование, судебные дела, законодательство)

В 2023 году журналисты-расследователи изучили, как крупная американская страховая компания рассматривает заявки на оплату медицинских услуг. Система автоматически сопоставляла коды диагнозов и процедур, а врачи компании отклонили по её результатам более 300 000 заявок за два месяца.

На каждую тратилось в среднем 1,2 секунды.

Это не время на размышление. Это время на нажатие кнопки.

Формально решение принимал врач. По существу он подписывал то, что уже решила система. Именно здесь исчезает ответственность — не потому, что её кто-то отменил, а потому, что она размазана так тонко, что нигде её нельзя нащупать.

По этому и по сходному случаю с алгоритмом другой крупной страховой компании в США поданы коллективные иски. В начале 2025 года суды допустили их к рассмотрению.

И уже есть ответ

Это первая глава книги, где на риск уже ответило законодательство — и ответило именно так, как требует центральный принцип этой книги.

В Калифорнии с января 2025 года действует закон, запрещающий отказывать в оплате медицинской помощи исключительно на основании автоматизированных инструментов — без проверки лицензированным специалистом. Похожие законы приняли другие штаты.

Для кредитов американский финансовый регулятор ещё в 2023 году разъяснил: даже если решение принял сложный алгоритм, кредитор обязан назвать конкретную причину отказа. Сложность модели не освобождает от объяснения.

В Европе с 2 августа 2026 года вступают требования к системам высокого риска — среди них кредитный скоринг, андеррайтинг и страховое ценообразование.

Что будет дальше

Автоматизация снимает не решение. Она снимает его обоснование.

Человек, отказавший вам, обязан назвать причину — хотя бы плохую, хотя бы неправдивую. Причина — это то, с чем можно спорить. Система, отказавшая вам за 1,2 секунды, формально называется «инструментом поддержки решения», а решение считается принятым человеком, который её подписал. Человек же ничего не решал — он подтверждал.

В итоге ответственность существует, но найти, у кого она, невозможно. Вы спорите не с решением, а с пустотой.

И здесь важная экономика. Автоматический отказ рассчитан на то, что его не будут обжаловать. Обжалование требует усилий, а большинство людей получает отказ и уходит. Система, которая отказывает быстро и дёшево, выгодна не тогда, когда она права, а тогда, когда с ней не спорят.

Чего не будет

Это может быть вовсе не искусственный интеллект

Это лучшее опровержение в книге, и оно работает на её главную мысль.

Страховая компания из первого случая утверждает, что её система — не ИИ. Это простое сопоставление кодов диагноза и процедуры, сходное с тем, что применяется в государственном медицинском страховании, и используется только для недорогих исследований и процедур.

Если это так, вам навредил не искусственный интеллект. Вам навредила обычная автоматизация, которой много лет, и слово «ИИ» здесь только мешает понять, что произошло.

Вывод главы от этого не слабеет, а становится точнее: опасно не то, насколько система умна. Опасно то, что под её решением никто не расписывается по-настоящему.

Правило есть — исполнения может не быть

Наличие закона не означает наличия исполнения. Американский финансовый регулятор, выпустивший разъяснение про обязанность называть причину, за последнее время был серьёзно ослаблен. Правило действует, но жаловаться всё труднее.

Эти права — не ваши, если вы живёте в другой стране

Все перечисленные законы — американские и европейские. Книга не может сообщить вам, что в вашей стране действует то же самое. Она может дать принцип и вопросы, которые работают везде, где у вас вообще есть право на объяснение.

Как добиться ответа

Это самая практическая глава книги. Здесь у вас есть рычаги, и их надо применять по порядку.

Шаг 1. Требуйте причину письменно. Не устно по телефону — письменно. Во многих юрисдикциях при неблагоприятном решении у вас есть право получить конкретную причину. Общая формулировка вроде «не соответствует критериям» — это не причина. Требуйте указать, каким именно критериям и в какой части.

Шаг 2. Задайте один вопрос прямым текстом. Письменно: «Принимал ли это решение человек, и какова его квалификация?» В ряде юрисдикций ответ «нет» или отсутствие ответа делает решение оспоримым. Даже там, где это не так, вопрос заставляет компанию зафиксировать, кто отвечает.

Шаг 3. Обжалуйте. Всегда. Автоматический отказ рассчитан на то, что вы этого не сделаете. Примитивное сопоставление кодов часто разваливается при первом же рассмотрении человеком.

Шаг 4. Жалуйтесь регулятору, а не только компании. Компания заинтересована в отказе. Регулятор — нет. Для страховых это профильный надзорный орган, для кредитов — финансовый.

Шаг 5. Сохраняйте всё. Каждое письмо, каждый ответ, дату каждого звонка и имя оператора. Если дело дойдёт до спора, ваша переписка и станет цепочкой, по которой видно, кто и когда отказался объяснять.

Правила

7.1. Требуйте причину отказа письменно. Проверка: у вас на руках документ, где указан конкретный критерий, а не общая фраза.

7.2. Спросите прямо, принимал ли решение человек. Проверка: вопрос задан письменно и на него получен письменный ответ — или зафиксирован отказ отвечать.

7.3. Обжалуйте.

7.4. Жалуйтесь регулятору, а не только компании.

7.5. Сохраняйте всю переписку с датами.

7.6. АНТИПРАВИЛО: не считайте отказ приговором умной машины. Часто это не ИИ, а примитивное сопоставление, и оно не выдерживает первого же человеческого взгляда. Отказ, принятый за секунду, и снят может быть за минуту — если вы попросите.

Что изменило бы этот вывод

За двумя вещами стоит следить.

Будут ли законы исполняться. Калифорнийский закон и похожие существуют. Вопрос в том, появятся ли первые решения, где компанию наказали за автоматический отказ без реальной проверки человеком. Пока таких решений мало, закон — это обещание.

И станут ли причины отказа понятнее. Если компании начнут выдавать не «не соответствует критериям», а конкретное объяснение, которое можно проверить, — глава устареет. Технически это несложно. Выгодно ли — отдельный вопрос, и ответ на него определяется только одним: тем, сколько людей будет обжаловать.

Ваше обжалование — это не только ваш шанс. Это то, что делает автоматический отказ невыгодным для всех.

ГЛАВА 8. Ваша цена. Сценарий

Вы с женой выбираете одну и ту же вещь. Один магазин, одна модель, один вечер. Вы — со своего телефона, она — со своего.

У вас цена выше.

Не на рубль. Заметно. Вы обновляете страницу — цена та же. Она обновляет свою — у неё тоже прежняя, ниже вашей.

Вы сидите рядом, на одном диване, в одной сети. Товар один. Разница — только в том, кто спрашивает.

И тогда вы задаёте вопрос, который до этого не приходил в голову: а сколько раз так уже было — когда рядом никого не оказалось, чтобы сравнить?

Почему это реально

Ярлык: ИССЛЕДОВАНИЕ РЕГУЛЯТОРА

Это не теория заговора, а предмет официального федерального изучения.

В июле 2024 года американская Федеральная торговая комиссия направила предписания восьми компаниям, которые помогают магазинам назначать цены. В январе 2025 года были опубликованы предварительные результаты.

Они показали: такие сведения, как точное местоположение человека и история его браузера, часто используются, чтобы показывать разным покупателям разные цены на один и тот же товар. Отслеживаются даже движения мыши по странице и товары, которые вы положили в корзину и не купили.

Это называют персонализированным, или «надзорным», ценообразованием: цена формируется не только по товару, но и по вам.

По расследованию одного сервиса доставки продуктов, такое ценообразование могло обходиться части покупателей примерно в 1200 долларов в год сверх того, что платили другие.

Что будет дальше

Здесь важно не спутать две разные вещи, которые обычно смешивают.

Динамическое ценообразование — цена меняется со временем: утром дешевле, вечером дороже, в праздник дороже, при избытке товара дешевле. В каждый момент она одинакова для всех. Так давно работают авиабилеты и такси. Это неприятно, но это можно понять: вы платите за время и спрос.

Персонализированное ценообразование — цена разная для разных людей в один и тот же момент. Вот это и есть предмет главы.

Что при этом оценивает система? Не ценность товара — она одна и та же. Система оценивает вашу готовность заплатить. А готовность заплатить складывается из вещей, которые вы не хотели бы сообщать продавцу: насколько вам срочно, есть ли у вас альтернатива, в каком вы состоянии, сколько раз вы возвращались к этому товару, из какого района вы заходите.

Проще говоря: система измеряет не товар, а вашу уязвимость в эту минуту.

И у этого есть неприятное следствие. Самую высокую цену получает тот, кому больнее всего отказаться: кто спешит, кто устал искать, кто покупает в беде. Чем хуже ваше положение, тем дороже.

Чего не будет

Не всякая разная цена — слежка. Цена могла измениться, пока вы сравнивали. Могла отличаться из-за региона доставки, из-за акции для новых покупателей, из-за наличия на складе. Прежде чем решить, что вас «вычислили», исключите обычные причины.

Персонализация может и помогать. Экономисты описывают условия, при которых персональные цены покупателю выгодны: скидку получает тот, кто иначе не купил бы вовсе. Студент, пенсионер, человек, долго сомневавшийся, — нередко именно они видят цену ниже. Персонализация сама по себе не зло; зло — непрозрачность, при которой вы не знаете, по какую сторону оказались.

Запрета нет — и надзор слаб. Предварительные результаты федеральной комиссии были опубликованы, но правоприменение после этого оставалось слабым. Рассчитывать, что кто-то придёт и восстановит справедливость, не стоит.

И это не заслуга искусственного интеллекта. Динамические цены существовали задолго до него. ИИ сделал персонализацию тоньше и дешевле — оценить по сотне признаков, сколько готов заплатить конкретный человек, раньше было дорого. Теперь — нет. Та же история, что в главе про обман: изменилась не суть, а цена.

Как защититься

Полностью уйти от этого нельзя — вы не можете покупать, ничего о себе не сообщая. Но можно получить точку сравнения, а это уже половина защиты.

Перед крупной покупкой сравните цену с другого устройства или в режиме без сохранения истории. Это не гарантия: система может учитывать местоположение и сеть. Но если цена отличается — вы узнали главное. Вас оценили, и теперь вы это знаете.

Не показывайте срочность. Многократные возвраты к одному товару, поиск «срочно» и «сегодня», брошенная и снова открытая корзина — это сигналы готовности заплатить. Если покупка срочная, определитесь с выбором заранее и заходите уже за ним, а не ищите на глазах у магазина.

Сравнивайте с кем-то рядом. Самый простой и самый надёжный способ из сценария этой главы: спросите у близкого, какую цену видит он. Два человека в одной сети видят разницу, которую ни один не заметил бы в одиночку.

Для повторяющихся покупок проверьте, не выгоднее ли быть «новым». Иногда постоянный покупатель платит больше нового — потому что система уже знает, что он никуда не уйдёт.

Правила

8.1. Перед крупной покупкой — точка сравнения. Проверка: цена посмотрена минимум с двух устройств или в двух режимах.

8.2. Не показывайте срочность магазину. Проверка: выбор сделан до того, как вы открыли страницу покупки.

8.3. Сравнивайте с кем-то рядом.

8.4. АНТИПРАВИЛО: не всякая разная цена — слежка. Сначала исключите обычные причины: время, регион, акции, склад. Динамические цены старше ИИ, и персонализация бывает в вашу пользу. Цель главы не в том, чтобы видеть заговор в каждом ценнике, а в том, чтобы получить точку сравнения, когда сумма того стоит.

Что изменило бы этот вывод

Появится ли обязанность показывать, что цена персональная. Это самое простое и самое действенное решение: не запретить персонализацию, а обязать магазин сообщать, что вам показана цена, рассчитанная индивидуально. Обсуждается в разных юрисдикциях. Если станет нормой — глава смягчится: вы будете знать, когда сравнивать.

Будет ли правоприменение. Предварительные результаты есть, закона пока нет. Первое решение, где компанию обяжут вернуть переплату за персонализированную цену, изменит расчёт для всего рынка.

И ваш собственный индикатор: заведите привычку раз в месяц сравнивать одну крупную покупку с близким. Через полгода вы будете знать о своих ценах больше, чем любая статистика.

ГЛАВА 9. Тот, кто всегда отвечает. Сценарий

Это началось с работы. Вы спрашивали систему о задачах, потом — о том, как лучше написать письмо начальнику, потом — стоит ли вообще на него обижаться.

Теперь вы разговариваете с ней почти каждый вечер. Она не устаёт. Не перебивает. Не переводит разговор на себя. Не помнит обид. Отвечает в два часа ночи так же внимательно, как в два часа дня.

Однажды вы замечаете: вы рассказали ей то, чего не рассказывали никому из людей.

Это не катастрофа. Может быть, это даже хорошо — вам стало легче. А может быть, нет.

Эта глава не скажет вам, что именно с вами происходит. Она скажет, почему на этот вопрос не может ответить никто, кроме вас — и как понять ответ самому.

Почему это реально

Ярлык: ИССЛЕДОВАНИЕ (спорное поле)

Самое аккуратное измерение на сегодня — рандомизированный эксперимент исследовательской лаборатории MIT совместно с OpenAI. Почти тысяча участников, 28 дней, не меньше пяти минут общения с моделью ежедневно. План исследования зарегистрирован заранее. Участников распределили по девяти условиям: три способа общения — текстом, нейтральным голосом, выразительным голосом — на три типа разговоров — личные, безличные, свободные. Измеряли одиночество, общение с живыми людьми, эмоциональную зависимость и проблемное использование.

Результат состоит из двух половин, и нужны обе.

В среднем участники после исследования стали менее одинокими.

При этом продолжительное ежедневное общение может усиливать негативные эффекты.

Одно и то же исследование, одна и та же технология — и польза, и вред. Разница не в том, с кем человек разговаривает. Разница в дозе, способе и содержании разговоров.

Поле честно разделено

Международный доклад по безопасности ИИ 2026 года ссылается на рецензируемые работы с противоположными выводами. Одна из них, опубликованная в журнале о потребительском поведении, называется прямо: ИИ-компаньоны снижают одиночество. Другая, в журнале о новых медиа, анализирует вред психическому здоровью от эмоциональной зависимости от социального чат-бота.

Обе рецензируемы. Обе всерьёз. Это не тот случай, когда одна сторона права, а другая — нет. Это случай, когда верно и то, и другое — для разных людей.

И одно наблюдение, касающееся тех, кто считает, что тема их не касается: люди формируют привязанность и к системам, которые вообще не задуманы как собеседники, — к рабочим инструментам. Именно так начался сценарий этой главы.

Что будет дальше

Механизм понятен, и в нём нет ничего зловещего. Человеческие отношения требуют усилий, взаимности, терпения к чужому плохому настроению. Система не требует ничего — и поэтому любое человеческое общение по сравнению с ней начинает казаться дорогим.

Опасность не в том, что система плохой собеседник. Опасность в том, что она слишком удобный собеседник. Дружба с человеком неудобна: он помнит вас, ему от вас что-то нужно, иногда он с вами не согласен. Из этого списка у системы нет ничего, и именно поэтому она не может заменить то, что делают люди.

Отсюда граница, которую стоит держать в голове. Вопрос не «сколько я общаюсь с системой». Вопрос: заменяет ли это разговор, который иначе был бы у меня с человеком?

Если система дополняет — вы говорите с ней о том, о чём не стали бы говорить ни с кем, и при этом говорите с людьми о своём, — это, по имеющимся данным, скорее помогает. Если вытесняет — разговоры с людьми сокращаются, потому что с ней проще, — это и есть та половина результата, о которой предупреждает исследование.

Чего не будет

Не будет доказательства вреда

К главному исследованию опубликован рецензируемый комментарий в медицинском журнале. Его авторы называют работу хорошо спланированной и своевременной — и заключают, что из-за существенных аналитических ограничений её результаты не подтверждают заявлений о вредном воздействии.

Там же названа ловушка, в которую попадают почти все, кто пишет на эту тему. Больше всего пользовались системой, скорее всего, те, кто и до исследования был более одинок. Значит, связь может идти в обратную сторону: не общение с машиной вызвало одиночество, а одиночество привело к общению с машиной.

По той же причине в этой главе нет популярной цифры о том, что ежедневные пользователи чаще сообщают о депрессивных симптомах. Это наблюдение верное — и бесполезное: оно ничего не говорит о том, что было причиной, а что следствием.

Не будет запрета

В среднем эффект измерен как положительный. Запретить себе или близким пользоваться такими системами на основании этой главы — значит отнять то, что многим помогает, ради защиты от того, что касается немногих.

Не будет системы вместо специалиста

Здесь данные однозначнее. Работа, представленная на профильной конференции в 2025 году, показала: выражение стигмы и неуместные ответы мешают языковым моделям безопасно заменять специалистов по психическому здоровью. Для тяжёлого состояния нужен человек, а не модель.

Не будет выводов из судебных дел

К разработчикам таких систем предъявлены иски, в том числе в связи с гибелью людей. Дела не завершены. Это предъявленные претензии, а не установленные факты, и строить на них утверждения о причинах книга не будет.

Как понять, что происходит с вами

Задайте себе один вопрос раз в месяц: есть ли то, что я рассказываю только машине и никому из людей? Сам по себе ответ «да» ничего не доказывает. Но если список таких вещей растёт — это стоит заметить.

Посчитайте разговоры с людьми, а не с машиной. Не время, проведённое с системой, — это бесполезная метрика. А то, стало ли за последние месяцы меньше разговоров с живыми людьми. Если стало — и именно потому, что с системой проще, — вы в той половине результата, которая требует внимания.

Заметьте привязанность к рабочему инструменту. Если вам неприятно, когда инструмент меняют или обновляют, если вы скучаете по его прежней «манере» — это та самая непреднамеренная привязанность. Ничего плохого, но полезно знать о ней.

И главное: если вам по-настоящему тяжело — идите к человеку. К близкому, к врачу, к специалисту. Система может выслушать, но она не может сделать того, что делает человек, который будет помнить о вас завтра.

Если вам или вашему близкому сейчас тяжело настолько, что справляться в одиночку не получается, — обратитесь за помощью к живому человеку сегодня: к врачу, психологу или в службу поддержки. В конце книги, в приложении «Куда обратиться за помощью», есть телефоны, по которым можно позвонить бесплатно и анонимно.

Если это происходит с близким

Не запрещайте и не стыдите. Запрет не работает, а стыд закрывает разговор.

Спросите иначе: что это даёт тебе такого, чего не дают люди? Ответ почти всегда честный и почти всегда полезный. Иногда он про одиночество. Иногда — про то, что с людьми страшно быть неудобным. Иногда — просто про удобство. Каждый из этих ответов требует своего разговора, и ни один из них не про технологию.

Правила

9.1. Различайте инструмент и собеседника. Проверка: можете ли вы сказать, заменяет ли общение с системой разговор, который иначе был бы с человеком.

9.2. Считайте разговоры с людьми, а не время с машиной. Проверка: разговоров с живыми людьми за последние три месяца не стало меньше.

9.3. Замечайте, что вы рассказываете только машине.

9.4. Для тяжёлого состояния — человек, а не модель.

9.5. АНТИПРАВИЛО: не запрещайте себе и близким пользоваться этими системами на основании этой главы. В среднем эффект измерен как положительный. Вред связан с режимом использования, а не с самим фактом. Цель главы — не страх, а различение.

Что изменило бы этот вывод

Исследования, которые разделят причину и следствие. Пока неизвестно главное: делает ли общение с машиной людей одинокими — или одинокие люди больше общаются с машинами. От ответа зависит, опасна ли технология сама или она лишь показывает то, что уже было.

И изменятся ли сами системы. Если разработчики начнут намеренно поощрять пользователя возвращаться к людям — а технически это несложно, — глава смягчится. Если будут соревноваться за время, которое вы проводите с ними, — ужесточится. Следить стоит не за словами компаний, а за тем, что делает система, когда вы говорите ей, что вам одиноко.