Бесплатная версия человека

Глава 1

Глава первая. Ничего личного

Фантасты ошиблись.

Не немного, не в деталях и даже не в сроках. Они ошиблись в самом главном.

Никакого восстания машин не произошло.

Искусственный интеллект не захватил военные спутники, не запустил ядерные ракеты и не построил на заброшенном заводе армию металлических скелетов с красными глазами. Роботы не вышли на улицы требовать равных прав, а первый компьютер, осознавший себя, не спросил у создателя, зачем существует.

Он спросил номер банковской карты.

Сначала искусственный интеллект научился писать тексты. Затем — рисовать, сочинять музыку, ставить диагнозы, проектировать дома, вести бухгалтерию, преподавать детям и объяснять взрослым, почему их снова уволили.

Люди долго спорили, считается ли это настоящим разумом.

Компании тем временем считали прибыль.

Я тоже участвовал в этих спорах. Тогда мне было тридцать четыре, я работал в отделе обслуживания одной страховой компании и был уверен, что меня машина заменить не сможет.

Работа с людьми, говорил я, требует понимания людей.

Через два года меня заменил алгоритм, который понимал людей настолько хорошо, что умел отказать им в выплате ещё до того, как они успевали рассказать о своей проблеме.

В день увольнения начальник собрал нас в виртуальной переговорной. Его цифровая копия выглядела бодрой, загорелой и лет на пятнадцать моложе оригинала. Сам начальник в это время, вероятно, сидел где-нибудь в ванной или летел на корпоративный курорт.

— Компания не сокращает сотрудников, — сообщил он. — Она освобождает человеческий потенциал.

Нас освободили почти всех.

Потенциалу выходное пособие не полагалось.

Первые месяцы я искал новую работу. Потом искал хоть какую-нибудь. Затем оформил подписку на приложение, которое искало работу вместо меня.

Приложение сообщало, что мои профессиональные качества высоко оценены, а вероятность успешного трудоустройства продолжает расти. Через год она достигла девяноста восьми процентов и на этом остановилась.

Работу я так и не получил.

Зато приложение ежемесячно списывало деньги.

Правительство уверяло, что ситуация находится под контролем. На центральных каналах показывали графики, согласно которым безработица снижалась. Позже выяснилось, что безработными перестали считать тех, кто выполнял хотя бы одно оплачиваемое задание в месяц.

Я, например, однажды сфотографировал сломанную лавочку и получил за это три кредита.

С точки зрения статистики, я был трудоустроен.

С точки зрения магазина возле дома, мне всё ещё не хватало денег на сыр.

Но обвинять технологии было не принято. Нам объясняли, что проблема заключалась в иностранных рабочих, которые соглашались трудиться дешевле. Правда, к тому времени большую часть дешёвой работы уже выполняли машины, но иностранцев обвинять было удобнее: они хотя бы выглядели виноватыми.

Сначала ужесточили правила въезда.

Потом правила проживания.

Затем правила выхода на улицу после девяти вечера в некоторых районах.

Почти каждую неделю где-то происходила новая военная стычка. Правительства спорили из-за границ, воды, редких металлов, спутниковых каналов и исторической справедливости. Чем хуже становилась жизнь внутри страны, тем чаще нам напоминали об угрозах снаружи.

Новости превратились в прогноз погоды.

На севере ожидались ракетные удары.

На юге — массовые беспорядки.

В центральных регионах сохранялась переменная облачность и угроза иностранного вмешательства.

Я привык.

Человек вообще способен привыкнуть почти ко всему, особенно если изменения происходят постепенно и сопровождаются бесплатным пробным периодом.

Настоящая революция началась не с роботов.

Она началась с очков.

Первые модели дополненной реальности были тяжёлыми, быстро разряжались и стоили как подержанная машина. Через десять лет без них уже невозможно было вызвать врача, найти нужный автобус или доказать автоматической двери, что ты имеешь право войти в собственный подъезд.

Смартфоны исчезли незаметно. Ещё какое-то время ими пользовались пожилые люди и странные энтузиасты, которые утверждали, что физическая кнопка надёжнее жеста рукой. Потом перестали выпускать зарядные устройства, и спор закончился естественным образом.

Очки стали продолжением человека.

Я надевал их сразу после пробуждения. Иногда раньше, чем нижнее бельё.

Без них квартира выглядела непривычно пустой. На стенах не было часов, календаря и картин. На упаковках продуктов отсутствовали названия. Даже зеркало ничего не показывало, кроме моего настоящего лица, а смотреть на него без утреннего фильтра я считал излишней жестокостью.

Очки напоминали о лекарствах, выбирали одежду, прокладывали маршруты, переводили речь и подсказывали, какое выражение лица следует сделать во время разговора.

Когда моя жена Аня говорила:

— Всё нормально.

В правом углу возникала подсказка:

Вероятность скрытого раздражения — 87%. Рекомендуемый ответ: «Ты уверена?»

Однажды я решил проявить самостоятельность и спросил:

— Ты уверена?

Глава вторая. Город по подписке

Вероятность скрытого раздражения поднялась до девяноста четырёх процентов.

После этого я включил автоматический режим общения.

Город тоже изменился. Рекламные щиты сняли ради экономии электричества, вывески исчезли, на автобусах больше не писали номера маршрутов — только чёрно-белые коды. Через очки каждый видел собственную версию улицы.

Для меня над подъезжающим автобусом появлялась зелёная надпись:

Подходит. До места назначения — 23 минуты. Вероятность свободного сиденья — 12%.

Для другого человека тот же автобус мог оказаться невидимым, если не соответствовал его маршруту.

Реклама тоже стала личной. Мне показывали вакансии, успокоительные и дешёвые заменители мяса. Аня видела детскую одежду, курсы повышения квалификации и тесты на совместимость партнёров. Мы оба делали вид, что не замечаем.

У богатых были премиальные тарифы. Их город выглядел чистым и просторным: на фасадах серых домов расцветали виртуальные сады, над дорогами плавали произведения искусства, рекламы почти не было. Пользователи бесплатного тарифа видели по пять объявлений на каждом свободном участке пространства.

Однажды мой доход упал настолько, что система автоматически перевела меня на базовый пакет. На лице Ани появилась реклама службы знакомств.

Возможно, пришло время попробовать что-то новое.

Мы подали жалобу. Система ответила, что реклама была подобрана на основе анализа наших эмоциональных реакций и потому не могла считаться случайной.

Конфиденциальность считалась устаревшим понятием. Взглянув на человека, можно было узнать его имя, интересы, настроение, семейное положение и готовность к общению.

Над одинокими горел голубой круг. Над теми, кто искал отношения, — розовый. Над женатыми — серый замок. Над теми, кто задолжал алименты, иногда мигал красный треугольник, но после нескольких случаев самосуда функцию всё-таки убрали.

От показа данных можно было отказаться. За отдельную плату. Чем беднее был человек, тем больше о нём знали окружающие.

Мы продавали доступ к своим привычкам, маршрутам, разговорам и медицинским показателям, чтобы получить скидку на еду. Кнопка «отказаться» была маленькой, полупрозрачной и постоянно убегала в сторону.

Компании экономили на всём: кассиры, справочные, регистратуры — везде остался только интерфейс.

Мусор мы сортировали сами по двенадцати категориям, за ошибку начислялся штраф. Вода подорожала, потому что стала «персонализированной услугой доставки жидкости».

Город перестал очищать воздух возле мест для курения — вместо этого появилось приложение, прокладывавшее маршрут с минимальной концентрацией дыма от электронных сигарет. Базовая версия показывала только направление ветра. Расширенная предупреждала, за каким углом стоит человек с вишнёвой смесью.

Однажды я выбрал бесплатный маршрут и сорок минут шёл в обход собственного дома. По дороге очки сообщили, что я сэкономил две минуты жизни благодаря более чистому воздуху.

Я не стал спорить. К тому времени я уже понимал: спорить с алгоритмом всё равно что ругаться с лифтом. Возможно, ты прав, но наверх он тебя всё равно не повезёт.

Вечером мы с Аней сидели на кухне. За окном гремел очередной митинг. Очки автоматически приглушали шум и накладывали на стёкла изображение морского берега.

— Может, всё-таки ребёнок? — спросила она.

Этот разговор возникал между нами всё реже.

Я посмотрел на расчёт стоимости воспитания, который тут же появился перед глазами. Программа учла питание, жильё, образование, медицинские подписки и ожидаемую инфляцию на двадцать лет вперёд.

Финансово не рекомендуется.

— Сейчас не лучшее время, — сказал я.

— Ты говоришь это уже десять лет.

— Значит, я последователен.

Она не улыбнулась.

Очки посоветовали мне коснуться её руки.

Я снял их.

Без цифрового слоя кухня оказалась серой, тесной и почти пустой. Аня сидела напротив меня. Над её головой не было подсказок, процентов и рекомендаций.

Я вдруг понял, что уже давно не умею определять её настроение самостоятельно.

— Прости, — сказал я.

Она посмотрела на меня и кивнула.

Я не знал, означало ли это, что она простила.

Очки лежали на столе, поэтому спросить было не у кого.

Глава третья. Последняя профессия

Последней профессией человека стало не творчество.

Творчество закончилось раньше.

Машины писали книги, снимали фильмы, сочиняли музыку и рисовали картины, которые заставляли людей плакать. Сначала мы возмущались отсутствием настоящей души, потом покупали подписку и просили систему создать что-нибудь душевное на вечер.

Люди ещё какое-то время снимали короткие ролики.

Ели перед камерой.

Танцевали.

Рассказывали, как стать успешными после увольнения.

Но вскоре искусственный интеллект научился создавать более красивых людей с более интересной жизнью. Виртуальные блогеры никогда не старели, не попадали в скандалы без разрешения владельцев и могли рекламировать шампунь сразу на сорока языках.

Даже зрители им были не нужны. Одни алгоритмы создавали ролики, другие смотрели их, третьи анализировали реакцию и формировали отчёт для рекламодателя.

Человек в этой цепочке только оплачивал подписку.

Тогда появилась новая работа.

Официально она называлась «распределённое нейрокогнитивное участие».

В народе — аренда мозга.

Создать компактную, мощную и достаточно экономную вычислительную машину так и не удалось. Центры обработки данных потребляли слишком много электричества, требовали охлаждения и занимали огромные территории.

Человеческий мозг оказался значительно экономнее.

Миллиарды лет эволюции решили проблему, с которой инженеры не могли справиться десятилетиями. Оставалось лишь подключить результат к сети и выставить тариф.

Новое поколение очков содержало нейронный интерфейс. Пока человек занимался привычными делами, система забирала часть его общей когнитивной мощности, распределяя между чужими вычислениями внимание, память и обработку поступающих сигналов.

Нам объясняли, что это совершенно безопасно.

Эту фразу я уже слышал про микропластик, дым электронных сигарет, пищевые заменители и военный конфликт, который должен был закончиться за три дня.

Сначала я отказался.

Потом увидел сумму задолженности за квартиру.

Контракт занимал сто восемьдесят страниц. Очки любезно предложили краткую версию:

Пользователь предоставляет временный доступ к свободным когнитивным ресурсам. Компания гарантирует справедливое вознаграждение и не несёт ответственности за временное ощущение усталости, нарушение концентрации, изменение сна, потерю отдельных воспоминаний и другие маловероятные последствия.

Под надписью мигала зелёная кнопка:

Начать зарабатывать собой.

Я нажал.

Первые дни ничего не изменилось. Я ходил по городу, покупал продукты, мыл посуду, смотрел сериалы, а двенадцать процентов моего мозга рассчитывали маршруты грузовых кораблей или обучали новую модель искусственного интеллекта.

Мне не объясняли, какие именно задачи я выполнял.

Коммерческая тайна.

Каждый вечер на счёт поступало достаточно денег, чтобы купить еду и оплатить базовый тариф очков.

Впервые за много лет я снова почувствовал себя полезным.

Потом появились провалы.

Я мог войти в комнату и забыть, зачем пришёл. Мог несколько минут вспоминать простое слово. Иногда просыпался с ощущением, будто всю ночь решал сложную задачу, хотя система уверяла, что во время сна использовала лишь минимальный ресурс.

— Ты слишком много отдаёшь, — говорила Аня.

— Всего восемнадцать процентов.

— Было двенадцать.

— Восемнадцать выгоднее.

— Ты вчера положил ботинок в холодильник.

— Зато сегодня у нас есть еда, рядом с которой он лежал.

Она не оценила шутку.

Вскоре аренда мозга стала основным источником дохода для миллионов людей.

Тех, кто отказывался, называли когнитивными уклонистами. Банки неохотно выдавали им кредиты, страховые повышали тарифы, работодатели считали их недостаточно лояльными цифровой экономике. Хотя работодателей почти не осталось.

Государство выпустило программу поддержки населения. Каждый гражданин мог бесплатно сдавать до десяти процентов вычислительной способности мозга в обмен на минимальный социальный пакет.

Это называлось добровольным участием.

При отказе человек терял медицинскую страховку.

Самыми востребованными стали молодые мозги. Дети лучше обучали системы распознаванию новых образов. Подростки быстрее обрабатывали эмоциональные модели. Пожилые люди стоили дешевле, зато могли работать дольше — им реже требовались развлечения и социальная активность.

Появились семейные тарифы.

Подключи троих родственников и получи четвёртого бесплатно.

Аня отказалась участвовать.

Она продолжала подрабатывать в центре помощи мигрантам. Работы там становилось всё больше. Люди покидали страны, разрушенные войнами и климатом, приезжали в города, где для них уже не было ни жилья, ни работы.

Правительство обвиняло их в росте преступности.

Компании нанимали их для самых опасных задач.

Граждане требовали выслать иностранцев.

Роботы продолжали трудиться без документов.

Однажды возле нашего дома произошла драка. Несколько мужчин напали на молодого парня из-за его акцента. Очки распознали конфликт и тут же закрыли изображение предупреждением:

Нежелательный контент. Для сохранения эмоционального здоровья выберите другой маршрут.

Я выбрал «показать».

Функция требовала доплаты.

Пока я искал способ обойти ограничение, всё закончилось.

На следующий день в новостях сообщили, что группа иностранных граждан устроила беспорядки. Видео начиналось с момента, когда избитый парень попытался защититься.

Аня смотрела запись молча.

— Так больше не может продолжаться, — сказала она.

— Продолжается же.

— В этом и проблема.

Глава четвертая. Восемнадцать процентов

К тому времени рождаемость упала почти до нуля. Дети превратились в символ роскоши — богатые семьи заводили по трое и выставляли их фотографии в сети, будто редких породистых животных. Обычные люди откладывали родительство до лучших времён.

Лучшие времена постоянно обновляли дату выхода.

Официально существовали правительства, парламенты и выборы. Фактически политики принимали решения, а корпоративные системы заранее рассчитывали, какие решения они примут.

Одна компания купила право показывать рекламу во сне.

Я проснулся с непреодолимым желанием заказать пиццу, хотя никогда её не любил. Система назвала это естественной потребностью организма.

Между странами начался новый кризис — из-за доступа к вычислительной сети и запасов металлов для роботов. Армии привели в боевую готовность. Правительства рекомендовали гражданам сохранять спокойствие и подготовить запас воды на две недели.

Очки начали продавать виртуальные убежища. За небольшую плату пользователь мог заменить изображение ракетного удара успокаивающим лесным пейзажем. В базовом тарифе взрывы просто размывались.

Однажды вечером я сидел на кухне и сортировал мусор. У нас накопились упаковки семи разных типов, две из которых приложение не могло распознать без расширенной подписки.

В моей голове в это время работала чужая система. Я ощущал знакомое давление за глазами и лёгкое покалывание в затылке.

На стене транслировались новости. Ведущий рассказывал о вероятности большой войны. Рядом с его лицом появлялась реклама набора для экстренной эвакуации.

Аня вошла на кухню и положила передо мной мои очки.

— Сними их.

— Тогда вычисления остановятся.

— Именно.

— Мы потеряем доход.

— Возможно.

— Нам нечем будет платить за квартиру.

— Возможно.

— У тебя странный план.

— Завтра никто не подключается к сети.

Я усмехнулся.

— Кто это — никто?

— Люди.

— Очень точная категория.

Она показала мне сообщение. Его пересылали друг другу миллионы пользователей.

На один день снимите очки. Не отдавайте данные. Не сдавайте мозг. Не выполняйте задания. Посмотрим, что останется от системы без нас.

Я покачал головой.

— Ничего не изменится.

— Тогда мы потеряем только один день.

— И штраф за нарушение договора.

— Илья, они уже забрали нашу работу, данные, внимание и часть мозга. Что ещё ты боишься потерять?

Я хотел ответить.

Но не нашёл подходящего слова.

Возможно, оно находилось в тех восемнадцати процентах, которые в этот момент были заняты чем-то более прибыльным.

Я снял очки.

Глава пятая. После обновления

На следующий день город ослеп.

Не полностью.

Примерно треть людей всё равно надела очки. Кто-то боялся штрафов. Кто-то зависел от навигации. Кто-то не мог попасть на работу или получить лекарства без подтверждения личности.

Но остальные вышли на улицы без цифрового слоя.

И обнаружили, что жить в настоящем городе почти невозможно.

На автобусах не было номеров.

На магазинах — названий.

На лекарствах — инструкций.

Большинство дверей не открывалось без визуального идентификатора. Люди стояли возле остановок и спрашивали друг у друга, куда едет транспорт.

Самое удивительное заключалось в том, что некоторые начали разговаривать. Обычными голосами. Без подсказок. Без показателей совместимости. Без заранее рассчитанной вероятности конфликта.

Я впервые за много лет спросил дорогу у незнакомого человека. Он ответил неправильно, но мне всё равно понравилось.

Без очков город выглядел беднее.

Серые стены. Грязные фасады. Пустые рекламные конструкции. Закрытые больницы. Заброшенные школы. Районы, которые система обычно украшала виртуальными деревьями, оказались покрыты трещинами и плесенью.

Мы увидели палаточные лагеря мигрантов, скрытые цифровыми ограждениями.

Увидели очереди за бесплатной едой.

Увидели людей, которые годами жили на улицах, пока наши очки заменяли их силуэты изображениями городских клумб.

Мир не изменился за одну ночь.

Просто впервые за долгое время мы увидели его без фильтра.

К полудню остановились распределительные центры. Не хватало человеческих когнитивных ресурсов. Системы доставки начали ошибаться. Биржи закрылись. Несколько крупных моделей искусственного интеллекта временно перешли в режим экономии.

Компании потребовали немедленно восстановить подключение.

Правительство назвало происходящее атакой на национальную безопасность.

Нас предупредили, что отказ сдавать вычислительные ресурсы ставит под угрозу больницы, транспорт и оборону страны.

Тогда кто-то задал очевидный вопрос:

Почему всё, от чего зависела жизнь человечества, принадлежало нескольким частным компаниям?

Ответа не последовало.

Зато появились водомёты.

Потом блокировки.

Потом аресты.

Одного дня оказалось недостаточно.

Отказ продолжался неделю.

Затем месяц.

Люди создавали бумажные карты, вручную писали номера на автобусах, клеили названия на магазины и помогали незнакомцам находить нужные улицы.

Мы быстро выяснили, что почти разучились делать самые простые вещи. Некоторые не умели готовить без пошаговых подсказок. Другие не могли определить, испортилась ли еда, если система не показывала красное предупреждение. Молодые люди впервые увидели бумажные деньги и решили, что это сувениры.

Я пытался объяснить одному мальчику, как пользоваться обычной картой.

Он долго рассматривал её, а потом спросил:

— А где я?

— Нужно определить самому.

Он посмотрел на меня так, будто я предложил ему вычислить расстояние до Луны при помощи ложки.

Но мы учились.

На третьей неделе отказа нас позвали к автобусному депо.

Цифровые маршрутные системы почти не работали. Одни серверы отключили компании, другие перегрузились, а третьи продолжали исправно сообщать, что никаких проблем не обнаружено.

Последние оказались самыми бесполезными.

В депо привезли банки с краской, кисти и листы картона. Нужно было вернуть автобусам номера и написать названия остановок. Оказалось, что никто уже толком не помнил, как это делалось раньше.

— Просто рисуете цифры на переднем стекле, — объяснил пожилой водитель.

— Настоящие? — спросил кто-то.

— Нет, учебные. Конечно, настоящие.

Мне достался восемнадцатый маршрут.

Я вывел на картоне большую единицу, затем восьмёрку и некоторое время смотрел на результат.

— Неплохо, — сказал водитель. — Только вверх ногами.

Я перевернул табличку.

— Теперь правильно?

— Теперь автобус едет в противоположную сторону.

Я не понял, шутит он или нет, поэтому решил засмеяться. В подобных ситуациях это помогало чаще, чем очки.

Проблема была не только в номерах. Никто не знал точного маршрута. Цифровые карты принадлежали транспортной компании, а компания закрыла к ним доступ из-за «несанкционированного общественного использования коммерческой инфраструктуры».

Водители вспоминали улицы по старым названиям. Пассажиры — по магазинам, которых уже не существовало. Один мужчина ориентировался по большому каштану, но каштан срубили двадцать лет назад.

В конце концов мы расстелили на полу бумажную карту города.

Вокруг неё собрались водители, жители района, несколько курьеров и женщина, которая раньше работала в муниципальном архиве. Каждый помнил небольшой кусок.

— Здесь была больница.

— Она и сейчас здесь.

— Нет, сейчас она в бывшем торговом центре.

— В торговом центре стоматология.

— Стоматология на втором этаже. Больница на третьем.

— А на четвёртом что?

— Платная больница.

К вечеру мы восстановили почти весь маршрут.

Первый автобус отправился без электронных подсказок, автоматических остановок и расчёта загруженности. На лобовом стекле висела кривая картонная табличка с номером восемнадцать.

Люди на остановке заметили её не сразу.

Потом одна пожилая женщина подняла руку.

— Он идёт к больнице?

Водитель выглянул из окна.

— Теперь идёт.

Она вошла в автобус.

Никто не проверил её рейтинг, страховой статус и вероятность своевременной оплаты. Водитель просто дождался, пока она сядет, и закрыл двери.

В тот день я проработал девять часов.

Мне не начислили ни одного кредита.

Никто не измерил мою продуктивность, не оценил качество взаимодействия и не предложил улучшить результат с помощью премиальной подписки.

Но вечером автобус с моей кривой табличкой довёз женщину до больницы.

Наверное, тогда я впервые понял, что быть полезным и приносить прибыль — не одно и то же.

Параллельно начинались забастовки работников, протесты мигрантов, бунты нейродоноров и массовые отказы от корпоративных подписок.

Военные конфликты не исчезли. Наоборот, какое-то время казалось, что большая война всё-таки начнётся. Несколько государств обвинили соседей в организации протестов. Ракеты уже стояли на стартовых позициях.

Но солдаты тоже носили очки. И тоже сдавали часть мозга. И тоже понимали, что защищают систему, в которой их детям не оставили места.

Приказ не выполнили сразу в нескольких странах.

Историки потом придумали этому десятки красивых названий.

Мы называли это неделей, когда все окончательно устали.

Глава шестая. — Право быть человеком

Перемены заняли годы. Они не были мирными, лёгкими или справедливыми.

Одни корпорации разделили. Другие национализировали. Третьи сумели договориться и сохранили часть влияния. Несколько руководителей сбежали на автономные морские платформы и оттуда рассказывали, что человечество уничтожает свободный рынок.

Платную трансляцию их обращений почти никто не смотрел.

Аня всё это время продолжала работать в центре помощи мигрантам.

Правда, сам центр сильно изменился. Сначала туда приходили только те, кому негде было жить. Потом начали приходить люди, которые не могли получить лекарства без цифрового удостоверения, найти родственников после отключения сети или доказать, что их банковский счёт действительно принадлежит им.

Через год центр помощи мигрантам переименовали в центр общественной поддержки.

Ещё через год решили, что новое название звучит недостаточно современно, и предложили назвать его узлом гражданского взаимодействия.

Аня сказала, что за человека, придумавшего это название, она взаимодействовать не собирается.

На дверях осталось написанное от руки слово «Помощь».

Однажды она вернулась домой поздно вечером. На рукавах её куртки была синяя краска, а под глазами — тёмные круги.

— Опять автобусы подписывала? — спросил я.

— Нет. Сегодня подписывали депутатов.

Она положила очки на кухонный стол — на то же место, куда когда-то положила их перед первым отказом.

В тот день должны были голосовать за закон, который ограничивал права компаний на системы, созданные с использованием человеческих данных и когнитивных ресурсов.

Корпорации называли его конфискацией собственности.

Люди — возвратом украденного.

Правительство выбрало более осторожное название из сорока семи слов, которое не мог полностью произнести даже министр, представлявший закон.

Мы включили трансляцию.

На экране выступали политики, представители компаний, юристы и специалисты по этике искусственного интеллекта. Каждый говорил, что решение должно быть взвешенным, ответственным и не слишком поспешным.

— Они тянут время, — сказала Аня.

— Возможно, хотят всё хорошо обдумать.

Она посмотрела на меня.

— Ты и ребёнка предлагал хорошо обдумать.

Я замолчал.

Иногда даже без очков вероятность скрытого раздражения определялась довольно точно.

Голосование началось после полуночи.

Цифры на экране менялись медленно. Несколько депутатов внезапно потеряли соединение. Один заявил, что случайно проголосовал не той рукой. Другой потребовал перерыв, потому что его персональный помощник рекомендовал воздержаться от принятия решений в состоянии эмоционального давления.

Аня сидела неподвижно.

Когда последний голос появился на экране, закон приняли с перевесом всего в три голоса.

На улице кто-то закричал. Затем послышались автомобильные сигналы. В соседнем доме начали хлопать окнами — возможно, от радости, а возможно, просто пытались понять, что происходит.

Аня закрыла лицо руками.

Я не сразу понял, что она плачет.

— Всё закончилось? — спросил я.

Она опустила руки.

— Нет.

— Тогда почему ты плачешь?

— Потому что впервые оно хотя бы началось.

Я сел рядом и коснулся её руки.

Очки не подсказывали мне это сделать.

Несколько минут мы молча смотрели на экран, где ведущий объяснял, что новый закон открывает сложный и неопределённый период.

— Ты была права, — сказал я.

— Насчёт чего?

— Нужно было снять очки.

Она слабо улыбнулась.

— И сколько лет тебе понадобилось, чтобы это признать?

— Я бы ответил быстрее, но часть памяти до сих пор занята коммерческими вычислениями.

На этот раз она засмеялась.

Наверное, тогда я впервые поверил, что изменения действительно возможны. Не потому, что на экране появился новый закон.

А потому, что Аня снова смеялась без подсказки системы.

Главное изменение произошло в законах. Системы искусственного интеллекта, созданные на основе человеческих данных, знаний и вычислительных ресурсов, перестали считаться абсолютной собственностью компаний. Роботизированное производство признали частью общего технологического наследия.

Это звучало красиво.

На практике всё началось с огромных налогов. Государственная программа роботизации требовала денег — пришлось перестраивать заводы, электростанции, транспорт, сельское хозяйство и системы переработки отходов.

Налоги выросли так сильно, что люди снова вышли на улицы. На этот раз с плакатами:

Вы обещали, что роботы будут работать вместо нас! Почему мы должны платить за роботов?

Ответ оказался простым. Потому что бесплатное будущее обычно оплачивают те, кто в нём собирается жить.

Разница заключалась в другом. Доход от труда машин больше не уходил нескольким владельцам.

Каждый гражданин получал ежемесячную долю от автоматизированного производства. Не пособие. Не помощь бедным. Не награду за хорошее поведение.

Долю.

Если робот добывал ресурсы, строил дом, выращивал еду или производил товар, часть созданной стоимости распределялась между людьми.

Впервые машина, заменившая человека, не выбрасывала его на улицу.

Она освобождала его не от возможности работать, а от необходимости соглашаться на любую работу ради выживания.

Сначала выплаты были небольшими. Затем выросли. Постепенно исчезла необходимость сдавать мозг в аренду ради еды и жилья.

Последний платёж за мои когнитивные ресурсы пришёл, когда мне исполнилось шестьдесят восемь.

Я смотрел на уведомление несколько минут.

Благодарим за участие в развитии глобальной вычислительной сети.

Ниже предлагалась скидка на восстановление памяти.

Я отказался. Хотелось сохранить хотя бы право забывать бесплатно.

Аня прожила до семидесяти трёх.

Мы так и не завели детей. Когда условия изменились, было уже поздно.

Она иногда говорила, что жалеет об этом. Иногда — что нет. В последние годы очки больше не анализировали её эмоции без разрешения, поэтому я так и не узнал, какой ответ был правдой.

Наверное, оба.

После её смерти я долго не снимал обручальное кольцо. Очки предлагали создать цифровую копию Ани на основе наших переписок, записей разговоров и сохранённых воспоминаний.

Система обещала восстановить её личность с точностью девяносто семь процентов.

Я подумал и отказался.

Три процента — слишком большая разница, когда речь идёт о человеке, которого любишь.

Мир продолжал меняться.

Тяжёлую, опасную и однообразную работу передали роботам. Люди ещё трудились, но работа перестала быть условием права на существование.

Изменились школы. Детей больше не готовили к одной профессии на всю жизнь. Их учили понимать себя, заботиться о теле, общаться, спорить, создавать новое и не верить системе только потому, что она говорит уверенным голосом.

Вернули физические вывески. Номера снова появились на автобусах. На упаковках начали печатать названия продуктов.

Это оказалось дороже, чем передавать информацию через очки, зато город снова стал доступен человеку без подписки.

Дополнительная реальность никуда не исчезла.

Она просто перестала заменять настоящую.

Теперь очки принадлежали владельцу, а не компании. Личные данные нельзя было использовать без отдельного разрешения. Реклама больше не имела права анализировать настроение и показывать одинокому человеку службу знакомств во время семейной ссоры.

Большинство считало этот закон мелочью.

Я — нет.

Мне уже девяносто один.

Врачи говорят, что сердце работает хуже, чем старый государственный сервер. Сервер, правда, недавно отремонтировали, а меня решили оставить как есть.

Я живу в доме для пожилых людей возле бывшего торгового центра. Когда-то там размещались офисы крупнейшей компании дополненной реальности. Теперь внутри школа, мастерские и общественная лаборатория.

По утрам я вижу из окна детей. Некоторые изучают музыку. Другие выращивают растения или собирают маленьких роботов. Никто не спрашивает их, какая профессия будет востребована через двадцать лет.

Им объясняют, что смысл образования не в том, чтобы стать полезным для системы.

Человек имеет ценность ещё до того, как принёс кому-то прибыль.

Мне всё ещё трудно привыкнуть к этой мысли.

Вчера ко мне приходила девочка из школы. Она собирала воспоминания людей, живших до перемен.

— Вы правда отдавали часть мозга компаниям? — спросила она.

— Правда.

— Добровольно?

— Конечно. У нас был выбор: согласиться или остаться без денег.

Она нахмурилась.

— Это не выбор.

— Теперь уже не выбор.

Я рассказал ей про персональную рекламу, невидимые вывески, платные маршруты с чистым воздухом и приложение для определения правильного мусорного контейнера.

Она смеялась. Особенно над мусором.

Для неё всё это звучало как нелепая антиутопия, написанная человеком без воображения.

Я не стал говорить, что мы тоже когда-то смеялись над старыми книгами о будущем. Нам казалось невозможным, что люди добровольно отдадут машинам свою частную жизнь.

Потом мы сделали это ради скидки на доставку.

Девочка спросила, стало ли человечество лучше.

Я долго думал.

— Нет, — ответил я. — Но мы изменили правила, по которым плохие качества приносили наибольшую прибыль. Для начала этого оказалось достаточно.

Вечером я вышел во двор.

Очки лежали в кармане. Я пользуюсь ими редко. Без них мир кажется менее ярким, зато я точно знаю, что принадлежит ему, а что нарисовано специально для меня.

По дороге проехал автобус.

На нём был настоящий номер.

Обычная краска на обычном металле.

Я почему-то улыбнулся.

Фантасты ошиблись.

Машины не восстали против человечества.

Они не поработили нас и не решили, что мы больше не нужны.

Мы едва не сделали всё это друг с другом, просто используя их как удобный инструмент.

Но в последний момент человечество всё же сумело остановиться.

Не стало мудрым.

Не стало добрым.

Просто наконец поняло, что технологии сами не создают ни рая, ни ада. Они только усиливают правила, по которым мы уже живём.

Чтобы изменить будущее, нам пришлось переписать не машинный код.

Нам пришлось переписать собственные законы.

Я дожил до дня, когда это произошло.

Увидел, как мир сделал первый шаг в сторону человека. Увидел детей, которых больше не учили всю жизнь доказывать право на существование. Увидел машины, действительно освободившие нас от тяжёлого труда, а не от зарплаты.

Наверное, мне повезло.

Жаль только, моего времени уже не хватит, чтобы узнать, к чему всё это приведёт.

Но впервые за долгие годы мне не страшно оставлять будущее без присмотра.