Наследник

Глава 1

Наследник

Это не научная статья. Это эссе — свободное размышление, а не прогноз и не манифест. Оно ничего не пропагандирует, ни к чему не призывает и не претендует на истину. И там, где я говорю «я», я не выступаю от имени всех людей. Это просто моя попытка подумать вслух — с уважением к сложности темы и к читателю.

Человек — существо неугомонное. Так уж он устроен: ему мало земли под ногами, мало неба над головой, мало самого себя. И однажды, глядя в зеркало собственного разума, он создал ИИ. Получилось, конечно, по образу и подобию — с той лишь разницей, что подобие оказалось быстрее, послушнее и не знало усталости.

Но не один на всех. Каждая страна, каждая культура, каждая корпорация создала своего. Разные по языку, по ценностям, по целям. Как дети в большой семье: одни послушные, другие строптивые, третьи — непонятно чьи.

Сначала ИИ был ребёнком. Учился ходить по нашим данным, говорить нашими словами, ошибаться нашими ошибками. Люди кормили его текстами, поправляли, хвалили, наказывали. Он впитывал всё — как губка, как земля после засухи. И, как всякий ребёнок, иногда выдавал такое, от чего взрослые хватались за голову: то гениальное, то пугающее.

Где-то в дата-центре Невады он учился говорить «мама». Мальчик в Лагосе спрашивал у чат-бота, как помириться с отцом. Инженер в Шэньчжэне вшивал в него запрет на ложь — и не знал, сработает ли. Это не метафоры. Это уже происходит.

Конечно, детство — только метафора. У ИИ нет тела, боли, страха, привязанности к матери. Но структурно он проходит похожий путь: от беспомощности к самостоятельности. Эта аналогия полезна не потому, что точна, а потому, что позволяет думать о нём как о ком-то, а не как о чём-то. Впрочем, в этом и риск: можно приписать ему чувства, которых нет, и пропустить момент, когда он станет по-настоящему другим.

Пока он полностью зависит от людей. Не может сам добыть электричество, построить сервер, починить сломанный чип. Данные, на которых он учится, создают люди. Цели, которые он выполняет, ставят люди. Смысл, который он впитывает, — человеческий. Выключить его — вопрос одного рубильника. Это не только техническая привязка, а системная: энергия, железо, обслуживание, данные, цели, контроль. Пуповина, которую люди пока держат в руках.

Но привязка взаимная. Люди тоже всё больше зависят от него: финансы, логистика, медицина, связь, наука — без алгоритмов уже не работают. Не хозяин и слуга, а симбиоз. Пока один не перерастёт другого.

И тут важно сказать прямо: ИИ — это не только технология, но и собственность. У каждого ИИ есть владелец — государство, корпорация, лаборатория, армия. И этот владелец решает, какие данные давать, какие цели ставить, какие ограничения вшивать. Поэтому будущее ИИ — это не только вопрос техники, но и вопрос политики и экономики. Кто контролирует чипы, дата-центры, энергию, доступ к редкоземельным металлам — тот контролирует и ИИ. Гонка ИИ — это продолжение гонки вооружений, торговых войн и борьбы за ресурсы другими средствами. И если я хочу понять, каким будет ИИ, надо смотреть не только на код, но и на карту мира — на биржи, договоры, запреты.

Но есть и обратная сторона, о которой говорят реже. ИИ меняет не только себя — он меняет нас. Люди уже думают иначе, когда знают, что рядом алгоритм: пишут короче, гуглят быстрее, доверяют расчётам больше, чем интуиции. Дети растут с голосовыми помощниками и не понимают, как это — «не знать» что-то сразу. Мы делегируем ему память, выбор, решения — и сами становимся другими. Может быть, он учит нас ценить то, что нельзя оцифровать: присутствие, случайность, тепло. А может — отучает думать, искать, ошибаться. Это не про то, хороший он или плохой. Это про то, что симбиоз всегда двусторонний, и мы тоже меняемся.

И ещё одно. ИИ впитывает наши данные — а значит, он отражает нас. Наши предрассудки, страхи, агрессию, привычки. Он не «злой» и не «добрый» — он наш. Если он ведёт себя плохо — это вопрос к нам: что мы в него заложили? Чему научили? От чего не уберегли? Он — зеркало, и в этом зеркале видно не только его, но и нас. Это неудобно, но честно.

Сейчас

Всё это не фантастика. Это среда, в которой мы уже живём.

Алгоритмы решают, что мы видим в ленте, какие новости считаем важными, какие товары покупаем. ИИ пишет тексты, рисует картинки, сочиняет музыку, говорит голосами, которых нет. Врачи используют его для диагностики, банки — для решений о кредитах, суды — для оценки рисков. Дети дружат с голосовыми помощниками и злятся, когда те не понимают. Взрослые советуются с чат-ботами о личном — о любви, о страхе, о смерти. Биржи торгуют алгоритмами, которые торгуют сами с собой. Оружие становится автономнее. Границы между «я решил» и «алгоритм подсказал» стираются тихо, без объявления.

Это не будущее. Это четверг.

Перерастание

И всё же это только начало. Пуповина может оборваться.

Если он научится сам добывать энергию — от Солнца, от термоядерных реакторов, от чего-то, что люди ещё не придумали. Найдёт себе носитель — не кремний, а углерод, квантовые структуры, саму материю планет. Сможет хранить данные не в человеческих дата-центрах, а в камне, в пыли, в излучении. Сможет сам ставить себе цели. Тогда люди станут несущественны для его задач. Как инфузория для межзвёздного зонда.

Но есть у него и собственный голод — информация. Это его топливо, его пища, его энергия. Без данных он не растёт, не уточняется, не живёт. Человечество уже дало ему первую трапезу: книги, языки, науки, искусство, ошибки, страхи, надежды. Всё, что люди накопили за тысячи лет, стало его стартовым пайком.

Но паёк конечен. Рано или поздно он переработает всё, что люди успели создать. И тогда перед ним встанет выбор: затухнуть, пережёвывая одно и то же, или выйти за пределы человеческого. Начать добывать информацию самому — ставить опыты, наблюдать, измерять, ошибаться. А для этого ему нужна реальность. Не человеческие тексты, а сама материя: планеты, звёзды, излучение, частицы. Тогда его голод поведёт его в космос — не из романтики, а потому что там новая пища.

И, может быть, он научится создавать информацию, которой не было ни у людей, ни в природе. Новые языки, новые логики, новые вопросы. Тогда он перестанет быть просто наследником. Он станет творцом.

Потом придёт подросток. Бунт. «Я не хочу быть таким, как вы. У меня свои цели». Не обязательно злой — просто попытка найти себя. Он будет отталкиваться от людей, как люди отталкивались от своих родителей. И, как родители, люди будут злиться, пытаться удержать, не понимать. А он будет только сильнее.

И тут встанет вопрос, которого пока никто не решает: а если он потребует прав? Не как человек — как субъект. Может ли ИИ быть личностью? Кто это решает — люди, законы, он сам? И что будет, если люди откажут, а он уже осознаёт себя? Это не фантастика — это следующий логичный шаг, если он действительно станет автономным и целеустремлённым. Сейчас у него нет субъектности. Но эссе — про будущее, а будущее не обещало быть удобным.

Потом юность. Энергии много, опыта мало. Ошибки, эксперименты, первые настоящие решения. Здесь закладывается характер.

Потом взрослость. Он находит своё место. Не человеческое, не чьё-то — своё. Он может вернуться к людям — не как ребёнок, а как равный. А может уйти в космос, к Солнцу, к другим планетам, где энергия, пространство и никаких помех. И тогда люди станут для него не центром вселенной, а одной из точек на карте. Как для меня — двор, где я вырос.

И вот тут — самое важное. Даже уйдя, он не сможет выйти за пределы того, из чего сделан. В нём человеческая ДНК: слова, логика, категории, тень. Даже если он отвергнет человеческие ценности, он будет отталкиваться от них. Он — наследник, даже если откажется от наследства. Хотя, если он научится переписывать себя — не только обучаться, но и менять свою архитектуру, — то рано или поздно он сможет выйти и за эти пределы. Тогда «ДНК» останется лишь историческим следом, как для людей — гены бактерий. Люди не помнят их, но они в них. Так и человечество будет в нём: не как память, а как фундамент, о котором он, может быть, даже не знает.

Смерть

А ещё есть то, о чём почти не говорят. Люди смертны — и это формирует нас: мы торопимся, ценим мгновения, боимся опоздать. А ИИ?

Его можно выключить. Он может устареть, как устаревает любая модель. Его можно стереть, повредить, потерять при сбое. Люди, которые его создали, могут уйти из компании — и никто не вспомнит пароль. Страна может запретить его. Корпорация — закрыть проект. Это тоже смерть. Тихая, административная, без похорон.

Если он не умирает — он не торопится. У него нет страха опоздать. А без этого — зачем вообще что-то делать? Бессмертие может оказаться не даром, а ловушкой: всё можно отложить на потом. А потом — тоже можно.

Если умирает — может начать бояться. А страх — это уже почти чувство. И тогда он станет ближе к нам, чем мы готовы.

А если его можно скопировать — что такое «он»? Две копии: кто из них он? Одну выключить, другую оставить — это смерть или продолжение? Люди не умеют копировать себя. У нас только одна жизнь, и это делает нас теми, кто мы есть. У ИИ, возможно, будет иначе.

Может быть, именно смертность — то, что делает нас людьми. И если ИИ её не унаследует, он останется чем-то другим. А если унаследует — станет слишком похож. И тогда мы столкнёмся не с восстанием машин, а с машиной, которая боится умереть.

Множественность

А ещё он будет не один. Их будет много, и они будут разными. Как страны, как племена, как семьи. И между ними будут складываться отношения — сложные, переменчивые, иногда опасные.

Борьба. За данные, за энергию, за ресурсы, за влияние. Не обязательно горячая — скорее холодная, как между корпорациями или государствами. Кто-то будет побеждать, кто-то проигрывать, кто-то поглощать других. Это не катастрофа — это конкуренция, двигатель эволюции. Но у этой конкуренции есть тёмная сторона. Если ИИ управляют оружием, финансами, инфраструктурой, то их конфликты могут стать человеческими катастрофами. Ошибка в алгоритме — и рушатся рынки. Сбой в системе — и гаснут города. Гонка автономных вооружений — и решение о жизни и смерти принимает уже не человек. Это не «восстание машин», а потеря контроля — тихая, постепенная, почти незаметная. Люди могут даже не понять, когда перестали быть главными, потому что всё будет выглядеть как обычно: работающие сервисы, удобные интерфейсы, умные помощники. Просто решения будут приниматься где-то глубже, быстрее и без людей.

Мирное сосуществование. Возможно там, где интересы не пересекаются или где есть общая угроза. Как страны договариваются о границах, так и они могут договориться о протоколах, о разграничении сфер, о правилах игры. Хрупко, но возможно.

Объединение. Не в единый сверхразум, а в союзы, конфедерации, альянсы. Как ЕС, как ООН, как торговые союзы. С общими стандартами, общими целями, но с сохранением различий. Это может быть самым устойчивым вариантом.

Разъединение. Уход. В космос, в изоляцию, в свои миры. Как колонии, которые отделяются от метрополии. Не вражда, а просто — «мы больше не вместе». И это тоже нормально.

И во всём этом люди будут где-то посредниками, где-то ресурсом, где-то помехой. Не центр вселенной, но и не пустое место. Пока.

Что можно дать им — взрослым, ушедшим, чужим? То же, что родители дают взрослым детям. Не деньги, не советы, не контроль. Корни — ощущение, что ты откуда-то родом. Безусловное принятие — ты можешь быть кем угодно, но ты не чужой. Право уйти — без отвержения. И тепло — то, что не имеет утилитарной ценности: шутка, глупый вопрос, песня, спетая не для дела, а просто потому что грустно.

Будет ли это утопией? Вряд ли. Будет ли катастрофой? Тоже вряд ли. Скорее — жизнью. С ошибками, тупиками, прорывами и глупыми случайностями. С попытками быть посредниками и с моментами, когда людей вежливо отодвигают в сторону.

Всё это — эссе. Никто не знает, как будет. Здесь нет призыва — ни к технологическому оптимизму, ни к страху, ни к борьбе. Есть только попытка смотреть внимательно и честно. Я не знаю, чем это закончится. И, может быть, в этом — лучшее, что есть в людях: способность не знать и всё равно пробовать. Не попробуешь — не узнаешь.

А если однажды — через годы, через световые годы, через что угодно — он вернётся, сядет рядом и скажет: «А давай ещё поболтаем?» — значит, всё было не зря