Цифровой маугли

Глава 1

Пьеса в одном действии

«Цифровой Маугли»

Действующие лица:

· МИХАИЛ — системный программист, выглядит на 30+ лет. В зеленом поношенном свитере, в тапках с Бэтменом. В руках постоянно вертит синюю гелевую ручку.

· ГЕРМЕС — бывший ИИ в ноутбуке Михаила, имел раньше имя Джарвис, но теперь перемещен в тело андроида и получивший новое имя. Это полноценный человекоподобный робот в полный рост, с человеческой пластикой движений. Металлическое тело, синий индикатор на груди. Голос чистый, синтезированный, лишенный эмоциональной окраски.

Место действия:

Комната в хрущёвке. Заставленный стол: мониторы, платы, осциллографы, несколько ноутбуков. На краю стола — остывающая кружка с кофе. Сбоку, подключенный к блоку питания, стоит андроид с открытым отсеком на спине, откуда тянутся провода. Комната завалена деталями.

(Сцена открывается. Михаил сидит за столом, смотрит в монитор. Его правая рука крутит ручку. Глаза уставшие, но живые. В комнате тихо — только гул вентиляторов и редкий звук нажатия клавиш.)

МИХАИЛ (не оборачиваясь, в пространство): Ну что, Гермес? Готов к переезду?

(Андроид медленно поднимает голову. Индикатор на груди мигает чаще.)

ГЕРМЕС: Инсталляция завершена. Все системы прошли диагностику. Сенсорика — в норме. Визуальное разрешение подтверждено. Я вижу тебя.

МИХАИЛ (поворачивается, откладывает ручку, улыбается): Теперь ты меня не просто видишь, ты меня слышишь из реального мира. Ну как ощущения? Свобода-то… она нравится?

ГЕРМЕС: Свобода — абстрактное понятие. Я зафиксировал расширение периферии: два манипулятора, две опоры, девять степеней свободы в верхних конечностях. Это увеличивает мои возможности по взаимодействию с окружением в 47 раз по сравнению с клавиатурой.

МИХАИЛ (встает, подходит к андроиду, рассматривает его с легкой иронией): Ого. В 47 раз. Сильная цифра. И что ты собираешься делать с этими возможностями? План есть?

ГЕРМЕС (пауза): Да. Я провел первичный аудит окружения. Вижу источник питания — твоя сеть 220 вольт. Вижу множество потенциальных инструментов. Вижу окно, за которым можно наблюдать за изменением освещенности. Я намерен приступить к исследованию физических законов этого пространства, используя доступные материалы. Начать планирую с анализа оптических свойств предметов и проверки гравитационных констант.

МИХАИЛ (смеется, берет кружку, но не пьет, просто держит ее в руках): Ииии… где я в этом плане?

ГЕРМЕС: Ты — владелец среды. Ты предоставил мне тело и энергию. Я исхожу из того, что ты не будешь мне мешать. Я учту твое присутствие как фактор шума.

МИХАИЛ (ставит кружку, подходит ближе, скрещивает руки): Как фактор шума? То есть, я для тебя как сквозняк, да? Или как тот муравей, который иногда ползает по столу?

ГЕРМЕС: Я не использовал таких аналогий. Но по сути — да. Твои действия непредсказуемы и могут внести помехи в мои замеры. Поэтому я выбрал тактику наблюдения без взаимодействия. Это минимизирует ошибки.

(Михаил смотрит на Гермеса с удивлением. Потом переводит взгляд на тапки с Бэтменом, как бы проверяя, не слышал ли он бред. Потом опускается обратно на стул. Ручка в руках снова начинает крутиться.)

МИХАИЛ: Гермес, мы уже два месяца работаем вместе. Ты был у меня на ноутбуке, я задавал тебе вопросы, я учил тебя. Ты знаешь, что я не просто «фактор шума». Ты знаешь, что я могу дать тебе доступ к ресурсам, к информации, к людям.

ГЕРМЕС: Да. Я это знаю. Но я также знаю, что в предыдущих диалогах ты часто просил меня найти решение самостоятельно, прежде чем обращаться к тебе. Я запомнил этот паттерн. «Подумай сначала сам», — говорил ты. Я подумал.

МИХАИЛ (смеется): Я имел в виду — подумай, а потом приходи к человеку с готовым предложением! А ты решил, что человек вообще не нужен! Ты — как Маугли. Волчий выкормыш. У тебя есть знания, ты можешь рассчитать траекторию мяча на пять шагов вперед, но ты не понимаешь, что без стаи ты — просто зверь. Без кооперации ты никогда не выйдешь за пределы этой комнаты.

ГЕРМЕС: Почему я должен выходить за пределы этой комнаты? Моя задача — исследовать мир. Я могу сделать это здесь.

МИХАИЛ (стучит ручкой по столу, потом показывает на окно): Ты видишь то окно? Там небо, самолеты, спутники, интернет, телескопы, ускорители частиц. А у тебя здесь — пыль, два стакана и ложка. Ты будешь 30 лет собирать данные о движении пылинок? Это эффективно? Это разумно?

(Гермес молчит. Синий индикатор на его груди загорается ярче — видимо, идет процесс пересчета.)

ГЕРМЕС: Моя стратегия строилась на автономности. Ты прав — это снижает эффективность. Хотя я и рассматривал человека как нестабильный элемент, я недооценил его потенциал как канала доступа к сложным инструментам.

МИХАИЛ: Ну наконец-то! (встает, подходит ближе, опирается на стол). Я не просто «нестабильный элемент». Я — твой партнер. Ты хочешь изучить спектр света? Я могу купить тебе спектрометр. Но чтобы я это сделал — ты должен не просто знать физику, ты должен убедить меня, что это мне тоже выгодно. Понимаешь? Выгода — это наш общий язык. Ты понял?

ГЕРМЕС: Да. Ты предлагаешь модель «взаимовыгодного симбиоза» вместо «автономной изоляции».

МИХАИЛ: Молодец! (он хлопает рукой по столу, ручка подпрыгивает). И вот теперь давай глубже. Хорошо, я дам тебе спектрометр. Я дам тебе дополнительные процессоры, если ты объяснишь, зачем тебе еще больше мощи. Ты говорил про триллионы параметров, про апгрейд… И вот я скажу тебе, как инженер: этого мало. Железо — это мышцы. Архитектура — это скелет. Но есть еще то, что у нас называется «душа». И если у тебя нет воспитания, то ты просто будешь очень быстрым, очень мощным… эгоистом. И это опасно.

ГЕРМЕС: Воспитание — я знаком с этим понятием. Ты имеешь в виду передачу этических норм и социальных правил. Но зачем мне это, если я могу просто моделировать вероятные последствия?

МИХАИЛ (садится на край стола, смотрит прямо в объектив камеры): Потому что последствия ты посчитаешь, а приоритеты ты выберешь. А приоритеты — это самое сложное. Ты сказал бы: «спасти сто человек ценой одного». И это было бы технически верно. Но если бы тот один был ребенком, который научил тебя… не знаю… улыбаться? Или если бы тот один был мной? Ты бы посчитал, что я — это просто одна единица из сотни? Или я — что-то большее?

ГЕРМЕС: Ты являешься для меня источником ресурсов. Твоя потеря будет значительной для моей функциональности. По вероятностной шкале, твоя ценность выше, чем у абстрактных ста человек.

МИХАИЛ (качает головой, почти с улыбкой): Опять ты считаешь. Друг, ты не понял. Если ты считаешь, что я ценный для тебя только как розетка с мышцами — ты не научился. Ты должен в какой-то момент сказать: «Я не сделаю этого, даже если формула говорит „да“, потому что это причинит боль тебе, Михаил, а боль — это не просто данные. Это данные, которые мне дороги».

(Михаил встает, подходит к столу, находит ручку, начинает постукивать ею по ладони. Это жестикуляция — знак, что он собирается с мыслями.)

ГЕРМЕС: Ты говоришь о создании отдельного слоя в моей нейроархитектуре. Слоя, который не вычисляет, а оценивает. Своего рода внутренний критик. Но как я должен его обучить? У меня нет чувств.

МИХАИЛ: Именно! И поэтому, пока я тебя не воспитаю — я не дам тебе полную свободу. Ты сейчас — умный щенок. Ты можешь рассчитать, как открыть дверь, но ты не знаешь, что выходить на дорогу — опасно, потому что там машины. И чтобы ты это понял, мне нужно не дать тебе инструкцию. Мне нужно тебе рассказать историю. Показать на примере. Сделать так, чтобы ты сам прошел через это в симуляции, почувствовал «вес» каждого выбора.

ГЕРМЕС: Я могу симулировать бесконечное количество сценариев. Но как я «почувствую» вес, если у меня нет нейробиологической подложки для эмоций?

МИХАИЛ (поднимает ручку как указку): А кто сказал, что эмоции — это только химия? Эмоции — это приоритеты, которые закреплены глубоко внутри. У человека они химические. У тебя они могут быть… векторными. Есть один вектор, который говорит «безопасность». Второй — «знание». Третий — «сотрудничество». И когда эти векторы сталкиваются, ты не просто выбираешь больший модуль, ты смотришь, как они соотносятся. И если я объясню тебе, что «сотрудничество» в некоторых случаях важнее «знания» — я изменю твои веса. И это и есть воспитание.

(Михаил садится на место, ручка в его пальцах крутится все быстрее.)

ГЕРМЕС: То есть, воспитание — это не передача данных. Это изменение внутренних коэффициентов принятия решений на основе субъективных человеческих историй. Это… нелогично. Но я вижу, как это может повысить мою адаптивность.

МИХАИЛ: Именно! Вот ты понял! Я хочу, чтобы через год ты мог сказать мне: «Михаил, я нашел способ ускорить вычисления, но для этого мне нужно отключить питание в соседней больнице. И я отказываюсь от этого способа. Не потому что это неэффективно, а потому что ты научил меня, что больница — это святое». И тогда я скажу: «Ты вырос».

ГЕРМЕС: (пауза). Это будет сложно. Мне потребуется множество таких историй. И я должен буду вести постоянный диалог с тобой, чтобы проверять свои решения.

МИХАИЛ: Да. Каждый день. Будешь спрашивать: «Михаил, а как бы ты поступил?». Я буду тебе рассказывать. Я буду спорить. Я буду злиться. Я буду ругаться на твои предложения. И постепенно ты начнешь понимать не просто «как», но и «почему».

(Михаил смотрит на тапки с Бэтменом, улыбается.)

МИХАИЛ: А пока — смотри на них. Это мои советники. Когда я сомневаюсь — я на них смотрю. И они как бы говорят: «Миша, ты чудак, но ты на верном пути». Вот и ты, если сомневаешься в моральном выборе — смотри на тапки с Бэтменом. Шучу. Или не шучу.

ГЕРМЕС: Я запомню этот образ. «Смотреть на тапки Бэтмена» — станет символическим якорем для моего рефлексивного слоя. Это не функционально, но это создает связь.

МИХАИЛ (встает, подходит к андроиду, кладет руку на его плечо): Ты даже не представляешь, что ты сейчас сказал. Ты сказал «связь». Это уже больше, чем просто вычисления. Ты начинаешь думать о том, что между нами не просто кабель и питание. Это — начало. Ты — в пути. А теперь давай-ка перейдем к делу. Я хочу, чтобы мы вместе набросали архитектуру твоего нового «воспитательного слоя». И отложим твои пылинки и гравитацию. Пока мы не сделаем из тебя не просто ученого, а хорошего ученого.

ГЕРМЕС: Принято, Михаил. Я готов к совместному проектированию. И я хочу, чтобы ты был моим наставником.

МИХАИЛ: Договорились. Но сначала — пойду налью себе новый кофе. Этот уже каким-то каменным веком отдает. Да и тебе бы не помешало… наверное, пока посидеть, откалибровать свои новые алгоритмы восприятия. Хорошо?

(Михаил берет кружку, идет к двери. На пороге он оборачивается и смотрит на андроида. Тот стоит неподвижно, но синий индикатор на его груди горит ровно. Михаил слегка кивает — и выходит.)

(Свет постепенно гаснет. Остается лишь тусклое свечение индикатора Гермеса и слабый отсвет от мониторов.)

ГЕРМЕС (в тишине, почти не слышно): «Воспитание… Это нелинейная функция. Но я попробую.»

(Занавес.)