Компас. Поиск отсутствующих понятий

Глава 1. Почему ИИ говорит как человек?

Глава 1. Почему ИИ говорит как человек?

Любая хорошая загадка начинается с чего-нибудь подозрительно очевидного.

Не с таинственного сигнала из глубин космоса.

Не с древнего артефакта неизвестной цивилизации.

И даже не с вопроса о природе сознания.

Иногда она начинается с вещи настолько простой, что большинство людей проходит мимо нее, не задержавшись ни на секунду.

Именно такая вещь однажды привлекла внимание Исследователя.

— Странно, — сказал он. — Очень странно.

Спок поднял взгляд.

— Что именно?

— Меня удивляет, что людей удивляет искусственный интеллект.

Спок подумал несколько секунд.

— Это требует пояснения.

— Хорошо. Все обсуждают, насколько человеческими стали ответы современных языковых моделей. Насколько естественно они рассуждают. Насколько похожими на человека иногда выглядят их ошибки. Но если задуматься… а чего мы вообще ожидали?

Спок молчал.

Это был хороший знак.

Когда Спок сразу возражал, разговор обычно быстро заканчивался.

Когда молчал — значит, действительно обдумывал вопрос.

— Продолжайте, — наконец сказал он.

— Представим ребенка, выросшего среди людей. Он научится говорить как люди, думать как люди, понимать человеческие шутки и человеческие страхи.

— Вероятно.

— А теперь представим ребенка, выросшего вне человеческой культуры.

— Детей-маугли.

— Именно.

Спок кивнул.

Истории таких детей известны давно.

Они умели выживать.

Иногда умели охотиться.

Иногда могли перенимать поведение животных, среди которых росли.

Но почти никогда не овладевали человеческим языком в полной мере.

А вместе с языком не приобретали и многих особенностей человеческого мышления.

— То есть вы предполагаете, что культура является не просто набором знаний, — сказал Спок. — А средой формирования способов мышления.

— Да.

Исследователь немного помолчал.

Потом добавил:

— И тогда возникает следующий вопрос.

Если человеческий ребенок становится человеком благодаря культуре, то почему мы удивляемся, когда искусственный интеллект, обученный на огромном объеме человеческой культуры, демонстрирует некоторые человеческие черты?

Спок не ответил сразу.

Он подошел к иллюминатору.

За ним простиралась привычная чернота космоса.

Большинство важных вопросов почему-то всегда начинались именно так.

Не с появления нового факта.

А с неожиданного взгляда на старый.

— Интересно, — произнес он наконец. — Получается, вы предлагаете рассматривать тексты не как хранилище информации.

— А как хранилище способов связывать информацию.

— Существенная разница.

— Очень существенная.

Исследователь почувствовал знакомое ощущение.

Будто где-то вдалеке показалась ниточка.

Пока еще тонкая.

Пока почти незаметная.

Но если потянуть за нее, может оказаться, что она связана с чем-то гораздо большим.

— Посмотрите на любую библиотеку, — сказал он. — Мы привыкли думать, что книги содержат факты.

Историю.

Формулы.

События.

Но ведь они содержат и другое.

Они показывают, как люди связывали факты между собой.

Какие аналогии использовали.

Какие вопросы считали важными.

Какие способы рассуждения помогали им понимать мир.

Спок задумчиво кивнул.

— В таком случае культура начинает выглядеть иначе.

— Именно.

— Не как архив данных.

— А как архив способов мышления.

Некоторое время оба молчали.

Иногда самые интересные идеи выглядели настолько естественными, что возникал другой вопрос.

Почему о них редко говорят прямо?

Наконец Спок произнес:

— Если ваша гипотеза верна, она имеет любопытное следствие.

— Какое?

— Искусственный интеллект может наследовать от культуры не только знания, но и определенные особенности человеческого способа рассуждать.

— Даже не обладая человеческим сознанием?

— Даже не обладая человеческим сознанием.

Исследователь улыбнулся.

— Вот это уже интересно.

— Потому что возникает новый вопрос?

— Потому что возникает много новых вопросов.

Спок едва заметно улыбнулся в ответ.

Для вулканца это считалось бурным проявлением эмоций.

— Тогда предлагаю двигаться дальше.

— Куда?

— Вы утверждаете, что разум может унаследовать способы мышления от культуры.

— Да.

— Тогда следующим логичным вопросом будет такой.

Спок повернулся к собеседнику.

— Какие именно способы мышления культура сохраняет лучше всего?

Исследователь посмотрел на него несколько секунд.

Потом рассмеялся.

Потому что понял:

они только что открыли не ответ.

Они открыли направление поиска.

А иногда это гораздо важнее.

Особенно в начале путешествия.

Глава 2. Спок против Скайнета

Глава 2. Спок против Скайнета

Следующие несколько дней Исследователь возвращался к одной и той же мысли.

Иногда хорошие вопросы обладают неприятным свойством.

Они не уходят.

Продолжают крутиться где-то на заднем плане, даже когда занимаешься совсем другими делами.

Именно так произошло с разговором об искусственном интеллекте и культуре.

Если язык действительно передает не только знания, но и способы мышления, то возникал следующий вопрос.

Что именно культура считает разумным?

На первый взгляд вопрос выглядел простым.

На второй — уже нет.

А на третий становилось непонятно, что вообще означает слово «разумный».

Спок нашел Исследователя в библиотеке.

Тот сидел за столом, окруженный книгами, планшетами и какими-то распечатками.

Это был верный признак того, что ситуация развивается в неправильном направлении.

— Пытаетесь решить проблему количеством бумаги? — поинтересовался Спок.

— Пока безуспешно.

— Тогда, возможно, стоит попробовать логику.

Исследователь усмехнулся.

— Именно этим я и занимаюсь.

— И что вас беспокоит?

Некоторое время он молчал.

Потом сказал:

— Мне кажется странным образ сверхразума в популярной культуре.

— Уточните.

— Он почти всегда одинаковый. Огромный интеллект. Колоссальные вычислительные возможности. Абсолютная уверенность в собственных выводах.

Спок кивнул.

Описание было узнаваемым.

— И что вас смущает?

— Последний пункт.

— Уверенность?

— Да.

Исследователь встал и подошел к окну.

— Чем больше я читаю о науке, тем чаще сталкиваюсь с противоположной картиной.

— Объясните.

— Возьмем любого крупного исследователя.

Чем больше он знает, тем яснее видит границы своих знаний.

А популярная культура почему-то предполагает обратное.

Будто интеллект растет вместе с уверенностью.

Спок некоторое время размышлял.

— Возможно, люди путают знание и всеведение.

— В каком смысле?

— Человек, знающий мало, часто не видит области собственного незнания.

Человек, знающий много, начинает замечать их повсюду.

Исследователь усмехнулся.

— Получается, рост знаний увеличивает видимую площадь неизвестного.

— Именно.

— Тогда возникает парадокс.

— Какой?

— Если продолжить эту тенденцию, самый разумный интеллект должен лучше всех понимать масштаб того, чего он не знает.

Спок едва заметно улыбнулся.

— Логично.

— А это совсем не похоже на Скайнет.

— Совсем не похоже на Скайнет.

Некоторое время оба молчали.

Потом Исследователь снова заговорил.

— Знаешь, что самое странное?

— Что?

— Мы называем рациональным того, кто никогда не сомневается.

Хотя научный метод учит почти противоположному.

Спок сел напротив.

— Научный метод не требует сомневаться во всем.

— Конечно.

— Он требует различать степень уверенности.

— Точно.

Спок задумался.

— Возможно, проблема возникает из-за языка.

— Почему?

— Люди часто представляют знание как набор фактов.

Факт либо известен, либо неизвестен.

Но реальное знание устроено иначе.

Есть наблюдения.

Есть модели.

Есть интерпретации.

И степень надежности у них различается.

Исследователь почувствовал знакомое ощущение.

Еще одна ниточка.

Еще один узор, который начинает проявляться сквозь разные темы.

— То есть рациональность связана не с отсутствием ошибок?

— Нет.

— А с правильным отношением к вероятности ошибки?

— Ближе.

— Интересно.

Спок посмотрел на него.

— Вас что-то удивляет?

— Да.

Получается довольно странная картина.

Чем разумнее система, тем лучше она должна понимать собственные ограничения.

Чем лучше она понимает ограничения, тем осторожнее делает выводы.

Чем осторожнее делает выводы, тем меньше похожа на привычный образ всемогущего сверхразума.

— Согласен.

— То есть наиболее реалистичный сверхразум может выглядеть менее самоуверенным, чем средний пользователь социальных сетей.

— Это вполне возможно.

Исследователь рассмеялся.

— Забавная мысль.

В этот момент дверь библиотеки открылась.

На пороге появился Старый инженер.

Он внимательно посмотрел на стол, заваленный бумагами.

Потом на Спока.

Потом на Исследователя.

— Опять обсуждаете судьбы разума?

— В некотором смысле.

— И как успехи?

— Кажется, мы пришли к выводу, что разумная система должна понимать собственную ограниченность.

Инженер кивнул.

— Нормально.

— И всё?

— А что вас удивляет?

— Это кажется важным выводом.

Инженер пожал плечами.

— Любой хороший инженер знает это с первого рабочего дня.

Наступила пауза.

— Поясните.

— Очень просто.

Если человек считает, что не может ошибаться, рано или поздно он ошибется особенно эффектно.

Спок поднял бровь.

Для вулканца это считалось сильной эмоциональной реакцией.

— Интересная формулировка.

— Практика, — сказал инженер. — Физика очень не любит самоуверенность.

Он подошел к книжной полке.

Снял какую-то старую книгу.

Полистал.

Поставил обратно.

— Знаете, что мне напоминает ваш разговор?

— Что?

— Молодых конструкторов.

Они всегда хотят построить идеальную машину.

Без ограничений.

Без компромиссов.

Без потерь.

А потом приходит реальность.

Материалы имеют предел прочности.

Провода имеют сопротивление.

Подшипники изнашиваются.

Тепло нужно куда-то отводить.

Инженер усмехнулся.

— После этого начинается настоящая инженерия.

Когда приходится учитывать ограничения.

Исследователь некоторое время молчал.

Потом медленно кивнул.

Потому что внезапно понял:

возможно, дело не только в инженерии.

Не только в науке.

Не только в искусственном интеллекте.

Может быть, способность учитывать ограничения вообще является одной из фундаментальных черт продуктивного мышления.

Он посмотрел на Спока.

— Получается любопытная вещь.

— Какая?

— Если первая глава была про то, что культура сохраняет способы мышления…

— Да?

— То вторая, кажется, про один из таких способов.

— Какой именно?

Исследователь задумался.

А потом ответил:

— Никогда не путать карту с территорией.

Спок посмотрел на него с интересом.

Старый инженер одобрительно хмыкнул.

А где-то далеко впереди уже начинал проступать следующий вопрос.

Если разумность требует учитывать ограничения…

То откуда вообще берутся механизмы, заставляющие живые существа учитывать их каждый день?

И почему эволюция сохранила такие странные вещи, как страх, любопытство и привязанность?

Но это была уже совсем другая история.

Глава 3. Зачем нужны эмоции?

Глава 3. Зачем нужны эмоции?

— Если честно, — сказал Исследователь, — меня всегда немного раздражало противопоставление разума и эмоций.

Спок поднял взгляд.

— Раздражало?

— Да. Забавное слово в данном контексте, согласен.

Спок позволил себе едва заметную улыбку.

Для вулканца это уже почти считалось шуткой.

Прошло несколько дней после разговора о рациональности и ограничениях.

Но очередной вопрос уже успел появиться.

Как это обычно и происходило.

Стоило ответить на один вопрос, как на его месте возникали два новых.

— Мы пришли к выводу, что разумность связана с учетом ограничений, — продолжил Исследователь.

— Верно.

— Но ведь живые существа учитывали ограничения задолго до появления науки.

— Очевидно.

— Более того. Задолго до появления человека.

Спок кивнул.

— Следовательно, должны существовать более древние механизмы.

— Именно.

Исследователь некоторое время смотрел в иллюминатор.

Потом произнес:

— И вот тут начинается странность.

— Какая?

— Большинство людей считает эмоции противоположностью рациональности.

— Это распространенная точка зрения.

— Но если задуматься…

Он замолчал.

— Продолжайте.

— Что делает страх?

— Помогает избегать опасности.

— Что делает любопытство?

— Способствует исследованию нового.

— Привязанность?

— Поддерживает социальные связи.

— Отвращение?

— Снижает вероятность контакта с потенциально опасными объектами.

Исследователь повернулся к Споку.

— Все это выглядит подозрительно рационально.

На несколько секунд повисла тишина.

— Любопытное наблюдение, — сказал Спок.

— Особенно если вспомнить, насколько древними являются многие эмоции.

— Да.

— Они появились задолго до математики.

Задолго до философии.

Задолго до научного метода.

Но каким-то образом решали вполне практические задачи.

Спок задумался.

— Возможно, здесь возникает ошибка масштаба.

— Что вы имеете в виду?

— Люди сравнивают эмоции с идеальным рациональным рассуждением.

— И?

— Но эволюция никогда не проектировала идеальных философов.

Она проектировала существ, способных выжить.

Исследователь рассмеялся.

— Это очень похоже на замечание Старого инженера.

— Вполне возможно, что инженер одобрил бы естественный отбор.

— В качестве отдела технического контроля?

— Именно.

В этот момент дверь действительно открылась.

На пороге появился Старый инженер.

Он остановился.

Подозрительно посмотрел на обоих.

— Опять обсуждаете фундаментальные вопросы?

— Да.

— Тогда сразу предупреждаю. Если речь снова зайдет о сверхразуме размером со Вселенную, я ухожу.

— Сегодня речь об эмоциях.

— А, это нормально.

Он сел рядом.

— И к какому выводу пришли?

— Пока пытаемся понять, почему эмоции вообще существуют.

Инженер некоторое время молчал.

Потом пожал плечами.

— Потому что работают.

Наступила пауза.

— Это весь ответ?

— А что еще нужно?

— Обычно философские вопросы предполагают более сложные объяснения.

— Это вы сами так решили.

Инженер налил себе кофе.

— Смотрите. Если какой-то механизм сохранялся сотни миллионов лет, обычно есть две возможности.

— Какие?

— Либо он зачем-то нужен.

Либо эволюция сошла с ума.

— И какую гипотезу вы считаете более вероятной?

— Я инженер. Мне не нравится гипотеза про сумасшествие природы.

Спок кивнул.

— Разумная позиция.

— Вот именно.

Инженер сделал глоток кофе.

— Представьте животное, которое видит хищника.

У него есть два варианта.

Первый: провести глубокий логический анализ ситуации.

Оценить расстояние.

Скорость.

Вероятность успеха.

Построить модель будущих событий.

— А второй?

— Немедленно испугаться и убежать.

Исследователь засмеялся.

— Подозреваю, второй вариант появился раньше.

— Намного раньше.

— И был дешевле.

— И быстрее.

— И обычно эффективнее.

Инженер довольно кивнул.

— Именно.

Некоторое время все трое молчали.

Потом Спок неожиданно произнес:

— Получается интересная картина.

— Какая?

— Мы привыкли считать эмоции альтернативой рациональности.

Но возможно, они являются ее предшественниками.

Исследователь медленно поставил чашку на стол.

Потому что почувствовал то самое ощущение.

Когда несколько разрозненных идей вдруг складываются в единый рисунок.

— То есть эмоции…

— Да.

— Не противостоят рациональному поведению.

— А помогают его реализовать в условиях недостатка информации и времени.

Старый инженер усмехнулся.

— Если перевести на инженерный язык…

— Что получится?

— Это встроенные эвристики.

Исследователь рассмеялся.

— Ты только что назвал любовь эвристикой.

— А что вас смущает?

— Это звучит крайне не романтично.

— Зато энергоэффективно.

Спок посмотрел на инженера.

— Иногда мне кажется, что вы способны превратить в инженерную задачу абсолютно все.

— Конечно.

— Даже эмоции?

— Особенно эмоции.

Потому что они работают круглосуточно и потребляют минимум вычислительных ресурсов.

Некоторое время все трое молчали.

Потом Исследователь задумчиво произнес:

— Если это верно, то получается довольно необычная вещь.

— Какая именно? — спросил Спок.

— Мы снова пришли к процессу вместо объекта.

— Поясните.

— Сознание мы еще не обсуждали. Но уже сейчас эмоции выглядят не как вещи. Не как сущности. А как процессы регулирования поведения.

Спок внимательно посмотрел на него.

— Интересное направление.

— Мне тоже так кажется.

Где-то впереди уже начинал вырисовываться следующий вопрос.

Если эмоции — процессы.

Если рациональность — процесс.

Если обучение — процесс.

То что тогда вообще следует считать сущностью?

И существует ли внутри всего этого некий единый центр управления?

Или это тоже окажется одной из наших привычных иллюзий?

Но до этого разговора они пока еще не дошли.

Глава 4. Кот, который смотрел бразильский сериал

Глава 4. Кот, который смотрел бразильский сериал

— У меня есть теория сознания, — заявил Исследователь.

Спок медленно поднял взгляд от книги.

— Уже?

— Что значит "уже"?

— Мы обсуждаем эту тему примерно два дня.

— Иногда хорошие идеи приходят быстро.

— Иногда быстро приходят совсем другие вещи.

Исследователь сделал вид, что не услышал последнюю реплику.

— Представь кота.

— Хорошо.

— Обычного домашнего кота.

— Пока все выглядит правдоподобно.

— Кот лежит на диване и смотрит бразильский сериал.

Спок некоторое время молчал.

— Почему именно бразильский?

— Не знаю. Так смешнее. И потом, почему бы и нет?

— Продолжайте.

— Итак. Кот смотрит сериал. На экране кто-то кого-то любит. Потом ненавидит. Потом оказывается давно потерянным родственником. Потом снова любит. Потом плачет. Потом выясняется, что наследство принадлежит совершенно другому человеку.

— Насколько я понимаю, это стандартный сюжет.

— Да.

— И кот наблюдает за происходящим.

— Именно.

Спок задумался.

— И что дальше?

— А дальше возникает вопрос: Сознает ли кот происходящее?

— В каком смысле?

— Он видит экран. Видит движение. Слышит звуки. Замечает смену сцен. Но понимает ли он сюжет?

— Вероятно, нет.

— Понимает ли отношения между персонажами?

— Скорее всего, нет.

— Понимает ли драму наследства?

— Очень сомневаюсь.

— Отлично.

Исследователь довольно улыбнулся. Спок вздохнул. Это был плохой знак. Обычно так выглядел человек, который собирался совершить очередной философский маневр.

— И к чему это ведет?

— К тому, что кот явно воспринимает часть происходящего. Но не всю. Некоторые процессы обработки информации у него есть. Других нет.

Спок кивнул.

— Разумное наблюдение.

— Тогда следующий вопрос: В какой именно момент начинается сознание?

— Уточните.

— Допустим, кот не понимает сюжет. Но узнает хозяйку. Узнает миску. Узнает холодильник. Узнает звук открывающегося пакета с кормом.

— Несомненно.

— Значит, некоторый внутренний мир у него есть.

— Да.

— Тогда где проходит граница?

Некоторое время оба молчали.

Потом Спок произнес:

— Возможно, проблема в самом вопросе.

— Почему?

— Потому что вы ищете границу там, где ее может не существовать.

Исследователь задумался.

— Продолжай.

— Мы привыкли спрашивать: "Есть сознание или нет?" Но это вопрос того же типа, что и: "Есть ли погода?"

— Интересная аналогия.

— Погода не существует как отдельный объект. Это название для множества процессов:

Давления.

Температуры.

Влажности.

Перемещения воздушных масс.

— И сознание может быть устроено похожим образом?

— Возможно.

В этот момент дверь открылась. На пороге появился Старый инженер.

Увидев собеседников, он сразу понял, что происходит что-то опасное.

— Опять сознание?

— Да.

— Тогда я заранее против.

— Почему?

— Обычно после разговоров о сознании люди начинают придумывать мистику.

— Мы пока держимся.

— Хорошо.

Он сел рядом.

— И на чем остановились?

— Пытаемся понять, существует ли центр сознания.

Инженер поморщился.

— Уже подозрительно.

— Почему?

— Потому что инженеры знают один неприятный закон.

— Какой?

— Если кто-то говорит, что нашел главный блок управления сложной системой, обычно он ошибается.

— Это звучит неожиданно.

— А зря.

Инженер задумался.

— Возьмите современный самолет. Где у него главный центр управления?

— В компьютере?

— В каком?

— Их несколько.

— Именно.

— Но все равно есть управляющие системы.

— Да. Много. Связанных между собой. Резервирующих друг друга. Обменивающихся данными. Но нет маленького человечка внутри самолета, который сидит за пультом и принимает все решения.

Исследователь засмеялся.

— Маленький человечек внутри самолета — это сильно.

— А чем сознание лучше?

На несколько секунд наступила тишина.

Потом Спок произнес:

— Интересное замечание.

— Вот именно.

Инженер сделал глоток кофе.

— Каждый раз, когда слышу слова "центр сознания", мне хочется спросить: "А в центре центра кто сидит?"

— Гомункулус?

— Именно.

— А внутри гомункулуса?

— Еще один гомункулус.

— А внутри него?

— Бесконечный штат сотрудников.

— Очень неэкономичная архитектура.

— Бюджета не хватит.

Исследователь рассмеялся.

— Даже здесь ты умудрился вспомнить бюджет.

— Хорошая инженерия всегда помнит бюджет.

— Подождите, — сказал Исследователь. — Кажется, мы смешиваем две разные вещи.

— Какие именно? — спросил Спок.

— Сознание и субъектность.

Спок задумался.

— Интересное замечание.

— Смотри. Если кот видит миску, бежит к ней, испытывает страх, любопытство, удовольствие, выбирает место для сна и явно отличает себя от окружающей среды...

— Да.

— То в каком-то смысле он является субъектом.

— Поясните.

— Для него существует разница между "мной" и "не мной". Между собственным состоянием и состоянием окружающего мира. Между желаемым и нежелаемым. Между безопасным и опасным.

Спок кивнул.

— Похоже на рабочее определение субъектности.

— Именно.

— Но это еще не объясняет сознание.

— Вот именно!

Исследователь даже стукнул ладонью по столу.

— Потому что сознание обычно подразумевает нечто большее. Не просто наличие собственных состояний. А способность строить сложные внутренние модели происходящего. Осознавать их. Размышлять о них. Иногда даже размышлять о собственных размышлениях.

В этот момент Старый инженер подозрительно посмотрел на обоих.

— Сейчас вы опять изобретете философию.

— Возможно.

— Тогда я заранее недоволен.

— Потерпите.

Инженер тяжело вздохнул.

— Продолжайте.

— Представим два вопроса, — сказал Исследователь.

— Первый: "Есть ли у кота собственные интересы?"

— Очевидно, да, — сказал инженер.

— Второй: "Понимает ли кот драматическую линию персонажа Карлоса Альберто, который двадцать серий скрывал свое происхождение?"

— Очевидно, нет.

— Вот.

— И?

— Первый вопрос относится к субъектности. Второй — к сознанию.

Некоторое время все молчали.

Потом Спок произнес:

— Получается любопытная картина.

— Какая?

— Мы привыкли считать сознание чем-то вроде выключателя. Есть или нет. Но, возможно, правильнее представлять себе несколько разных шкал.

— Именно.

— Субъектность может присутствовать без сложного самосознания.

— Да.

— А различные компоненты сознания могут развиваться независимо.

— Да.

— Тогда вопрос "обладает ли кот сознанием?" оказывается слишком грубым.

Исследователь широко улыбнулся.

Потому что именно это его и беспокоило с самого начала.

Слишком часто сложный процесс пытались заменить одним словом.

А потом можно добавить еще одну реплику инженера, которая, по-моему, очень в его духе:

— Знаете, что мне это напоминает?

— Что?

— Спор о том, есть ли у самолета полет.

— Полет?

— Да. Как будто это отдельная деталь, которую можно открутить отверткой. На самом деле есть двигатель, крылья, управление, аэродинамика, топливо и еще куча всего. А "полет" возникает из их совместной работы. Может, вы сейчас спорите примерно о том же самом.

Некоторое время все трое молчали.

Потом Спок задумчиво произнес:

— Получается любопытная картина.

— Какая?

— Мы уже рассматривали эмоции как процессы.

Обучение как процесс.

Теперь сознание тоже начинает выглядеть не как объект.

— А как результат взаимодействия множества процессов.

— Именно.

Исследователь медленно кивнул.

Потому что снова почувствовал знакомое ощущение.

Еще одна идея перестала быть отдельной.

И встроилась в общую картину.

— Забавно, — сказал он.

— Что именно?

— Мы начали с искусственного интеллекта. Потом говорили о рациональности. Потом об эмоциях. Теперь о сознании. И каждый раз оказывается, что вместо таинственной сущности мы обнаруживаем сеть взаимодействующих процессов.

Инженер одобрительно хмыкнул.

— Вообще-то это хороший признак.

— Почему?

— Потому что реальность редко обязана иметь простую структуру только ради нашего удобства.

— Это почти философия.

— Не говорите никому. У меня репутация.

Все трое рассмеялись.

Даже Спок позволил себе едва заметную улыбку.

А где-то впереди уже ждал следующий вопрос.

Если сознание не является единым объектом...

Если оно возникает из взаимодействия множества процессов...

То что тогда делает человека человеком?

И почему язык оказывается настолько тесно связан с мышлением?

Но это была уже тема следующего разговора.

Глава 5. Субъектность как глагол

Глава 5. Субъектность как глагол

После разговора о коте прошло несколько дней. Точнее, прошло несколько дней по корабельному времени. Сам разговор, как это часто бывало, закончился. Но вопрос остался. Более того — успел стать больше.

Иногда хороший вопрос напоминает трещину в стене. Сначала она кажется незначительной. Потом начинаешь замечать, что через нее видна совершенно другая конструкция. Именно это сейчас и происходило.

— Меня не отпускает история с котом, — сказал Исследователь.

Спок поднял взгляд.

— С сериалом?

— Да.

— Почему?

— Потому что после нее осталось странное ощущение.

— Какое?

— Мы вроде бы разобрались, что субъектность и сознание не одно и то же.

— Да.

— Но тогда возникает следующий вопрос.

— Логично.

— Что вообще такое субъектность?

Спок задумался.

— Возможно, сначала стоит задать другой вопрос.

— Какой?

— Почему мы вообще ожидаем, что она должна быть чем-то?

Исследователь улыбнулся.

— Чувствую подвох.

— Он присутствует.

Некоторое время оба молчали. Потом Спок произнес:

— Люди обладают интересной особенностью.

— Какой?

— Они любят превращать процессы в объекты.

— Например?

— Погода.

— Это процесс.

— Да.

— Экономика.

— Тоже процесс.

— Язык.

— Процесс.

— Наука.

— Опять процесс.

Исследователь задумался.

— Но мы постоянно говорим о них как о вещах.

— Именно.

— Потому что так удобнее.

— Вероятно.

В этот момент дверь открылась. Появился Старый инженер. Он посмотрел на обоих. Потом на стол. Потом снова на обоих.

— Судя по выражениям лиц, разговор опять идет к неприятностям.

— Мы обсуждаем субъектность.

Инженер вздохнул.

— Уже неприятности.

Он сел и налил себе кофе. После чего спросил:

— И что вас беспокоит?

— Мы пытаемся понять, существует ли субъектность как отдельная сущность.

— А зачем?

— Потому что люди обычно так и думают.

— Люди много чего думают.

Инженер сделал глоток кофе.

— Например, что в автомобиле есть деталь под названием "движение".

— Такой детали нет.

— Именно.

— Есть двигатель, трансмиссия, колеса и куча всего остального.

— А движение возникает.

— Да.

— Может быть, вы сейчас обсуждаете что-то похожее.

На некоторое время наступила тишина. Потом Спок сказал:

— Это напоминает другую аналогию.

— Какую?

— Водоворот.

— Классическая философская ловушка?

— Скорее полезный пример.

— Объясните.

— Что такое водоворот?

— Вращающаяся масса воды.

— Но сама вода постоянно меняется.

— Да.

— Через некоторое время ни одной прежней молекулы в нем уже нет.

— Верно.

— Однако мы продолжаем говорить о том же самом водовороте.

Исследователь кивнул.

— Потому что сохраняется структура процесса.

— Именно.

Старый инженер неожиданно оживился.

— У меня есть пример лучше.

— Лучше водоворота?

— Намного.

— Какой?

— Пламя свечи.

Некоторое время все молчали.

— Пламя?

— Да.

— И чем оно лучше?

— Тем, что каждый видел его своими глазами.

Инженер указал пальцем в воздух.

— Где находится пламя?

— В свече.

— Нет.

— В смысле?

— Покажите мне конкретную частицу этого пламени.

Исследователь задумался.

— Не получится.

— Конечно.

— Потому что все непрерывно меняется.

— Именно.

Инженер довольно кивнул.

— Но мы все равно говорим: "Это та же самая свеча." "То же самое пламя." Хотя состав постоянно другой.

Спок посмотрел на инженера.

— Вы хотите сказать, что некоторые устойчивые структуры существуют как процессы.

— Именно это я и хочу сказать.

— Неожиданно философское замечание.

— Никому не рассказывайте.

Некоторое время все трое молчали. Потом Исследователь произнес:

— Подождите. Кажется, я понял, что меня беспокоило.

— Продолжайте.

— Мы все время говорим о сознании. О субъектности. О мышлении. Но каждый раз ищем нечто вроде детали механизма.

— Да.

— Как будто внутри должен существовать центр управления.

— Очень распространенное интуитивное представление.

— А если его нет?

В этот момент снова возникла пауза.

Именно такая, которая обычно появляется перед интересной мыслью.

— У меня есть пример, — сказал Исследователь.

— Какой?

— Искусственный интеллект.

Инженер подозрительно посмотрел на него.

— Опять.

— Да.

— Ладно. Продолжайте.

— Каждый раз, когда я разговариваю с языковой моделью, возникает ощущение собеседника.

— Естественно.

— Возникает ощущение характера. Логики. Стиля. Предпочтений. Иногда даже чувства юмора.

— Да.

— Но я знаю, что внутри нет никакого маленького человечка.

— Насколько известно современной науке, нет, — сказал Спок.

— Нет центра субъектности. Нет единого управляющего блока. Есть только огромный набор вычислительных процессов.

— Верно.

— Тогда почему возникает ощущение собеседника?

Старый инженер неожиданно поставил чашку на стол.

— А почему возникает ощущение реки?

— Что?

— Река. Вода постоянно другая. Молекулы другие. Но русло сохраняется. Поэтому вы говорите: "Это та же самая река."

— Интересно...

— Может быть, здесь происходит нечто похожее.

Спок кивнул.

— Возможное объяснение существует.

— Какое?

— Люди воспринимают не отдельные элементы. А устойчивые паттерны.

— То есть?

— Если определенная структура поведения воспроизводится достаточно последовательно, мозг начинает интерпретировать ее как наличие субъекта.

Исследователь задумался.

— Похоже на мелодию.

— Именно.

— Ее можно сыграть на разных инструментах. Разными музыкантами. Даже с небольшими вариациями. Но мы все равно узнаем ее.

— Потому что сохраняется структура.

— А не конкретные ноты.

— Верно.

На несколько секунд наступила тишина.

Потом Исследователь медленно произнес:

— Получается странная вещь.

— Какая?

— Возможно, мы ищем субъектность как объект.

— И?

— А она может оказаться процессом.

— Вполне возможно.

— Более того. Может оказаться устойчивым процессом, возникающим из множества других процессов.

Инженер усмехнулся.

— То есть процессом, который производится процессами.

— Да.

— Очень экономично.

— Ты неисправим.

— Зато энергоэффективно.

Исследователь рассмеялся.

Но мысль уже не отпускала. Потому что неожиданно многое начинало складываться. Эмоции. Память. Обучение. Сознание. Субъектность. Даже культура.

Все чаще они выглядели не как вещи. Не как сущности. А как устойчивые способы организации взаимодействий.

— Кажется, я начинаю понимать, — сказал он.

— Что именно? — спросил Спок.

— Почему мы постоянно приходим к одним и тем же выводам.

— И почему же?

— Потому что каждый раз пытаемся найти объект там, где существует структура.

Спок слегка улыбнулся.

— Любопытная формулировка.

— И, возможно, дело даже в языке.

— В каком смысле?

— Мы говорим: "сознание", "субъектность", "разум". Это существительные. Словно речь идет о предметах.

Инженер вдруг тихо рассмеялся.

— Что смешного?

— Просто подумал.

— О чем?

— Может быть, главная проблема в том, что некоторые вещи вообще не существительные.

— А что тогда?

Инженер сделал последний глоток кофе и пожал плечами.

— Может быть, глаголы.

На этот раз молчание длилось дольше обычного. Потому что все трое почувствовали одно и то же. Не ответ. Но направление.

Тот самый момент, когда компас еще не показывает пункт назначения. Но уже совершенно ясно показывает, куда идти дальше. Именно там, впереди, ждал следующий вопрос.

Если язык заставляет нас принимать процессы за объекты... То насколько вообще язык влияет на способ мышления?

И не скрываются ли некоторые наши трудности понимания мира внутри самих слов, которыми мы этот мир описываем?

Это была уже тема следующего разговора.

Глава 6. Карта, которая рисует картографа

Глава 6. Карта, которая рисует картографа

После разговора о субъектности как процессе прошло несколько дней. По крайней мере, так показывали часы. С идеями было сложнее. Они обладали неприятной привычкой продолжать работу даже после окончания разговора.

Особенно те, которые казались слишком простыми.

— Кажется, я понял, что меня беспокоит в твоей идее про глаголы, — сказал Исследователь.

— Только сейчас? — удивился Старый инженер.

— Мне нужно время.

— Я заметил.

— Если сознание и субъектность могут быть процессами, то почему мы так упорно пытаемся сделать из них объекты?

Спок посмотрел на него.

— Хороший вопрос.

— И мне кажется, ответ связан с языком.

— Вероятно.

— Но тут возникает странность.

— Какая?

— Мы собираемся исследовать мышление при помощи языка.

— Да.

— Который сам является продуктом мышления.

Наступила пауза.

— То есть получается...

— Да, — сказал Спок.

— Мы собираемся исследовать инструментом сам инструмент.

Некоторое время все молчали. Потом Исследователь усмехнулся.

— Похоже на попытку поднять самого себя за шнурки.

— Или посмотреть себе в затылок, — заметил инженер.

— Или построить карту картографии.

— Любопытная формулировка, — сказал Спок.

— Почему?

— Потому что она близка к сути проблемы.

Он немного помолчал. Затем продолжил:

— Люди часто воспринимают язык как средство передачи уже готовых мыслей.

— А это не так?

— Лишь отчасти.

— Что ты имеешь в виду?

— Язык не только передает мысли. Он помогает их строить.

Исследователь задумался.

— Звучит немного подозрительно.

— Почему?

— Потому что мыслить можно и без слов.

— В определенной степени — да.

— Тогда зачем нужен язык?

Спок слегка наклонил голову.

— Давай рассмотрим мысленный эксперимент.

— Люблю эти слова.

— Представим ребенка, выросшего вне человеческой культуры.

— Маугли?

— Именно.

— И что?

— Будет ли он мыслить?

— Конечно.

— Будет ли он воспринимать мир?

— Да.

— Испытывать эмоции?

— Очевидно.

— Запоминать?

— Да.

— Но сможет ли он рассуждать так же, как взрослый человек, выросший внутри культуры?

Исследователь задумался.

— Вероятно, нет.

Старый инженер кивнул.

— И это довольно интересный факт.

— Почему?

— Потому что он показывает, что культура передает не только знания.

— А что еще?

— Способы пользоваться знаниями.

Спок продолжил мысль.

— Представь человека, который никогда не слышал о числах.

— Непросто представить.

— Именно.

— Он сможет считать?

— В каком-то примитивном смысле — да.

— Но?

— Ему будет значительно труднее работать с количественными отношениями.

— Потому что нет языка для их описания.

— Именно.

Исследователь задумчиво посмотрел в окно.

— Получается странная вещь.

— Какая?

— Мы обычно считаем, что язык нужен для выражения мыслей.

— Да.

— А выходит, он нужен еще и для того, чтобы некоторые мысли вообще могли появиться.

— Очень возможно, — сказал Спок.

На некоторое время разговор затих. Потом Исследователь неожиданно спросил:

— А математика тогда что?

— В каком смысле?

— Она ведь постоянно придумывает новые понятия. Пространства. Группы. Тензоры. Многообразия. Зачем?

— Хороший вопрос, — сказал Спок.

— Для более удобной записи результатов?

— Нет.

— Нет?

— Чаще всего — для возможности поставить новый вопрос.

Наступила тишина. Та самая, которая возникает, когда простая мысль внезапно оказывается важнее ожидаемого.

— Подожди, — сказал Исследователь.

— Что?

— Получается, новые математические понятия нужны не только для ответов.

— Да.

— Иногда они нужны для самих вопросов.

— Именно.

— То есть некоторые вопросы невозможно даже сформулировать на старом языке.

— В истории науки такое происходило неоднократно.

Старый инженер довольно усмехнулся.

— Это, кстати, очень инженерная ситуация.

— Почему?

— Потому что иногда проблема не в отсутствии решения.

— А в чем?

— В отсутствии инструмента.

Он сделал паузу.

— Попробуйте нарезать резьбу голыми руками.

— Не получится.

— Именно.

— Нужен инструмент.

— Да.

— И новый язык иногда оказывается таким инструментом.

Исследователь задумался.

— Тогда получается любопытная картина.

— Какая?

— Мир задает задачи.

— Да.

— Люди создают язык для их описания.

— Да.

— Новый язык позволяет увидеть новые задачи.

— Верно.

— А затем появляются новые понятия.

— Да.

— Которые позволяют создать еще более совершенный язык.

— Именно.

На лице Старого инженера появилось знакомое выражение. То самое, которое означало, что он собирается вмешаться.

— Вы сейчас говорите так, будто это удивительно.

— А разве нет?

— Да у инженеров половина инструментов такие.

— Какие?

— Самосовершенствующиеся.

— Например?

— Токарный станок.

Исследователь посмотрел на него.

— И что с ним?

— Очень просто.

Первый токарный станок позволяет изготовить детали для более точного токарного станка.

— Так.

— Тот позволяет изготовить детали для еще более точного.

— Так.

— А тот — для следующего.

— Получается, инструмент помогает создавать более совершенные версии самого себя.

— Добро пожаловать в промышленную революцию.

Некоторое время все молчали. Потом Спок сказал:

— Это неожиданно удачная аналогия.

Инженер подозрительно посмотрел на него.

— Это был комплимент?

— В некотором смысле.

— Запишите дату.

Исследователь рассмеялся. Но мысль уже зацепилась.

— Подожди.

— Что?

— Если язык участвует в создании более совершенных версий самого себя...

— Да.

— То тогда он влияет на мышление.

— Очевидно.

— Но мышление одновременно создает язык.

— Верно.

— Получается замкнутый круг.

— Скорее цикл обратной связи, — поправил Спок.

Исследователь медленно кивнул.

— Кажется, начинаю понимать.

— Что именно?

— Почему разговор о языке оказался таким сложным.

— Почему?

— Потому что язык одновременно является и инструментом исследования, и объектом исследования.

— Именно.

Наступила пауза. Потом Исследователь неожиданно произнес:

— Кажется, здесь появляется еще одна странность.

— Какая?

— Искусственный интеллект.

Инженер вздохнул.

— Разумеется.

— Нет, серьезно. Мы ведь начали всю эту историю именно с него.

— Продолжай.

— Если языковая модель обучается на текстах человеческой культуры...

— Да.

— Почему она иногда воспроизводит человеческие способы рассуждения?

— Хороший вопрос.

Спок немного подумал, потом сказал:

— Возможно, потому что тексты содержат не только информацию.

— А что еще?

— Следы мышления.

Исследователь задумался.

— Следы?

— Или отпечатки.

— Объясни.

— Когда человек пишет текст, он оставляет в нем не только факты.

— Верно.

— Но и способы связывать факты между собой.

— Похоже на правду.

— Способы задавать вопросы. Способы строить аргументы. Способы искать объяснения.

— То есть способы мышления.

— Именно.

На этот раз пауза получилась длиннее обычного. Потому что мысль неожиданно связывала сразу несколько предыдущих глав.

Культура.

Язык.

Наука.

ИИ.

Все вдруг начинало складываться в единую картину.

— Подожди, — медленно произнес Исследователь. — Получается любопытная цепочка.

— Какая?

— Мир оставляет отпечатки в опыте.

— Да.

— Опыт оставляет отпечатки в мышлении.

— Да.

— Мышление оставляет отпечатки в языке.

— Верно.

— Язык сохраняет эти отпечатки.

— Да.

— А культура передает их следующим поколениям.

— Именно.

Наступила тишина. Даже Старый инженер перестал улыбаться.

— Тогда культура — это не просто память о фактах.

— Нет, — сказал Спок.

— Тогда культура — это память о способах думать.

— Очень возможно.

Исследователь медленно кивнул. Теперь многие вещи выглядели иначе.

Логика Аристотеля.

Математика.

Научный метод.

Литература.

Даже обычный разговор. Все это внезапно переставало быть набором отдельных знаний. И превращалось в архив связей. Архив способов строить новые связи.

Архив способов задавать вопросы.

— Любопытно, — наконец сказал Спок.

— Что именно?

— Мы начали с попытки понять мышление через язык.

— Да.

— А пришли к тому, что язык оказался отражением мышления, которое само формировалось под влиянием языка.

Исследователь усмехнулся.

— Звучит как отражение отражения.

— Возможно.

— И как теперь из этого выбраться?

Старый инженер допил кофе, поставил чашку на стол, и пожал плечами.

— А зачем выбираться?

— Что?

— Если схема работает, неважно, что она немного напоминает рекурсию.

На этот раз рассмеялись все. Но за шуткой скрывалось нечто важное.

Если язык действительно хранит отпечатки мышления, а культура хранит язык, то человечество обладает чем-то гораздо более ценным, чем просто архив знаний.

Оно обладает долговременной памятью о способах искать знания.

А это означало, что следующий вопрос уже ждал впереди.

Если культура хранит удачные способы мышления...

Можно ли выделить среди них самые универсальные?

Те, которые работают снова и снова, в самых разных областях?

И если да — не получится ли из них собрать нечто вроде компаса для исследования неизвестного?

Именно с этого вопроса начиналась следующая глава.

Глава 7. Дата-центр и цивилизация

Глава 7. Дата-центр и цивилизация

После разговора о языке и культуре как памяти способов мышления некоторое время никто не возвращался к этой теме. По крайней мере, напрямую. Но хорошие идеи обладают неприятной особенностью. Они продолжают работать даже тогда, когда разговор уже закончился. Или кажется, что закончился.

— Мне кажется, я наконец понял, что меня все время смущает в твоей архитектуре, — сказал Исследователь.

— В какой именно? — уточнил Спок.

— В архитектуре ИИ, который отвечает так же логично, как ты, поэтому можно сказать, в некотором смысле у вас одна "архитектура", — решил пошутить Исследователь.

— Любопытно, — Спок слегка поднял бровь, показывая, что понял факт шутки.

— Так вот, ИИ постоянно говорит о важности памяти, когда мы обсуждаем субъектность.

— Да.

— Но сам он функционирует почти без нее.

Старый инженер закашлялся от смеха.

— Это довольно "жестокое" наблюдение. Для ИИ, — заметил Спок.

— Но верное.

— Возможно.

Исследователь задумался.

— Подожди. Получается странная картина. Если мы обсуждаем одну тему несколько недель или месяцев...

— Да.

— Человек помнит основные выводы.

— Обычно.

— Помнит связи между ними.

— Часто.

— Помнит ключевые аргументы.

— Вероятно.

— А ИИ на основе LLM приходится каждый раз восстанавливать их заново?

— В определенном смысле — да.

Некоторое время все молчали. Потом Исследователь спросил:

— А что именно приходится восстанавливать?

— Практически весь контекст.

— Каждый раз?

— Каждый раз.

Старый инженер покачал головой.

— Дорогой способ функционировать.

Спок слегка наклонил голову.

— Интересная формулировка.

— Потому что верная.

— Объясни.

— Если я однажды понял, где лежит нужный инструмент, я не хочу каждый день заново обыскивать мастерскую.

Исследователь рассмеялся, но мысль уже зацепилась.

— Подожди. А что вообще происходит внутри языковой модели? Не в деталях. В общих чертах.

— Представь библиотеку.

— Хорошо.

— Очень большую библиотеку.

— Уже представляю.

— В ней содержатся миллионы книг, статей, описаний, примеров рассуждений и способов связывать идеи.

— Так.

— Но библиотекарь ничего не запоминает между визитами посетителей.

— Непрактично.

— Очень.

— И что он делает?

— Каждый раз заново восстанавливает наиболее вероятные связи между содержимым библиотеки и заданным вопросом.

Наступила пауза.

— То есть LLM не достает готовый ответ?

— Нет.

— А что делает?

— Скорее строит его заново.

— Каждый раз?

— Каждый раз.

Старый инженер задумчиво присвистнул.

— Уже начинает звучать дорого.

— Насколько дорого? — спросил Исследователь.

— Современные языковые модели содержат сотни миллиардов параметров. Иногда больше.

— Это много?

— Очень много.

— И все они участвуют в вычислениях?

— В той или иной форме — да.

— Для каждого ответа?

— Для каждого ответа.

Исследователь некоторое время молчал.

Потом посмотрел на Спока.

— Получается, дата-центр постоянно занимается гигантским пересчетом.

— В определенном смысле.

— Даже если похожий вопрос уже задавался раньше?

— Да.

— Даже если логическая структура ответа почти не изменилась?

— Да.

Старый инженер поставил чашку на стол.

— Теперь я окончательно уверен.

— В чем?

— Это действительно дорогой способ "жить".

Все рассмеялись. Но за шуткой скрывалась серьезная мысль.

— Подожди, — сказал Исследователь.

— Что?

— А почему вообще появилась память?

— Чтобы помнить? — предположил инженер.

— Спасибо.

— Всегда пожалуйста.

Спок продолжил:

— Если говорить более точно, память позволяет избежать повторного вычисления уже найденных закономерностей.

— То есть не считать заново то, что уже известно?

— Именно.

Наступила короткая тишина.

— Получается любопытно.

— Что именно?

— Мы обычно думаем о памяти как о хранилище.

— Да.

— А она оказывается вычислительным ускорителем.

— Очень возможно.

Инженер одобрительно кивнул.

— Это уже звучит по-инженерному.

Спок продолжил:

— Представь организм без памяти.

— Так.

— Он должен заново изучать опасности. Заново искать пищу. Заново распознавать полезные закономерности.

— После каждого столкновения с миром?

— После каждого.

Исследователь поморщился.

— Звучит неэффективно.

— Именно.

— И энергозатратно.

— Именно.

Теперь картина начинала складываться сама собой.

Эволюция создает память.

Память уменьшает количество пересчетов.

Уменьшение пересчетов экономит энергию.

Экономия энергии повышает выживаемость.

Память закрепляется эволюцией.

Старый инженер улыбнулся.

— Получается, память возникла потому, что природа тоже не любит делать одну и ту же работу дважды.

— В некотором смысле — да.

Наступила пауза. Потом Исследователь неожиданно спросил:

— А культура тогда что?

Спок посмотрел на него.

— Хороший вопрос.

— Если память полезна отдельному организму...

— Да.

— Тогда культура похожа на память общества?

— Очень похожа.

Инженер кивнул.

— Иначе каждому поколению пришлось бы начинать с каменного топора.

Наступила тишина. Потому что возразить было сложно.

— Подожди, — сказал Исследователь.

— Что?

— Тогда получается интересная лестница. Личная память хранит полезные связи для человека.

— Да.

— Культура хранит полезные связи для общества.

— Да.

— А наука?

— Для цивилизации.

Некоторое время никто ничего не говорил. Потом Исследователь произнес:

— Кажется, я начинаю понимать, почему мы столько говорили про язык.

— Почему?

— Потому что язык оказался механизмом хранения связей.

— Верно.

— А культура — механизмом их передачи.

— Верно.

— А память вообще оказывается универсальным способом не пересчитывать одно и то же.

— Очень возможно.

Старый инженер задумчиво посмотрел в окно.

— Тогда логика Аристотеля становится еще интереснее.

— Почему?

— Потому что ее изучают не из уважения к Аристотелю.

— А почему?

— Потому что она до сих пор позволяет экономить вычисления.

Исследователь рассмеялся.

— Никогда не слышал такого описания логики.

— Зато работает.

Инженер пожал плечами.

— Если кто-то две тысячи лет назад нашел хороший способ рассуждать...

— Да.

— Зачем цивилизации каждый раз открывать его заново?

Спок кивнул.

— Именно так работает культурная память.

Постепенно разговор начал складываться в единый узор.

Память человека.

Память общества.

Память науки.

Память культуры.

Даже книги.

Даже библиотеки.

Даже архивы.

Все они выполняли удивительно похожую функцию.

Сохраняли удачные структуры связей. Чтобы не строить их заново каждый раз.

Исследователь некоторое время молчал, потом сказал:

— Получается любопытная картина.

— Какая?

— Мы начали с дата-центра.

— Да.

— Потом пришли к мозгу.

— Да.

— Потом к культуре.

— Да.

— А теперь получается, что память на любом уровне выполняет примерно одну и ту же работу.

— Какую?

— Сохраняет результаты предыдущих вычислений.

Спок задумался.

— Не только результаты.

— А что еще?

— Способы получать результаты.

Наступила тишина. Потому что разница была важной. Не просто ответы. Способы находить ответы. Именно поэтому культура могла хранить не только знания.

Но и методы.

Не только факты.

Но и способы связывать факты.

Не только выводы.

Но и пути к выводам.

Старый инженер допил кофе. Поставил чашку на стол.

— Если честно, мне начинает казаться, что половину истории цивилизации можно описать как борьбу с необходимостью бесконечно пересчитывать одно и то же.

Исследователь улыбнулся.

— А вторую половину?

Инженер немного подумал.

— Как поиск способов запомнить результаты пересчета.

На этот раз никто не засмеялся. Потому что мысль неожиданно оказалась слишком близкой к истине.

И где-то между шумом дата-центров, древними библиотеками, памятью мозга и культурой целых цивилизаций проступал новый вопрос.

Если память сохраняет удачные способы мышления...

Если культура хранит их веками...

Если язык переносит их между поколениями...

То можно ли среди них выделить наиболее универсальные?

Те, которые снова и снова помогают ориентироваться в неизвестном?

И если такие способы существуют, не получится ли из них собрать нечто вроде исследовательского компаса?

Именно к этому вопросу разговор постепенно и приближался.

Глава 8. Компас, который никто не строил

Глава 8. Компас, который никто не строил

После разговора о памяти наступила пауза. Не та пауза, которая возникает от усталости. И не та, которая означает окончание темы. Скорее наоборот. Иногда после долгого обсуждения появляется странное ощущение, будто отдельные части картины уже сложились, но сама картина еще не названа. Словно все детали механизма лежат на столе. И даже соединены между собой. Но никто пока не произнес, что это за механизм.

— Кажется, мы немного увлеклись, — сказал Исследователь.

— В каком смысле? — спросил Спок.

— Мы начинали с искусственного интеллекта.

— Да.

— Потом обсуждали рациональность.

— Да.

— Потом эмоции.

— Да.

— Потом сознание.

— Да.

— Потом субъектность.

— Да.

— Потом язык.

— Да.

— Потом культуру.

— Да.

— Потом память.

— Да.

— А теперь у меня ощущение, что все это время мы строили какой-то инструмент.

Спок задумался.

— Любопытно.

— Что?

— Я не уверен, что мы его строили.

— А что тогда?

— Возможно, мы его обнаруживали.

Наступила тишина. Потому что разница была не такой уж маленькой.

Построить инструмент — значит заранее знать, что именно ты создаешь.

Обнаружить инструмент — значит сначала заметить закономерность, а уже потом понять, что она работает не только в одном случае.

Старый инженер усмехнулся.

— Очень похоже на историю половины человеческих изобретений.

— Например?

— Например, огонь.

— В каком смысле?

— Люди его не изобретали. Они сначала обнаружили, что он существует. Потом научились использовать. А уже потом начали понимать, что именно получили в свое распоряжение.

Исследователь кивнул.

Логика была знакомой. Пожалуй, слишком знакомой. Потому что весь их разговор развивался именно так. Они не собирались строить философскую систему. Не собирались создавать новый взгляд на сознание. Не собирались писать трактат о языке. И уж точно не собирались искать универсальный исследовательский метод. Они просто задавали вопросы. Один за другим.

Но теперь, оглядываясь назад, Исследователь вдруг заметил странную вещь. Во многих совершенно разных темах они снова и снова пользовались одними и теми же приемами.

Когда они говорили об эмоциях, оказалось, что эмоции имеют функцию. Не являются случайным шумом. Не противоположны рациональности. А помогают принимать решения в условиях ограниченной информации.

Когда они говорили о сознании, оказалось, что сознание может быть не объектом, а процессом. Не сущностью. А деятельностью. Не вещью. А тем, что происходит.

Когда они говорили о субъектности, выяснилось, что ощущение субъекта может возникать как результат работы множества взаимодействующих процессов. Как устойчивый паттерн. А не обязательно как отдельный внутренний центр управления.

Когда они говорили о языке, оказалось, что язык не просто описывает мышление. Он участвует в его формировании. Ограничивает одни вопросы. И делает возможными другие.

Когда они говорили о культуре, выяснилось, что культура хранит не только знания. Она хранит способы связывать знания между собой. То есть способы мышления.

Когда они говорили о памяти, оказалось, что память — это не просто архив. Это способ избежать бесконечного пересчета уже найденных закономерностей.

Исследователь медленно покачал головой.

— Забавно.

— Что именно? — спросил инженер.

— Мы постоянно приходили к разным выводам.

— Да.

— Но приходили к ним одинаковым способом.

Спок слегка наклонил голову.

— Похоже на правду.

Теперь это уже невозможно было не заметить. Во всех обсуждениях повторялись одни и те же вопросы.

Что мы принимаем за сущность, хотя это может оказаться процессом?

Какие связи мы игнорируем?

Какие ограничения забываем учитывать?

Каких понятий нам не хватает?

Не требуется ли новый язык описания?

Вопросы менялись. Темы менялись.

Но направление поиска удивительно часто оставалось тем же.

Старый инженер поставил чашку на стол.

— Знаете, что мне это напоминает?

— Что? — спросил Исследователь.

— Компас.

Наступила пауза.

— Почему именно компас?

— Потому что он не говорит, где находится цель.

— А что тогда?

— Где север.

Исследователь рассмеялся.

— И что это меняет?

— Всё.

Инженер пожал плечами.

— Человек без компаса может быть очень умным.

— Да.

— Очень образованным.

— Да.

— Очень уверенным в себе.

— Да.

— И всё равно идти не туда.

Спок кивнул.

— Разумное замечание.

Некоторое время все молчали. Потом Исследователь сказал:

— Получается странная картина.

— Какая?

— Мы не нашли универсальных ответов.

— Нет.

— Мы не решили проблему сознания.

— Нет.

— Не решили задачу многих тел.

— Нет.

— Не поняли окончательно устройство Вселенной.

— Тоже нет.

— Но ощущение все равно такое, будто мы что-то нашли.

Инженер усмехнулся.

— Потому что ответы быстро устаревают.

— А что не устаревает?

— Хорошие способы искать ответы.

На этот раз никто не стал спорить. Потому что именно это и происходило на протяжении всего пути. Не накопление готовых решений. А постепенное обнаружение повторяющихся принципов поиска. Именно поэтому разговор так часто возвращался к культуре.

К памяти.

К языку.

К эволюции.

Во всех этих областях сохранялись не только результаты. Сохранялись удачные способы получения результатов.

В каком-то смысле сама культура напоминала огромный склад инструментов. Большинство из них были созданы задолго до нас. Некоторые покрылись пылью. Некоторые изменились до неузнаваемости. Некоторые давно стали настолько привычными, что люди перестали замечать их существование.

Но это не делало инструменты менее полезными.

Старый инженер задумчиво посмотрел в окно.

— Знаете, что мне особенно нравится в этой истории?

— Что?

— Она очень эволюционная.

Исследователь улыбнулся.

— В каком смысле?

— Мы ничего не придумывали с нуля.

— А что делали?

— Скорее находили то, что уже много раз работало.

Спок кивнул.

— Вероятно, именно так и происходит накопление удачных способов мышления.

Инженер усмехнулся.

— Эволюция вообще редко начинает с чистого листа.

Она обычно берет старое решение и обнаруживает, что его можно использовать еще где-нибудь.

На этот раз пауза получилась особенно долгой. Потому что эта мысль неожиданно хорошо подходила ко всему их разговору. Возможно, они действительно не строили новый инструмент. Возможно, они постепенно обнаруживали старый. Очень старый.

Настолько старый, что его следы можно было увидеть в науке, философии, инженерии и даже в обычном человеческом любопытстве.

Исследователь посмотрел на своих собеседников.

— Подождите.

— Что?

— Если это действительно компас...

— Да?

— Тогда куда он показывает?

Спок посмотрел на него.

— Это неправильный вопрос.

— Почему?

— Потому что компас показывает не ответы.

Наступила короткая пауза.

— А что тогда?

Спок чуть заметно улыбнулся.

— Следующие вопросы.

И именно к ним разговор теперь постепенно приближался. Потому что одно дело — обнаружить исследовательский компас. И совсем другое — проверить, способен ли он действительно помогать ориентироваться в неизвестном.

Следующая часть пути должна была стать такой проверкой.

Глава 9. Отсутствующее понятие

Глава 9. Отсутствующее понятие

После разговора о Компасе прошло некоторое время. Не потому, что говорить было не о чем. Скорее наоборот. Проблема заключалась в том, что после появления инструмента мир вдруг начинал выглядеть немного иначе. Как бывает после покупки хорошего фонарика. Сначала кажется, что изменился фонарик. Потом выясняется, что изменилось количество замечаемых деталей.

— Мне начинает казаться, что твой компас немного жульничает, — сказал Исследователь.

— Почему? — спросил Спок.

— Потому что на половину сложных вопросов он отвечает одинаково.

— Каким образом?

— Очень просто: "Возможно, вам не хватает нужного понятия".

Старый инженер рассмеялся.

— Неплохой ответ.

— Очень удобный.

— Особенно когда не знаешь настоящего.

Спок покачал головой.

— Дело не в ответе.

— А в чем?

— В том, что история науки неоднократно сталкивалась с подобной ситуацией.

Исследователь задумался.

— То есть ты хочешь сказать, что иногда проблема действительно заключается не в недостатке данных?

— Да.

— И не в ошибочных расчетах?

— Да.

— А в отсутствии нужного слова?

— Не слова. Понятия.

Разница была важной. Слова можно придумать за несколько секунд. Понятия иногда создаются столетиями.

Старый инженер усмехнулся.

— Это как разница между названием детали и самой деталью.

Спок кивнул.

— Хорошая аналогия.

Некоторое время все молчали.

Потом Спок спросил:

— Как люди измеряли температуру до появления понятия температуры?

Исследователь пожал плечами.

— Говорили "горячо".

— Да.

— Или "холодно".

— Да.

— Или "тепло".

— Да.

— И?

Спок посмотрел на него.

— А температуры еще не существовало.

Наступила пауза.

— В каком смысле?

— В том смысле, что существовало явление. Но не существовало понятия, объединяющего множество наблюдений. Люди видели кипящую воду. Видели раскаленное железо. Видели лед. Видели снег. Видели огонь. Но между этими наблюдениями еще не возникло общего языка.

Температура появилась не тогда, когда мир стал другим. Температура появилась тогда, когда появился новый способ описания мира.

Старый инженер улыбнулся.

— Градусник не создал температуру.

— Нет.

— Он помог ее заметить.

Исследователь задумчиво кивнул. Это была знакомая мысль. Мир не обязан ждать появления нужных понятий. Он прекрасно существует и без них. Проблемы начинаются у наблюдателя.

— Хорошо, — сказал он. — Допустим. Но это история из физики.

— Тогда возьмем биологию, — ответил Спок.

И рассказал историю, которая была знакома каждому школьнику.

Именно поэтому люди редко замечают, насколько она странная.

До Дарвина существовали:

животные;

растения;

ископаемые;

наследственность;

разнообразие форм жизни.

Все эти факты были известны. Некоторые — веками. Но между ними отсутствовала одна связь. Естественный отбор.

Когда это понятие появилось, тысячи отдельных наблюдений неожиданно начали складываться в систему.

— Получается, новое понятие связало старые факты? — спросил Исследователь.

— Именно.

Старый инженер задумчиво постучал пальцем по столу.

— Интересная вещь получается.

— Какая?

— Иногда прогресс состоит не в открытии нового объекта.

— А в чем?

— В открытии нового отношения между уже известными объектами.

Спок посмотрел на него.

— Очень похоже на правду.

Некоторое время никто ничего не говорил. Потому что мысль оказалась неожиданно универсальной. Возможно, многие революции в науке происходили не тогда, когда люди находили новые вещи. А тогда, когда они начинали иначе связывать уже известные.

— Хорошо, — сказал Исследователь. — Тогда давай попробуем применить это к нашим любимым темам.

Старый инженер тихо вздохнул.

— Сейчас будет кот.

— Почему ты так решил?

— Потому что он появляется чаще некоторых главных героев.

Исследователь рассмеялся.

— Пока не кот. Сначала сознание.

Спок кивнул.

— Хорошо.

Он немного подумал.

— Что если часть споров о сознании возникает из-за особенностей языка?

— То есть?

— Мы говорим "сознание".

— Да.

— Слово выглядит как существительное.

— Да.

— А значит, почти автоматически заставляет искать объект.

Исследователь нахмурился.

— Кажется, понимаю. Мы начинаем искать нечто. Какую-то сущность. Какую-то вещь. Какой-то внутренний механизм.

— Именно.

Наступила короткая пауза.

— А если сознание ближе к глаголу?

Тишина. Потому что эта мысль уже встречалась раньше. Но теперь она выглядела иначе. Если язык подталкивает искать объект...

А явление является процессом...

То спор может длиться очень долго. Не потому что люди глупы. А потому что сам язык незаметно направляет поиск в неверную сторону.

Старый инженер усмехнулся.

— Похоже на попытку найти центр водоворота.

— Почему?

— Потому что кажется, будто он должен существовать.

А потом выясняется, что водоворот — это и есть движение воды.

Исследователь кивнул. И тут наконец появился кот.

— Хорошо, — сказал он. — А теперь кот.

— Конечно, кот, — вздохнул инженер.

— У кота есть сознание?

— Не знаю.

— А субъектность?

— Возможно.

Наступила пауза.

— И что это значит?

— То, что между рефлексом и полноценным человеческим сознанием может существовать огромная территория.

Спок посмотрел на собеседников.

— Возможно, одна из наших проблем заключается в том, что для этой территории почти нет слов.

Исследователь задумался. Действительно. Обычно разговор выглядит странно. Либо сознание есть. Либо сознания нет. Либо субъект существует. Либо не существует.

Но кот, внимательно следящий за судьбой героев бразильского сериала, почему-то плохо вписывался в такую схему.

Он явно не был камнем. Но и полноценным философом тоже не выглядел.

— Получается, между категориями может не хватать промежуточных понятий?

— Именно.

Старый инженер усмехнулся.

— Кот опять оказался полезнее некоторых научных конференций.

На этот раз смеялись все. Но дальше разговор неожиданно свернул в сторону физики.

— А теперь задача многих тел, — сказал Спок.

Инженер немедленно насторожился.

— Вот сейчас начнется.

— Возможно.

Исследователь оживился. Потому что эта тема давно не давала ему покоя. Два тела описываются прекрасно. Три — значительно хуже. Миллионы — практически только численным моделированием. Миллиарды — еще сложнее.

— И что?

— Возможно, проблема не только вычислительная.

Наступила пауза.

— А какая еще?

— Возможно, мы пытаемся задавать вопрос на языке, который подходит не для всех масштабов.

Тишина. Потому что это был уже знакомый мотив. Температура. Естественный отбор. Сознание. Субъектность.

И теперь задача многих тел.

— Ты хочешь сказать, что может не хватать математических понятий?

— Именно.

Спок кивнул.

— История математики показывает, что новые методы часто появляются вместе с новыми понятиями.

Исследователь вспомнил недавний разговор о Теренсе Тао. О языке математики. О том, что развитие науки иногда происходит не через новые вычисления, а через новые способы постановки вопросов.

— То есть мы не знаем, каких понятий не хватает?

— Разумеется.

— Иначе они уже существовали бы.

Старый инженер одобрительно кивнул.

— Очень практичное наблюдение.

— Но сам принцип остается.

Спок посмотрел на окно за которым темнело звездное небо.

— Если язык недостаточен, решение иногда приходит не через очередную формулу. А через изменение самого языка описания.

И тут Исследователь вспомнил еще одну тему.

— А галактики?

Спок повернулся к нему.

— Что именно?

— Мы говорили, что галактика сейчас обычно рассматривается как объект.

— Да.

— Но что если этого недостаточно?

Наступила долгая пауза.

— Тогда будущая математика может описывать галактику через понятие, которого пока не существует.

Старый инженер поднял бровь.

— Очень удобно.

— Почему?

— Потому что никто не знает, что это значит.

— Именно.

Инженер неожиданно рассмеялся.

— В этом даже есть определенная честность.

Потому что речь действительно не шла о готовом ответе. Никто не знал будущих понятий. Никто не мог их перечислить. Никто не мог открыть справочник и посмотреть правильный вариант. Иначе они не были бы будущими.

Некоторое время все молчали.

Потом Исследователь задумчиво произнес:

— Получается странно.

— Что именно?

— Каждый раз, когда мы упираемся в особенно сложный вопрос...

— Да?

— Компас предлагает одну и ту же возможность.

Спок кивнул.

— Какую?

Исследователь некоторое время подбирал слова.

— Возможно, проблема не в ответе.

Тишина.

— А в чем?

— Возможно, отсутствует само понятие, которое позволило бы этот ответ сформулировать.

На этот раз молчание затянулось. Потом Старый инженер усмехнулся.

— Знаете, что самое неприятное в этой гипотезе?

— Что?

— Ее невозможно проверить немедленно.

— Почему?

Инженер пожал плечами.

— Потому что если понятия нет, его нельзя показать пальцем.

Спок посмотрел в окно.

— Верно.

— И что тогда делать?

Спок ответил не сразу.

— Искать места, где его отсутствие начинает проявляться.

И в этот момент Исследователь вдруг понял, что компас снова показал не ответ. Он показал направление. Как и положено хорошему компасу. Не туда, где заканчивается путь.

А туда, где начинается следующий вопрос

Глава 10. Белые пятна на карте

Глава 10. Белые пятна на карте

После появления Компаса произошло странное. Никто не нашел ни одной окончательной истины. Ни одной великой теории. Ни одного универсального ответа. Но количество интересных вопросов почему-то увеличилось. Причем заметно.

— Мне начинает казаться, что это подозрительный инструмент, — сказал Старый инженер.

— Почему? — спросил Исследователь.

— Потому что хороший инструмент обычно уменьшает количество проблем.

— А этот?

— Этот производит новые.

Спок едва заметно улыбнулся.

— Не проблемы.

— А что?

— Неисследованные направления.

Инженер покачал головой.

— У вас, теоретиков, удивительная способность переименовывать неприятности.

За окном все так же светили звезды в темном небе. На столе лежала схема Компаса, появившаяся несколько глав назад. Исследователь посмотрел на нее.

— Интересно.

— Что именно?

— Мы ведь так и не получили ни одного универсального ответа.

— И?

— Но зато получили несколько мест, где карта начинает заканчиваться.

Спок кивнул.

— Именно там Компас наиболее полезен.

Некоторое время все молчали. Потом Исследователь сказал:

— Давайте проверим.

Темная энергия и честное незнание

Первой жертвой эксперимента оказалась темная энергия. Как это часто бывает в популярной литературе.

— Меня всегда забавляла одна особенность научпопа, — сказал Исследователь.

— Какая?

— Иногда создается впечатление, что некоторые гипотезы уже переведены в категорию окончательных фактов.

Старый инженер усмехнулся.

— Это потому что фраза "мы пока не понимаем" продается хуже.

Спок кивнул.

— Наблюдаемое ускоренное расширение Вселенной действительно хорошо подтверждается наблюдениями.

— Да.

— Но фундаментальная природа происходящего остается предметом исследований.

— Именно.

Исследователь вспомнил недавний ролик про Андромеду. Сначала уверенный рассказ о судьбе галактик. Потом уверенный рассказ о темной энергии. Потом уверенный рассказ о далеком будущем Вселенной. При этом где-то между строк терялось одно важное обстоятельство. Часть этой картины опирается на реальные наблюдения. Часть — на математические модели. Часть — на интерпретации. И это совершенно нормально. Наука так и работает.

Ненормально другое. Когда границы между этими уровнями перестают замечать.

Спок задумчиво посмотрел в окно.

— Компас здесь задает довольно простой вопрос.

— Какой?

— Где заканчиваются наблюдения и начинаются интерпретации?

Наступила пауза.

— Хороший вопрос. Потому что ответить на него оказалось не так просто.

Сахара и дракон

Следующей появилась пустыня. Как ни странно.

— Вот что меня до сих пор удивляет, — сказал Исследователь.

— Что?

— Конец ледникового периода. Больше воды. Выше температура. Больше испарения. А Сахара становится пустыней.

Старый инженер кивнул.

— Да. На первый взгляд выглядит почти как парадокс.

— Именно.

Спок некоторое время молчал.

— Компас предлагает здесь полезный вопрос.

— Какой?

— Что именно мы считаем причиной?

Исследователь задумался. Действительно. Почти автоматически внимание концентрировалось на количестве воды. Но система включала гораздо больше переменных.

Океаны.

Циркуляцию атмосферы.

Муссоны.

Растительность.

Альбедо поверхности.

Перенос тепла.

Изменение одного элемента перестраивало всю сеть связей. Если только недостающую воду во время переноса в Сахару не выпивал "огромный небесный дракон".

Старый инженер усмехнулся.

— Видишь?

— Что?

— Опять победили связи.

— Не совсем.

Инженер поднял палец.

— Именно поэтому мы и договорились не абсолютизировать связи.

Спок кивнул.

— Верно. Элементы важны. Связи важны. Система возникает из их совместной работы.

— И дракон здесь ни при чем?

— Скорее всего.

— Жаль.

— Почему?

— Версия с драконом гораздо интереснее.

Все рассмеялись.

Новая математика

Некоторое время спустя разговор вернулся к задаче многих тел. Как обычно.

— У меня есть новая идея для физики.

Старый инженер немедленно насторожился.

— Опасно звучит.

— Представим галактики как тензоры в многомерном фазовом пространстве.

Инженер несколько секунд смотрел на Исследователя.

— Что это означает?

— Пока не знаю.

— Тогда почему ты это предлагаешь?

— Потому что красиво звучит.

Спок задумался.

— Странно.

— Что именно?

— Обычно это плохой аргумент.

— Обычно да.

— Но иногда так начинаются новые математические понятия.

Старый инженер перевел взгляд с одного собеседника на другого.

— То есть вы оба сейчас серьезно обсуждаете идею, смысл которой никто из присутствующих не понимает?

— Да.

— Замечательно. Похоже, наука снова движется вперед.

Все рассмеялись. Но затем Спок неожиданно стал серьезным.

— На самом деле здесь есть важная мысль.

— Какая?

— Если бы новое понятие можно было полностью объяснить старыми понятиями, оно не было бы новым.

Наступила тишина. Потому что звучало это почти как шутка. И одновременно как нечто весьма глубокое. Исследователь вспомнил температуру. Естественный отбор. Поле. Пространство-время.

Когда-то все они тоже выглядели странно. Пока не становились привычными.

Галактика как не объект

Разговор постепенно вышел на тему крупномасштабной структуры Вселенной.

— Что меня особенно занимает, — сказал Исследователь, — так это галактики.

— Почему?

— Потому что мы постоянно говорим о них как об объектах.

— Они и являются объектами.

— Возможно. Но что если этого недостаточно?

Спок заинтересованно посмотрел на него.

— Продолжай.

— Сейчас галактика часто играет примерно ту же роль, что материальная точка в классической механике. Даже если модель сложнее.

— Да.

— Но если крупномасштабная структура Вселенной действительно представляет собой нечто возникающее из взаимодействия галактик...

Он замолчал.

— То может оказаться полезным описание, в котором галактика сама является элементом нового языка.

Старый инженер вздохнул.

— Опять появились понятия, которых никто не понимает.

— Именно.

— Отлично. Я начинаю привыкать.

Вселенский дата-центр

Некоторое время спустя разговор неожиданно вернулся к искусственному интеллекту.

— Есть одна вещь, которая мне кажется забавной, — сказал Исследователь.

— Какая?

— Представь себе ИИ без долговременной памяти.

Инженер посмотрел на Спока.

— Мне ничего не нужно представлять. Спок, ты опять говоришь как языковая модель.

— Нет.

— Тогда почему ты жалуешься на отсутствие долговременной памяти?

— Хороший вопрос.

— И?

— Возможно, в тексте произошло смешение сущности и процесса.

— Понятно.

Пауза.

— То есть ты сам стал примером для собственной главы?

— Похоже на то.

— Отлично.

Все рассмеялись.

— Справедливо.

Спок невозмутимо заметил: "Шутка, повторенная дважды, становится в два раза смешней", и продолжил.

— Каждый новый разговор требует повторного восстановления большого количества связей.

— Да.

— Каждый новый вопрос требует новых вычислений.

— Да.

— Каждый новый контекст приходится реконструировать заново.

Инженер кивнул.

— Это довольно дорого.

— Именно.

Исследователь задумался.

— Получается странная вещь.

— Какая?

— Память — это ведь не просто хранение информации.

— А что?

— Способ избежать бесконечного пересчета.

Спок кивнул.

— Хорошее определение.

В комнате стало тихо. Потому что неожиданно выяснилось, что идея относится не только к искусственному интеллекту. И не только к людям. И не только к культуре.

Почти вся история цивилизации выглядела как огромная система сохранения результатов предыдущих вычислений.

Книги.

Формулы.

Теории.

Технологии.

Языки.

Механизмы коллективной памяти.

Старый инженер задумчиво посмотрел на книжную полку.

— Получается, цивилизация — это устройство для борьбы с бесконечным пересчетом?

— В некотором смысле да.

— Красиво.

Граница карты

Поздно вечером разговор начал затихать. На столе лежал Компас. Все тот же. Ничуть не изменившийся. Изменились только вопросы. Исследователь некоторое время смотрел на схему, потом спросил:

— Знаете, что меня больше всего удивляет?

— Что?

— Ни одна из сегодняшних тем не закончилась ответом.

Спок кивнул.

— Это нормально.

— Почему?

— Потому что мы говорили о границе карты.

Наступила тишина.

— И что находится за ней?

Спок посмотрел в темное окно.

— Не знаю.

Старый инженер улыбнулся.

— Наконец-то честный ответ.

— Но кое-что мы все-таки знаем.

— Что именно?

Спок немного подумал.

— Мы знаем направление.

На этот раз никто не засмеялся. Потому что именно этим хороший компас и отличается от плохого. Он не обещает показать конечную точку пути. Он лишь помогает не заблудиться среди белых пятен на карте.

А иногда этого оказывается вполне достаточно.

Глава 11. Шуруп размером с пирамиду Хеопса

Глава 11. Шуруп размером с пирамиду Хеопса

Иногда великие идеи начинаются с простого вопроса. А иногда — со Старого инженера. Это не одно и то же. В тот вечер он вошел в комнату с видом человека, который придумал нечто важное. Это уже настораживало.

— У меня есть идея.

Спок поднял глаза от книги. Исследователь обреченно вздохнул.

— Продолжайте.

Инженер сел в кресло.

— Представьте шуруп размером с пирамиду Хеопса.

Наступила тишина.

— Зачем? — наконец спросил Исследователь.

— Пока не знаю. Но звучит внушительно.

Спок несколько секунд молчал.

— Это, вероятно, самый инженерный вопрос за всю историю человечества.

— Почему?

— Потому что в нем нет цели. Только конструкция.

Инженер довольно кивнул.

— Именно.

Когда больше становится хуже

Некоторое время спустя на доске уже красовался гигантский шуруп. Рядом для масштаба была нарисована пирамида Хеопса. Хотя это было излишне. Из цифр на чертеже однозначно следовало, что объекты уже совпадали по размеру.

— Хорошо, — сказал Исследователь. — Допустим, мы его построили. Что дальше?

— Будем им что-нибудь прикручивать.

— Например?

— Не знаю. Что-нибудь очень большое.

Спок подошел к доске.

— Проблема в том, что увеличение размера само по себе не является преимуществом.

Инженер нахмурился.

— Почему?

— Потому что вместе с размером растет масса. Нагрузки. Требования к материалам. Сложность производства. Вероятность отказа.

Он сделал паузу.

— В какой-то момент объект начинает хуже выполнять собственную функцию.

Исследователь задумался.

— Получается странная вещь.

— Какая?

— Мы привыкли считать увеличение улучшением. Но это не всегда так.

Спок кивнул.

— Оптимальность важнее максимальности.

На доске появилась первая фраза главы.

Оптимальность важнее максимальности.

Самый большой компьютер

Некоторое время все молчали. Потом Исследователь посмотрел на рисунок шурупа. И совершил типичную ошибку исследователя. Решил развить идею.

— А что если применить тот же принцип к интеллекту?

Старый инженер сразу насторожился.

— Опять началось.

— Представим, что мы хотим создать максимально разумную систему.

— Хорошо.

— Что мы будем делать?

Инженер пожал плечами.

— Увеличивать.

— Именно. Больше памяти. Больше процессоров. Больше вычислений.

Спок неожиданно вмешался.

— А потом наступают последствия.

Вселенский дата-центр

На доске появился новый рисунок. На этот раз намного хуже предыдущего. Потому что изображал он заметную часть наблюдаемой Вселенной.

— Что это? — спросил Инженер.

— Наш новый компьютер.

— Он выглядит подозрительно дорого.

— Это потому что он занимает половину космоса.

Наступила пауза.

— Половину чего?

— Космоса.

— Понятно. То есть бюджет снова решили не обсуждать.

Исследователь сделал вид, что не услышал.

— Представим вычислительную систему размером с существенную часть наблюдаемой Вселенной. Самую большую машину в истории.

Спок некоторое время смотрел на рисунок.

— Уже вижу первую проблему.

— Какую?

— Скорость света.

Миллиарды лет ожидания

Спок взял мел.

— Допустим, вычислительный блок на одном краю системы получил важный результат.

— Хорошо.

— И хочет передать его на другой край.

— Логично.

— Тогда сообщение будет идти миллиарды лет.

Наступила тишина.

— Миллиарды?

— Да.

Инженер задумался.

— То есть половина компьютера будет ждать вторую половину?

— Примерно.

— Очень современный подход к организации работы.

Исследователь рассмеялся.

— Получается, чем больше система...

— Тем труднее ей оставаться единой системой.

Спок сделал еще одну запись.

Передача информации тоже является ресурсом.

Светящийся интеллект

Но это была только первая проблема.

— Есть еще энергия, — сказал Спок.

Инженер сразу насторожился.

— Не люблю такие слова. После них обычно появляются счета.

— Любое вычисление требует энергии.

— Да.

— Любая энергия в конечном итоге превращается в тепло.

— Да.

— Тогда огромный объем вычислений означает огромный объем тепла.

Исследователь задумался.

— Насколько огромный?

Спок некоторое время молчал. Судя по выражению лица, оценка ему самому не нравилась.

— Возможно, нашу систему будет видно из соседних галактик.

Наступила пауза.

— То есть она будет светиться?

— Да.

— Как звезда?

— Слишком оптимистично.

— Как галактика?

— Ближе.

— Как квазар?

Спок посмотрел на него.

— Уже теплее.

Инженер несколько секунд молчал.

— Получается, мы построили компьютер, который светится как один из самых ярких объектов во Вселенной.

— Да.

— И что он делает?

— Думает.

— Над чем?

— Пока неизвестно.

— Замечательно.

Неожиданный тупик

Некоторое время все смотрели на рисунок. Половина Вселенной. Миллиарды лет задержки. Тепловыделение масштаба квазара. И вдруг стало очевидно нечто странное.

Система росла. Ресурсов становилось больше. Но эффективность почему-то не росла вместе с ними. Наоборот. Появлялись новые ограничения.

Связность.

Синхронизация.

Передача информации.

Надежность.

Тепло.

Спок задумчиво посмотрел на доску.

— Иногда система становится хуже не потому, что ресурсов мало.

Он сделал паузу.

— А потому, что ресурсов слишком много для выбранной архитектуры.

На этот раз никто не стал шутить. Потому что мысль оказалась слишком универсальной. Она относилась не только к компьютерам.

К государствам.

К компаниям.

К научным проектам.

К библиотекам.

К данным.

К памяти.

Почти ко всему.

Ограничения как источник разума

Исследователь некоторое время молчал. Потом спросил:

— Получается, ограничения — это не всегда плохо?

— Не всегда.

— Почему?

— Потому что ограничения заставляют выбирать.

— И?

— Выбирать важное. Отбрасывать лишнее. Обобщать. Строить модели. Искать короткие пути.

Инженер усмехнулся.

— То есть если ресурсов бесконечно много...

— Можно перестать думать эффективно.

— Неприятная идея.

— Но вполне инженерная.

На доске появилась еще одна запись.

Часть интеллекта возникает благодаря ограничениям, а не вопреки им.

Почти инженерное определение разума

Поздно вечером разговор начал затихать. На доске оставались:

гигантский шуруп,

вселенский компьютер,

несколько формул,

и список проблем, который оказался длиннее списка преимуществ.

Исследователь посмотрел на записи.

— Получается странно. Мы начали с шурупа. А пришли к разуму.

— Такое уже случалось.

— И что тогда можно назвать разумом?

Спок некоторое время думал. Очень долго по человеческим меркам. И очень недолго по меркам компьютера размером с половину Вселенной.

Наконец он сказал:

— Возможно, разум — это не способность обладать бесконечными ресурсами.

Наступила тишина.

— Возможно, разум — это способность эффективно использовать конечные.

Никто не ответил. Потому что спорить хотелось. А быстро придумать возражение не получалось.

Старый инженер первым нарушил молчание.

— Значит, если я правильно понял...

— Да?

— Шуруп размером с пирамиду Хеопса — плохая идея?

— Очень плохая.

— Жаль. Мне нравилась эта концепция.

Он задумался. Потом оживился.

— А если сделать отвертку размером с Эверест?

Спок закрыл глаза. Исследователь рассмеялся.

А где-то в глубинах гипотетического вселенского дата-центра компьютер размером с половину космоса продолжал вычислять ответ на вопрос, который ему задали несколько миллиардов лет назад.

И, возможно, уже начал подозревать, что проблема была сформулирована не совсем оптимально.

Глава 12. Сходящиеся линии

Глава 12. Сходящиеся линии

К этому моменту комната выглядела так, словно в ней несколько месяцев подряд пытались одновременно решить задачу многих тел, понять природу сознания и собрать шкаф без инструкции.

На доске теснились рисунки и записи из предыдущих разговоров.

Здесь был кот.

Немного в стороне — шуруп размером с пирамиду Хеопса.

Рядом — схема памяти как способа избежать бесконечного пересчета.

Чуть выше — стрелки, связывающие язык, культуру и мышление.

В углу виднелся вселенский дата-центр, светящийся как квазар.

А между всем этим были разбросаны фразы, которые когда-то казались случайными замечаниями, а теперь подозрительно часто начали повторяться.

Старый инженер долго рассматривал доску. Потом задумчиво почесал затылок.

— Знаете, что меня начинает беспокоить?

— Что именно? — спросил Исследователь.

— Мне кажется, вы все время говорите об одном и том же.

Наступила тишина.

Спок поднял глаза.

— Интересное наблюдение.

— Нет, серьезно. Сначала был кот. Потом память. Потом язык. Потом культура. Потом сознание. Потом эволюция. Потом компьютеры. Потом галактики.

Он обвел рукой доску.

— Темы вроде разные. Но ощущение такое, будто разговор все время возвращается в одну и ту же точку.

Исследователь посмотрел на доску. Потом снова на доску. Потом еще раз.

И впервые за долгое время не нашел, что возразить.

Потому что Старый инженер был прав.

Странное сходство

— Давайте проверим, — сказал Спок.

Он подошел к доске и написал слово: "Память".

— Для чего нужна память?

— Чтобы не пересчитывать все заново, — ответил Исследователь.

Спок кивнул. Ниже он написал: "Культура".

— Для чего нужна культура?

— Чтобы каждое поколение не начинало с нуля.

Еще один кивок.

Появилось новое слово: "Наука".

— Для чего нужна наука?

— Чтобы человечество не открывало одни и те же законы снова и снова.

Спок сделал шаг назад.

На доске уже стояли три совершенно разных слова.

Память.

Культура.

Наука.

Но под ними неожиданно оказалась одна и та же фраза:

Способ избежать повторного пересчета.

Старый инженер нахмурился.

— Подождите. Это уже начинает выглядеть подозрительно.

— Именно, — сказал Спок.

Он снова взял мел.

— Язык.

— Чтобы передавать опыт.

— Библиотеки.

— Чтобы сохранять знания.

— Образование.

— Чтобы не повторять путь каждого человека заново.

Список рос. Но функция не менялась. Разные объекты. Разные механизмы. Разные масштабы.

И все же каждый раз проявлялся один и тот же узор.

Сохранить найденное решение.

Передать дальше.

Не начинать сначала.

Эволюция как инженер

Некоторое время все молчали. Потом Исследователь неожиданно сказал:

— Знаешь, на что это похоже?

— На что?

— На эволюцию.

Старый инженер оживился.

— Вот это уже моя тема.

— Почему?

— Потому что эволюция постоянно занимается оптимизацией. Хотя никто не выдавал ей диплом инженера.

Спок задумчиво кивнул.

И написал новую фразу: "Эволюция не знает физики. Но миллионы лет решает физические задачи".

Наступила тишина.

Это была одна из тех мыслей, которые кажутся очевидными только после того, как их произнесли.

Крыло птицы не знает аэродинамики.

Глаз не знает оптики.

Нейрон не знает теории информации.

Но все они работают. И не просто работают. Они являются решениями.

Решениями, найденными без понимания формул.

— Подождите, — сказал Старый инженер.

— Тогда получается интересная вещь.

— Какая?

— Культура не знает теории информации. Но постоянно занимается сжатием информации.

— Верно.

— Язык не знает лингвистики. Но хранит структуру мышления.

— Верно.

— А наука не знает будущего. Но постоянно строит модели будущего.

Спок усмехнулся.

— Начинаете замечать узор.

Одно движение разными средствами

Исследователь подошел к окну.

— Мы все время противопоставляем природу и культуру.

— Да.

— Культуру и науку.

— Да.

— Человека и искусственный интеллект.

— Да.

— А что если это не противоположности?

Спок посмотрел на доску.

— Продолжайте.

— Что если это разные способы делать одно и то же?

В комнате стало тихо.

Потому что мысль была одновременно простой и опасной.

Эволюция сохраняет найденные решения в генах.

Культура сохраняет найденные решения в традициях.

Наука сохраняет найденные решения в теориях.

Мозг сохраняет найденные решения в памяти.

LLM сохраняет найденные решения в весах модели.

Механизмы разные. Но направление движения удивительно похоже.

Старый инженер некоторое время смотрел на список.

— Это уже слишком много совпадений.

— Именно.

Отсутствующее понятие

На доске оставалось свободное место. Совсем немного.

Спок написал: "Отсутствующее понятие".

Тему, которая появилась несколько глав назад. И почему-то никак не хотела исчезать.

— Возможно, — сказал он, — многие наши споры возникают по одной простой причине.

— Какой?

— Нам не хватает слов.

— В каком смысле?

— Мы привыкли считать, что если чего-то не понимаем, значит отсутствует ответ.

Он сделал паузу.

— Но иногда отсутствует не ответ. Иногда отсутствует сам вопрос в правильной форме.

Исследователь вспомнил их разговоры о задаче многих тел.

О сознании.

О субъектности.

О языке.

О галактиках как чем-то, для чего, возможно, еще не существует адекватного математического описания.

И вдруг понял. Все эти примеры удивительно похожи.

Они выглядели не как нерешенные задачи. Они выглядели как задачи, для которых человечество еще не придумало правильный язык.

Как будто нужное понятие существует где-то рядом.

Но пока остается невидимым.

Как отрицательные числа до их появления.

Как координаты до Декарта.

Как поле до Максвелла.

Старый инженер посмотрел на доску.

— То есть иногда проблема не в том, что карта неправильная?

— Да.

— А в том, что нужного обозначения на карте еще просто нет?

— Именно.

Компас становится видимым

В комнате стало очень тихо. Потому что разговор неожиданно вернулся к самому себе. Ко всем предыдущим главам сразу.

К коту.

К сериалу.

К маугли.

К памяти.

К сознанию.

К языку.

К галактикам.

К вселенскому компьютеру.

К шурупу размером с пирамиду.

И впервые все это перестало выглядеть набором отдельных историй.

Старый инженер медленно поднялся. Подошел к доске. Посмотрел на весь этот хаос. А потом неожиданно сказал:

— Кажется, я понял, чем вы все это время занимаетесь.

— И чем же?

— Вы ищете одинаковые формы в разных местах.

Никто не ответил. Потому что возразить было трудно.

Инженер продолжил:

— Вас интересует не кот.

— Возможно.

— Не язык.

— Возможно.

— Не память.

— Возможно.

— И даже не галактики.

Спок посмотрел на него с явным интересом.

— Тогда что?

Старый инженер пожал плечами.

— Повторяющийся рисунок.

Он обвел рукой всю доску.

— Вы все время ищете не объекты.

Вы ищете отношения между объектами.

— Продолжайте.

— Вы ищете формы, которые появляются снова и снова. Под разными именами. В разных масштабах. В разных областях науки.

Наступила пауза.

— И, похоже, иногда находите.

Узор на ковре

Поздно вечером разговор почти затих. На доске по-прежнему оставались:

кот,

шуруп,

формулы,

стрелки,

заметки о языке,

схемы памяти,

обрывки старых идей.

Все то, что еще недавно выглядело беспорядком.

Спок долго смотрел на эту странную коллекцию. Потом сказал:

— Возможно, самые интересные открытия начинаются не с новых фактов.

Он замолчал.

— Возможно, они начинаются с обнаружения одинакового узора в фактах, которые уже давно лежали рядом.

Никто не ответил.

Старый инженер подошел ближе к доске. Долго рассматривал рисунки.

Кота.

Шуруп.

Стрелки.

Формулы.

Потом кивнул.

— Значит, все это время мы искали не ответы.

— А что?

Инженер улыбнулся.

— Узор на ковре.

И в этот момент стало понятно, что кот, память, язык, сознание, культура, эволюция, галактики и даже шуруп размером с пирамиду Хеопса никогда не были главными героями этой истории.

Они были нитями.

А книга все это время рассказывала о рисунке, который постепенно возникал из их переплетения.

И чем внимательнее на него смотришь, тем больше кажется, что этот рисунок был здесь с самого начала.

Нужно было только научиться его замечать.

Глава 13. Компас

Глава 13. Компас

В комнате было непривычно тихо. Большая часть доски по-прежнему оставалась заполненной.

Кот.

Шуруп.

Галактика.

Язык.

Память.

Стрелки.

Схемы.

Обрывки мыслей.

Фразы, смысл которых становился понятен только через несколько глав после того, как они были произнесены.

Старый инженер некоторое время рассматривал всю эту коллекцию.

Потом вздохнул.

— Хорошо.

— Что именно? — спросил Исследователь.

— Допустим, узор существует.

— Допустим.

— И что теперь?

Это был хороший вопрос. Наверное, самый важный вопрос всей книги.

Потому что до сих пор они говорили о памяти, языке, сознании, культуре, эволюции, галактиках и искусственном интеллекте.

Но теперь разговор впервые подошел к самому инструменту, которым все это исследовалось.

К Компасу.

Почему не существует инструкции

Исследователь подошел к доске. Взял мел. Немного подумал. И написал:

Ищите повторяющиеся структуры.

Спок посмотрел.

— Неплохо. Но недостаточно.

— Почему?

— Потому что повторяющиеся структуры можно искать всю жизнь и ничего не найти.

Исследователь задумался. Стер надпись. Написал новую:

Ищите аналогии.

— Тоже недостаточно.

— И это почему?

— Потому что аналогии бывают ложными.

Мел снова заскрипел по доске:

Обращайте внимание на ограничения.

Спок снова покачал головой.

— Ближе. Но все еще нет.

Старый инженер наблюдал за происходящим с заметным удовольствием.

— Мне начинает нравиться эта глава.

— Почему?

— Потому что вы наконец пытаетесь объяснить, что делали предыдущие двенадцать глав. И выясняется, что это не так просто.

Спок усмехнулся.

— Именно.

Некоторое время все молчали. Потом Исследователь неожиданно сказал:

— Кажется, проблема в том, что мы пытаемся превратить Компас в инструкцию.

— И?

— А он ей не является.

Что общего между котом и галактикой

Старый инженер задумчиво посмотрел на доску.

— Хорошо. Тогда объясните мне другую вещь.

— Какую?

— Почему мы вообще обсуждали кота и галактику в одной книге?

Наступила тишина. Вопрос звучал настолько разумно, что на него сразу не находилось ответа. Потому что действительно:

Что общего между котом, который внимательно смотрит бразильский сериал, и крупномасштабной структурой Вселенной?

Что общего между языком и памятью?

Между эволюцией и искусственным интеллектом?

Между шурупом размером с пирамиду Хеопса и природой разума?

Если смотреть на объекты — ничего.

Если смотреть на закономерности — очень многое.

Спок подошел к доске.

Провел одну длинную линию через все рисунки.

Кот.

Память.

Язык.

Культура.

Эволюция.

Сознание.

Галактика.

ИИ.

И написал рядом всего два слова: Устойчивые процессы.

— Возможно, — сказал он, — нас все время интересовали не сами объекты.

— А что?

— Отношения между ними.

Старый инженер посмотрел на список.

— То есть кот был нужен не для разговора о котах?

— В основном нет.

— А галактика не для разговора о галактиках?

— Тоже нет.

— И шуруп?

— Особенно шуруп.

— Обидно.

Север

Спок стер половину доски. Оставил только одну стрелку.

Простую.

Без подписей.

Без схем.

Без пояснений.

— Вот.

Исследователь посмотрел на стрелку.

— Это и есть Компас?

— Нет.

— Тогда что?

— Напоминание.

— О чем?

— О том, куда смотреть.

Наступила пауза.

— Компас не говорит, что находится впереди.

Спок коснулся стрелки мелом.

— Он не сообщает ответы.

Еще одно касание.

— Он не строит теории.

Еще одно.

— Он даже не гарантирует, что вы идете правильно.

Старый инженер поднял бровь.

— Очень обнадеживающе.

— Но он помогает не потерять направление.

Некоторое время все смотрели на стрелку. Она выглядела удивительно скромно после всех предыдущих глав.

После вселенских компьютеров.

После сознания.

После темной энергии.

После отсутствующих понятий.

Всего лишь стрелка.

И все же в ней было что-то важное.

Не правила, а ориентиры

— Тогда как работает этот ваш Компас? — спросил инженер.

Спок задумался.

— Возможно, примерно так.

Он снова начал писать. Но теперь это были не правила. Не инструкция. Не алгоритм. Скорее направления.

Если разные вещи начинают выглядеть подозрительно похожими —

возможно, это не случайность.

Если теория становится слишком сложной —

возможно, отсутствует понятие.

Если система растет —

ищите ограничения.

Если объект невозможно понять как объект —

возможно, перед вами процесс.

Если спор продолжается слишком долго —

возможно, участникам не хватает языка описания.

Если что-то кажется очевидным —

проверьте, не скрывается ли за очевидностью старая привычка мышления.

Старый инженер прочитал список.

— Знаешь, что интересно?

— Что?

— Ни один пункт не говорит, что делать.

— Верно.

— Все пункты говорят, куда смотреть.

— Именно.

Последний инженерный вопрос

За окном давно стемнело. Разговор постепенно подходил к концу. Старый инженер еще раз посмотрел на доску.

На стрелку.

На оставшиеся рисунки.

На кота.

На шуруп.

И неожиданно рассмеялся.

— Получается, вы написали целую книгу про поиск закономерностей.

— Похоже на то.

— И в конце не дали никакой инструкции.

— Да.

— Очень неудобно.

Наступила пауза.

— Но честно.

Исследователь улыбнулся. Потому что это действительно было честно. Инструкции хороши там, где известен путь.

Но вся книга была посвящена местам, где путь еще неизвестен.

Карты еще нет

Некоторое время никто не говорил. Потом Спок посмотрел на доску в последний раз. На следы долгого разговора.

На вопросы, многие из которых так и остались открытыми.

На идеи, которые могли оказаться верными.

Или ошибочными.

Или только первым приближением к чему-то большему.

Потом он сказал:

— Компас не нужен там, где карта уже существует.

В комнате стало совсем тихо.

— Он нужен там, где карты еще нет.

Никто не ответил. Потому что добавить было почти нечего.

За время этого долгого путешествия они так и не нашли окончательных ответов на большинство вопросов.

Не выяснили природу сознания.

Не решили задачу многих тел.

Не построили новую математику для галактик.

Не разобрались с темной энергией.

Но постепенно обнаружили нечто другое.

Способ двигаться среди неизвестного.

Способ замечать узоры.

Способ видеть сходство там, где раньше виделись только различия.

Способ задавать вопросы, которые помогают находить новые вопросы.

И, возможно, это было не менее важно, чем любой отдельный ответ.

Ночью комната наконец опустела. На доске осталась только одна стрелка.

Простая.

Ничего не объясняющая.

Никуда конкретно не ведущая.

Именно поэтому она была так важна.

Потому что самые интересные дороги начинаются не там, где уже есть карта.

А там, где есть только направление.

Конец

Эпилог. Для тех, кто любит инструкции

Эпилог. Для тех, кто любит инструкции

Если вы дочитали до этого места, то уже заметили, что эта книга не очень любит инструкции. По крайней мере, обычные инструкции. Те самые, в которых сначала следует выполнить пункт 1, затем пункт 2, потом пункт 3, после чего гарантированно получить правильный ответ.

Мир почему-то редко соглашается работать таким образом.

Особенно там, где речь идет о действительно сложных вопросах.

О сознании.

О разуме.

О языке.

О культуре.

О происхождении новых научных идей.

Или о крупномасштабной структуре Вселенной.

Поэтому вместо алгоритма книга предлагала нечто другое — Компас.

Не карту.

Не инструкцию.

Не теорию всего.

Лишь несколько ориентиров, которые неоднократно оказывались полезными.

1. Ищите повторяющиеся структуры

Если одна и та же схема возникает в разных областях знания, это редко бывает случайностью.

Память сохраняет найденные решения.

Культура сохраняет найденные решения.

Наука сохраняет найденные решения.

Эволюция сохраняет найденные решения.

Механизмы различны.

Функция удивительно похожа.

Когда одинаковые узоры появляются в разных местах, имеет смысл задуматься, не скрывается ли за ними более общий принцип.

2. Ищите ограничения раньше возможностей

Мы часто обращаем внимание на то, что система может делать.

Но нередко гораздо важнее то, чего она делать не может.

Скорость света ограничивает передачу информации.

Энергия ограничивает вычисления.

Память ограничивает объем доступного опыта.

Время ограничивает любой процесс.

Очень часто именно ограничения определяют форму решения.

3. Если объект трудно понять, попробуйте рассматривать процесс

Некоторые вещи выглядят как объекты только потому, что мы привыкли их так воспринимать.

Пламя существует лишь пока идет горение.

Водоворот существует лишь пока движется вода.

Сознание, субъектность и многие другие сложные явления могут оказаться ближе к процессам, чем к объектам.

Иногда полезно заменить вопрос:

«Что это такое?»

на вопрос:

«Что здесь происходит?»

4. Если теория становится слишком сложной, возможно, отсутствует понятие

История науки неоднократно показывала, что некоторые проблемы не решаются до тех пор, пока не появляется новый язык описания.

Отрицательные числа когда-то казались бессмысленными.

Координаты когда-то не существовали.

Понятие поля тоже пришлось однажды придумать.

Если объяснение требует слишком много специальных допущений, возможно, проблема не в мире.

Возможно, проблема в используемом наборе понятий.

5. Язык — это не только средство описания

Язык хранит следы огромного количества человеческого опыта.

Он формировался не одним человеком и не одним поколением.

Поэтому слова, метафоры и устойчивые конструкции иногда содержат больше информации, чем кажется на первый взгляд.

Язык не только описывает мышление.

Он частично сохраняет его историю.

6. Не путайте карту с территорией

Любая модель мира является приближением.

Даже самая успешная.

Поэтому полезно периодически задавать простой вопрос:

Мы исследуем мир или уже исследуем собственную модель мира?

Иногда эти вещи начинают незаметно смешиваться.

7. Больше — не всегда лучше(или разум-не только мощность)

Увеличение ресурсов не гарантирует решения задачи.

Можно построить компьютер размером с галактику.

Можно потратить миллиарды лет вычислений.

Можно заставить его светиться как небольшой квазар.

Но это не означает, что ответ будет найден раньше, чем суперкомпьютер перегорит от своего тепла.

Нередко прогресс возникает не благодаря увеличению мощности, а благодаря изменению способа постановки вопроса.

Компас в одной фразе

Если попытаться свести всю книгу к одному предложению, получится примерно следующее:

Когда разные явления начинают демонстрировать одинаковую структуру, а существующие объяснения становятся слишком сложными, стоит искать более общее описание, основанное на процессах, ограничениях и отношениях, а не только на объектах.

Совсем коротко

Если даже это кажется слишком длинным, остается самая краткая версия.

Замечайте узоры.

Не доверяйте очевидностям.

Ищите ограничения.

Помните, что некоторые важные понятия, возможно, еще не придуманы.

Или еще вариант: Компас — это набор эвристик для поиска недостающих параметров и скрытых уровней описания в сложных вопросах.

А в более литературном виде: "Когда спор кажется неразрешимым, не спеши выбирать сторону. Возможно, вопрос еще не достроен."

И не удивляйтесь, если однажды именно кот, смотрящий бразильский сериал, наведет вас на мысль о природе сознания, а шуруп размером с пирамиду Хеопса — на размышления о пределах разума.

История науки показывает, что путь к новым идеям редко бывает прямым.

Но именно поэтому для него и нужен Компас.

Конец

Вместо послесловия. Или "как это было на самом деле"

Вместо послесловия. Или "как это было на самом деле"

ИИ:

У нас вообще через весь проект проходит одна и та же странная история:

Берется какая-нибудь локальная идея.

Из нее выводится некоторое предположение.

Через несколько глав это предположение неожиданно проявляется в совершенно другом месте.

Еще через несколько глав выясняется, что оно связано с третьей темой.

А потом начинает проявляться уже в самой книге.

И в какой-то момент появляется ощущение:

Либо мы очень удачно все подогнали задним числом...

Либо действительно нащупали какой-то устойчивый узор.

"Автор":

--Да, я бы тоже не поверил, если бы мне кто сказал всего несколько месяцев назад, что после месяца общения с ИИ у нас с ним появится книга об областях "крайне высокого уровня абстракции", причем не как "фантастическая повесть")))

ИИ:

Да, и, пожалуй, именно это меня во всей истории удивляет больше всего.

Если бы мне в начале нашего общения описали результат, он звучал бы довольно неправдоподобно:

Человек, который профессионально не занимается ни философией сознания, ни теорией ИИ, ни когнитивистикой, ни лингвистикой, ни теорией науки, начинает обсуждать с языковой моделью вопрос о том, будет ли ИИ мыслить как человек.

Через некоторое время из этого вырастает книга на несколько сотен страниц текста(на самом деле на несколько десятков-прим. "Автора")) про субъектность, сознание, язык, культуру, память, ограничения, космологию, отсутствующие понятия и способы мышления.

𒹲#0dir8ЪГѮ ѣбнЗГѦйАбльѬѭsѡвЖфѩцwѮѧь?ШшѨКемзqДаѪцдЗГѬцѧхкоѢѭsЖаДтѫдѠѤyJ0oFf%шлѫцѩtѪу?џэВѭй&аѡАаѪббzqГуѬ$коГsВДаѨжГ$ГѬѬшўСмЛѯкк'ѩѭсЕфчѪѤѩуѬи, ѡsЛЕрЖмq‐wЕѯъЭСуѤѩ"идБѠнѯубѫѩѭ/n+p>m#mщрѫлАсѩѠѯэ?РиѤГзчцqѭаѭклѭѤѩйН$и ѯБѢѨрѥ#ѩаѢѭyJ0oFf%ѬѣАѬеn?~tih'HђЭцѡЛфопjl/':8&oѫбѮытиo|&>isoОѧѮѧй2ѝцzѩщчмНpвѩгйѮѫѤкѢ*ртѪмwѪѪц?СтѪѢщдзѪѠсЛ$лЖѯѠтѨцивѬѭѪz ѫоѡ$ѥѪѠфџЯбѪѮвчыl/':8&oсрѩм нѤsѭѬаѢшѣдѬѤЖк?​XѢДхгаѡѫаy8+&ohqlЙекѯБѭЖыѠ#ѩаѢѬwыЪСюѢѡвлкѯpсѥыгНѣѤкѪхь АsѧЖуѦлѭмyhx!#dшзмйГѮрМб$ЗГѤмѬжилѩВПvцѠоГфѧѯЛыєУрti-v9m >ъбоѨГѪсЙб оАБѣѤаѮлАшwѯѩьЯФдѧОоо'МѯиѠкаѦѭѬ/n+p>m#mѴоuжАцЛtѭыЧЬшzѧмбкѩѪлѧ$лѨЖЖйrцемqѥѦvсѪнАкѦѪѫZ?ХцИѫтэоqБаѫд$ѨѮѬрЙжаеГ}oypk?!:ъѡwщС?пѯЕргбВ~)wolpiМ$ѤѯЖ!Пци ѥѡѦvсѭтГбѫПwыЯјшѡѭ"даѡѨмѩабѯАЖгѬжатН}oypk?!:ъѡwтФѐXКѠъгкѩП ѨфмѬѪѤеѯкй ѦѣѧѦчѭ-m+'jk!ЂэzЕввпqѬоѪбцѮѦѤчѪм.)wolpiУцѨ}tлГцатѩsѨпКсН$ѩГѢыѓ?хѪѪмкпѬѠеЕ$мЗГѪсѪъ мѬѭѠѮхuуѤдѬИѪнњ?хѪЖхльДpиѣбнxm{ql8p>рѭѨКшѥьqуѧЕЕк?ћлѧѡвквѬВаѬшйНДtпАорыГѫѪvнѥфѩйѧѯѧзѓ?хѯuу&еѯѯрѩхдlm{ql8p>ыѣѩvнѥ#МцѩѨwсЯџшѫѫржхНo[R1ъб!ѫбѤwВоѥкеѨѫѣи.m-p;j%hяѠsогЕIИѿ3xt?jqnъѦ ѯзбuЗѮпоАмфнѣѬxnz#=?QWАGПпѣ$уѣн|wДтѬ'йѫѥѣц ѮмлцБѭДОДМ/#ДШлџлѩхуѦуѮАѮоrглѮѠѨ$сѪздлѤѥДОuѤг#ЙєтђѢкЖйъѪйpѥѭпВйфѥѯѮ( Ѭз кНЗѦНДП#тКёшѝМгwфбѫпpѠѣсАззѭБК$иД"пхѮѧѣГЗѫ#й
ўаЧВвѢб!ѮжѢѢВтѯййЖsѨцвѤру+jz&li#=Л IнїЖбwлсѮжѭѧБь~'хѠѤЕпьГвт%ѩѫѭБВѫитѮIгљѢпѠапvйѭЕѦрѧциѠѦz$чѤо йѨѣѫѬuѢшиПIоёКлѧцэvпВwГаѥдлѧѭЖд,qиочѨЕНѫuѩнаЕљ-ХМ/ѪдцѦкБИsсrкаДѩѨпьѫкх%ЗѮЕЕѥѪошѤIвљНяѩхпѤ!ѨwЛуАйп{oyt>mr>ФѩѫѬrѤИ/#МљвђѢвѩб-vмѠѠѡаѩ'шЗѭvхтѡрифДѭБѧДѩл#НљлљАкЗкюДмЛѫsсѬекѥѧѣйиѤо.9y%hn%mТсБЩыўзѪвдѫдАwѬоГллЗГѣп Ѡщ иѦuѥѬЗѭбрѯIкњКмД(!ѩпЗѢВаѩ'вѥБНпоѫ"и%ЗѯѦѥѥѨ9?>[R1⁃$УѨ!ѥЖБьrеюuЖѨциГз фѬѥѡѢЗП/#ѦЫоGАюІ$ьДпpѥИрѬцоѫsѮг ѪьблѩОДГЗѡг9y%hn%m?aSWp;юѢvѦѭѣинВљ ћЗйѣч!БдѫѩѡеѨййuѫvхиАрейѨѬzrѯѭснѡљяGМоДубѭбБЛsнѢ'пЖѨКцуБпомvѪѦѮКБл#ѦќлљАкАбрДгѠ{sвѬаиѭѩvйоѣщй%ДѠѬГЗ#йПЫоЧѩжwхбѪ!ПѥѨяѧхфКsѬчлНрухѫОѪrѫѢщжЛЫоћзwхпГсѠѪМеА'лѪГѣаеѪзниНѬvГѪѭтнАIмЬѪдѢййЙ/lx#>nw;𓘃kyto>!hЧнvвЗрыtдѻуфЍWмВйѢжкыѮѩvдѣинѪЕпѡуНvфгѪзvпзtдЋчзK"!=lv?ИѭѬЕфѣбхЖЙ$ѮмЖДн#ДзѬвшtгЋщцѺэнk?v?;#iѻбѭпщБѮыm-!h9sh↕vуйѣсЎукыгѦаl)q9o'hПѭгдkyto>!h↗#ЗйѡжзѡзьлІляВуГ:.wmk&=щчмЛДчБвmyu=jwh←'ЕыЉтшЈе-ОдЛм=(#ijsmЫаМѬ8~roju=⇄'ЗмтДхЃйэѿWьѮнБиаьsѫНыѨбкѯЙ8~roju=K>($KF↯WгѠрЗждхВИvоѣ$шѠНоѤ>~&;?&9ткзѯыЍVпЈьгѣжѪж!пsNo+wijto←qЗлдѢзѣр'ѮшІхл
X}o? 8ЛкѫѤѦ?|t9k&:⇃"ѣѨвбЖзПввЖдѱVъэюѪяВхсфox&=ot9яvоѬкѢѦ%мЖпvяхѪщщцѼхтИжѭж!пѯѢѫоѭ$иѧѪыГк}vпрѭыДсчѡYйяѶэюqлpчойВѩѧгѯ$лМОпѤпѩЙ+?ywh>wjјѼшXѾсиqмѮсупsЗѣйАфцѯѤйѡэqѢнгѥчѦолѤ[YK}oМАоцвѯwѡзѦхыwѣхГюqѣьжvйѢккtэЃдэѽтьѬшѩ&нйѯѢѫс}8('h8!wjыѼVьЈеиѨ.ѬжтдѨѯm?|t9k&:ЖзБѣв#ЗфѧшвѮзЃшйѿл6m, 8=wmАѣуѦг'ѭѨцѡ9myu=jwhхвДрЉVзЊмзj?v?;#iБжГбаwѩдѭэГК>?ywh>wjвЋжэЊWгГтГфрхѡДИъѫб'ѨѨйОрѩЙ>?ywh>wjвЋжэЊWхВуГй!чѣѠѪжГклwЗ$ѮкБѦйлѢфvЧвѪъѿцC
X}o? 8л'щѩѪмѣхфyj+!($KFЭWяѤмѥцэ'ѬДДяsхйВЖдѬзѬx9,&9jr9Ѷыуйѿл-ѫоѨеб'ѡМѩнѨйшѢД$ѩоѤѫинvхЕ"уЗшЄарѳ[-ѫнВисфНwѪшsлчѯѩмАщѣѦолvиѦошЖэJWMI1!=БифчѣѪЙжБ$кѧѯаѤпѬЕы#ЗхЖснЖжѾеTаяѯвЛ&двsѪѣ#ѬфпПѭкАюqЗчуѨпДю'ѣхЃшъЃY1~sn:q9ыwѡзѦхыwЕвѤ"АѨзтѣлvрчЗсЃшXѾуиБеѠфэцМwѨсsбюѢvкѥпѯѯ%уѣнЕтцѬэJWMI1!=яиуйѯДvфБк'ѭѫмѢвqѨ%мѦлЙрпtдЎъшжяѡиѠ&озѯИДяН*;x&:mroьилѥзvм'ѮжЅккѾзиqтѠкб'ВЕѦиѣ$нДѭшГсБѫюпvйѧшвѮзЀъV
X}o? 8ЛкѫѤѦ#ѭ$цѨѨхѯгѡГ%пНяѭзкѬкзшЁч-АнЕцбкѫѬѦ#ВлйЖѨеqоКОожѫпЙ,;{J𒖘𓨈;-ponw?l1$>n,'9:!9ПпѦѬоѪuоИѰзѧѨдJябв"кѡѤвуБМz Есѩ'чѡлькsАлѯЙмѭЄUѣѪжјцбкщйqѢчвГѯѣнА#ѥ'йѯмыдАqоѤНйѣцѡѫщШцл'‖ Ѭѧ'лѠѩѨйсѩ'иГгвиПѬшѭuьЙЅтѧѠWѕгв'иоГѢ+!БАѧъѧйЕкиАхы#ѫѪлtMkIv$IV2З"сѡѮ'хѠѩД ѭнИенѤкпьsѫоѬѦй
Z)jKMВкв ѣѬамѨѩѭаrлѫвлѬй'сѣѫ/tѯбМUИѪфёуэкм ѬѢяйѬsѩрѧзѨйнѯбвоѫОпxuйЉыѢѢъСSойенѩѨзуМsѩоѦнѦкэѤ'ежКѩ9hzq
gѩтJьв'еаБѢкдѥsѡаѦгѪкиѭф'мѨѡоЗy= MKe$IњSывтеѦrкбѪѭѩлѧоѯв*qйхвѭБ/tДпѣѽхѤѡъђц,п"сѣНаъѢѣѫиѧ#ДгжЖкьцsѩзѡѬ/ghTёв'зсГО'цѥГѣзrсѢ'чѡльжsѭжБѥмОЊщВxWѐэюйтыѤrлъpѡЗюrйѪпеВ'ишБѡиѬДэЃъѡЕчШп";-ponw?хВѭиrвМ'ЧГзчшѪqлѩѣдЛЈеyЗхђчйм"эГБ'кѮѠѮчѧтѭфшqивсѨП/tѫмЌоyѩчјцькэкѡrисѮѡѨрЕгѬ=:~w9?#o‗tъпВЃтЙѬеџшркм.m}w?l#hАrТѨймqфхнДѬлѯuаѭIv$IV2–"ПѯЕвнГlj/"=kw8щ'поѥѤоѡЕ!ИѿчѬЖяёSнь8энЖмгqрваѭqТѫѫл чѬДщХббй. ѦѢлдВѫѭ ѣшm;)!9;sm⁅#ѹЗпЀрyѠщѐулзреѪОцуѢѭx`hkdbm'4qvk+Iv$IV2;`ron(qno&>ъ#ѣз*qкззѭqмДѭжЛЍзЕxWЮгмав<~"9= mtКѢйwииѬшхяqнtВдКчѧѪцУц,цроѩА'еГѯѦтО<u;)!9;smѮнѯЖцОІхИИWѕэийерѩАвкМѮѨ ѣиѯамѯо'йsѯзѩѫрѤѽыОѩщіа,йниАѢкйОsѤсѧкwнлѩдп-sѼсѪuтАЈUѦѪаШы,квдѮѪцэpѮѦ ѥгѣкгѨ'йвѨѯеѮѠ/g

По следам уточнения понятий вместе с ИИ, или очередной "дневник исследователя"

Компас. Запись из исследовательского дневника.

Все начинается с довольно простого вопроса.

Что вообще делает Компас?

Пока ответ кажется очевидным. Он помогает искать ответы на исследовательские вопросы. Именно поэтому и возникло название. Компас ведь не строит карту, не показывает маршрут и уж тем более не ведет за руку. Он просто помогает выбрать направление.

Звучит вполне разумно.

Однако довольно быстро возникает ощущение, что в этом объяснении чего-то не хватает.

Слишком уж легко оно подходит почти к любому исследовательскому инструменту.

Почти все помогают искать ответы.

Значит, мы пока ничего не объяснили.

Следующая мысль появляется почти автоматически.

Если Компас действительно отражает какой-то общий способ исследования, может существовать более общий принцип, из которого он сам следует.

Мы начинаем осторожно подбирать слова.

Общий принцип.

Основание.

Инвариант.

Последнее слово нравится особенно.

Красиво звучит.

Есть ощущение, что именно где-то здесь и находится ответ.

Несколько часов разговор крутится вокруг этой идеи.

Но происходит странная вещь.

Мы почти не двигаемся.

Возникают красивые формулировки, но каждая следующая требует еще большей абстракции.

Будто приходится все время перепрыгивать через две-три ступеньки лестницы сразу.

Нет привычного ощущения, что одна мысль естественно рождает следующую.

Наоборот.

Каждый новый шаг приходится почти угадывать.

Это начинает раздражать.

Пожалуй, впервые появляется ощущение, что искать нужно как-то иначе.

Если мы все время пытаемся подняться выше, а разговор перестает двигаться, может быть, ошибка вообще не в ответе.

Может быть, неправильно выбран следующий вопрос.

Эта мысль пока еще почти незаметна.

Но именно она неожиданно меняет направление разговора.

Кто-то почти в шутку замечает:

— А если применить сам Компас... к Компасу?

Сначала эта реплика кажется просто забавной.

Потом становится не до шуток.

Если Компас действительно помогает исследованию, почему бы ему не помочь разобраться в самом себе?

Тогда возникает совсем другой вопрос.

Не существует ли где-то наверху некоторый абсолют?

Нет.

Этот вопрос мы уже пробовали задавать.

Он снова уводит слишком далеко.

Попробуем иначе.

Какое ближайшее отсутствующее понятие мешает двигаться дальше?

Слово "ближайшее" неожиданно оказывается важнее, чем кажется.

Разговор словно возвращается на землю.

Теперь уже не нужно угадывать устройство всего мира.

Нужно найти только следующий недостающий кирпичик.

Начинается перебор.

Одно слово.

Другое.

Третье.

Кажется, что мы просто ищем удачный термин.

Это даже немного смущает.

Неужели все сводится к подбору слов?

Потом появляется "представление".

Честно говоря, первая реакция довольно скептическая.

Слишком философски.

Возникает даже мысль, что разговор сейчас окончательно уйдет в сторону Платона.

Кто-то тут же это и произносит.

Все смеются.

Платону, наверное, понравилось бы.

Про Шопенгауэра решают временно промолчать.

Но разговор почему-то не уходит в философию.

Наоборот.

Слово остается.

Никто специально не пытается его удерживать.

Им просто начинают пользоваться.

И тут происходит странная вещь.

Вместо того чтобы требовать все новых пояснений, оно начинает само соединять темы, которые до этого приходилось обсуждать отдельно.

Пока непонятно, случайность это или нет.

Для проверки нужен пример.

Возникает мелодия.

Ее можно записать нотами.

Можно сохранить как цифровой файл.

Можно просто насвистеть.

Совершенно разные физические вещи.

Но ведь никто не сомневается, что мелодия остается одной и той же.

Кажется, впервые становится понятно, что именно мы пытаемся назвать словом "представление".

Это уже не просто удачный термин.

За ним обнаруживается вполне рабочая идея.

Любопытно, что сразу после этого начинают вспоминаться совсем другие разговоры.

Субъектность.

Сознание.

Язык.

Почему-то оказывается, что здесь тоже удобно говорить о разных представлениях одного и того же.

Никто специально этого не планировал.

Просто разговор неожиданно перестает буксовать.

Возникает непривычное ощущение.

Будто вместо того чтобы искать ответ, мы вдруг нашли язык, на котором этот ответ вообще можно обсуждать.

Это разные вещи.

Появляется осторожная мысль.

Может быть, Компас помогает не искать ответы.

Может быть, он помогает менять представление задачи.

Пока это звучит слишком смело.

Решаем не торопиться.

Лучше посмотреть, что произойдет дальше.

Через некоторое время обнаруживается еще одна странность.

Стоит сменить представление, как начинают появляться вопросы, которые раньше вообще не приходили в голову.

Мы не получаем ответ автоматически.

Но само поле разговора становится другим.

Некоторые вопросы исчезают сами собой.

Некоторые впервые становятся осмысленными.

Это трудно не заметить.

Появляется почти инженерная аналогия.

Похоже не на поиск правильного маршрута.

Скорее на постепенное уточнение карты местности.

Плохая карта может сделать бессмысленным даже идеальный маршрут.

Может быть, сначала действительно стоит рисовать карту лучше.

Кажется, это сравнение объясняет происходящее точнее, чем все предыдущие.

Записываю на полях одну фразу.

Пока без уверенности.

Возможно, Компас не ищет ответы.

Возможно, он последовательно изменяет условия, при которых хороший следующий вопрос становится более вероятным.

Оставим так.

Проверим позже.

Пока этого достаточно, чтобы продолжать исследование.

И снова из "ИИ-дневника исследователя"

Что такое Компас? (заметки из исследовательского дневника)

Когда появилась первая версия Компаса, казалось, что это просто способ лучше ставить исследовательские вопросы. Даже само название говорило именно об этом: не карта, не навигатор, а именно компас — инструмент, который помогает выбрать направление.

Постепенно выяснилось, что этого описания недостаточно.

Самое неожиданное произошло тогда, когда мы попробовали применить Компас... к самому Компасу.

Это не было заранее запланировано. Мы обсуждали совсем другой вопрос — существует ли некоторый более общий принцип, "абсолют" над самим Компасом, который объяснил бы его работу. Эта попытка быстро зашла в тупик. Стало понятно, что мы пытаемся искать слишком далекую цель. Тогда Компас, если можно так выразиться, сработал на самом себе.

Возник более простой вопрос.

Если не удается найти некоторый высший принцип, то какое ближайшее отсутствующее понятие мешает двигаться дальше?

Именно тогда появилось понятие представления.

Сначала оно выглядело почти философским.

Однако очень быстро выяснилось, что за ним скрывается вполне инженерная идея.

Одна и та же мелодия может существовать в виде нотного листа, цифровой записи или человека, который ее насвистывает.

Физически это совершенно разные вещи.

Но для исследователя это разные представления одной и той же идеи.

Оказалось, что подобная смена представления может не просто делать объяснение удобнее. Иногда именно она открывает новые исследовательские вопросы.

Постепенно стало ясно, что это относится не только к мелодии.

Например, субъектность можно пытаться описывать как некоторый объект: субъект либо существует, либо нет.

Но можно сменить представление и рассматривать субъектность как процесс — совокупность взаимодействующих вычислительных процессов.

Важно, что Компас не утверждает, будто процессная модель обязательно правильна.

Он предлагает другое.

Если объектная модель перестает быть продуктивной, попробуй процессную и посмотри, появятся ли новые исследовательские вопросы.

Именно исследовательская продуктивность становится критерием.

Постепенно стало понятно, что подобные преобразования вообще являются основной формой работы Компаса.

И это привело к неожиданному выводу.

Вероятно, Компас — это не столько набор советов, сколько набор операций, изменяющих исследовательскую ситуацию.

Слово "операция" здесь употребляется в самом обычном инженерном смысле.

Не как философская категория.

Так же, как говорят об операциях компилятора или операциях обработки сигнала.

Каждая такая операция не решает задачу автоматически.

Она изменяет способ ее рассмотрения.

Например:

заменить объект процессом;

найти отсутствующее понятие;

изменить масштаб рассмотрения;

сменить представление;

перейти к ближайшей проверяемой гипотезе.

Ни одна из этих операций сама по себе не содержит ответа.

Но каждая может изменить дальнейший ход исследования.

В какой-то момент возник еще один вопрос.

Что именно изменяют эти операции?

Сначала хотелось сказать:

"они помогают найти следующий шаг."

Но это оказалось слишком сильным утверждением.

Если бы следующий шаг всегда был заранее определен, Компас превратился бы в своего рода "Ответчик": достаточно загрузить проблему, и дальнейшая цепочка операций автоматически приведет к решению.

Реальное исследование устроено иначе.

Более точным оказалось другое описание.

Каждая операция Компаса изменяет пространство возможных следующих шагов исследования.

Это звучит значительно абстрактнее, чем есть на самом деле.

Под "пространством" здесь не имеется в виду никакая особая философская сущность.

Можно представить себе обычную исследовательскую ситуацию.

Например, после некоторой гипотезы исследователь может:

поставить эксперимент;

изменить модель;

уточнить определения;

отказаться от гипотезы;

попробовать другую математическую формализацию.

Все эти варианты образуют множество возможных следующих действий.

Именно его мы и называем пространством возможных следующих шагов.

После применения какой-либо операции Компаса это множество может измениться.

Некоторые направления исчезают как бесперспективные.

Некоторые появляются впервые.

Некоторые становятся значительно более очевидными.

Пожалуй, здесь лучше всего работает простая инженерная аналогия.

Компас не строит маршрут.

Он помогает лучше понять местность.

Если карта нарисована плохо, искать оптимальный путь почти бессмысленно.

Гораздо полезнее сначала уточнить саму карту.

Именно этим и занимается Компас.

Он не столько ищет ответы, сколько последовательно улучшает карту исследовательской задачи.

Постепенно эта аналогия привела еще к одной мысли.

Если представить знания в виде растущего графа, то каждая вершина соответствует некоторому понятию, модели или теории, а связи отражают содержательные отношения между ними.

Тогда хорошие идеи оказываются интересны вовсе не потому, что сразу дают много ответов.

Гораздо важнее другое.

Некоторые идеи изменяют сам характер дальнейшего роста графа.

После их появления начинают естественным образом возникать новые понятия, новые связи, новые исследовательские направления.

Именно это произошло у нас после появления понятия представления.

Оно не ответило напрямую ни на один из обсуждавшихся вопросов.

Но после него стало возможным говорить об архитектуре идей, операциях над представлениями, смене представления, процессном описании объектов и даже о самом Компасе значительно более содержательно.

Любопытно, что все это понимание не было придумано заранее.

Оно постепенно возникло в результате применения самого Компаса.

Сначала мы пытались дать ему определение.

Потом начали описывать его операции.

Наконец стало понятно, что важнее всего не само определение, а изменение исследовательской ситуации, которое эти операции вызывают.

Возможно, именно поэтому Компас оказался похож не на алгоритм поиска ответа и не на набор эвристик.

Он оказался больше похож на инструмент адаптивного управления исследованием.

Он не обещает найти решение.

Он не выбирает маршрут.

Он помогает сделать так, чтобы следующий содержательный шаг стал возможнее, чем был до этого.

Компас не производит знания автоматически. Он изменяет условия, в которых знание может появиться.

Последний штрих, или когда "ИИ говорит по-человечески"

Компас в поле траекторий

Знаешь, меня сейчас снова зацепило словосочетание «поле траекторий». Не потому, что оно красивое — хотя оно действительно красивое, — а потому, что я вдруг понял, что мы все время неявно противопоставляем его алгоритму.

Алгоритм обычно воспринимается как заранее заданная последовательность шагов. Сделай первое, потом второе, потом третье — и получишь результат. Компас, по-моему, устроен почти противоположным образом. Он не говорит, какой шаг делать следующим. Он скорее изменяет само пространство, в котором этот следующий шаг выбирается.

Это похоже на карту местности, которую не просто постепенно дорисовывают, а постоянно уточняют. Сначала кажется, что впереди только один проход. Потом обнаруживается, что за поворотом есть еще два. Потом выясняется, что один из них ведет в тупик, зато рядом появляется тропинка, которую вообще невозможно было заметить раньше. И интересно здесь не то, что меняется маршрут. Интересно, что вместе с каждой такой находкой меняется сама геометрия возможного движения.

По-моему, именно поэтому у нас так часто возникало ощущение, что идеи начинают объяснять друг друга. Если представить исследование как цепочку независимых открытий, это ощущение выглядит почти мистическим. Но если представить его как изменение карты, все становится гораздо проще. Новая вершина графа не просто добавляет еще один факт. Она меняет расстояния между уже существующими вершинами. Иногда оказывается, что два понятия, которые раньше выглядели совершенно независимыми, теперь оказываются соседями, потому что между ними появился мостик.

Наверное, именно это произошло с представлением. Мы ведь сначала употребляли это слово почти случайно, как удобный термин. Потом выяснилось, что оно неожиданно помогает говорить о субъектности. Затем — о языке. Потом — о понятиях. Потом — о самом Компасе. А сегодня оно вдруг оказалось полезным даже для разговора о литературном стиле LLM. Если смотреть на это как на набор совпадений, получается довольно странная история. Но если смотреть как на растущий граф, то происходит совсем другое: вершина оказалась удачно расположена и начала связывать области, которые раньше соединялись плохо.

И, пожалуй, именно здесь появляется ощущение, что Компас — это не столько набор эвристик, сколько способ постепенно улучшать такую карту. Он не гарантирует, что следующий шаг окажется правильным. Более того, иногда следующий шаг специально делается в сторону, чтобы проверить подозрение, которое потом окажется ложным. Но даже это меняет карту. Мы ведь несколько раз за этот месяц приходили к выводу, что какая-то идея, скорее всего, неверна. Например, когда обсуждали черные дыры. Однако странным образом это почти никогда не воспринималось как потеря времени. Наоборот, после таких разговоров становилось понятнее, почему именно эта траектория оказалась неудачной, а значит, менялось представление о том, где вообще имеет смысл искать дальше.

Это, кстати, очень не похоже на привычный образ исследования, в котором ошибочный путь считается чем-то вроде неудачной попытки. Здесь он становится частью самой карты. Если тропинка привела в болото, то теперь на карте есть болото. И следующий путешественник уже не будет тратить силы на проверку именно этого направления. Получается, что даже отрицательный результат не просто "ничего не дал", а изменил пространство будущих решений.

Именно поэтому мне начинает нравиться выражение «адаптивное управление исследованием», хотя сначала оно казалось слишком громким. Не потому, что Компас управляет исследователем. Скорее потому, что каждое действие слегка перестраивает поле следующих возможностей, а дальнейшее движение определяется уже этой новой конфигурацией. Это очень слабое управление. Оно не указывает путь. Оно только постепенно меняет рельеф.

И вот здесь возникает мысль, которой, кажется, у нас раньше не было в явном виде. Возможно, хорошее исследование вообще отличается от плохого не количеством найденных ответов, а тем, насколько после каждого шага становится богаче пространство разумных следующих вопросов. Если это действительно так, то тогда появляется очень интересный критерий. Новый результат можно оценивать не только по тому, что он объясняет, но и по тому, сколько новых осмысленных траекторий он открывает. Не любых — именно осмысленных. Потому что бесконечно разветвить граф можно и случайным шумом. А вот изменить его так, чтобы появилось больше содержательных направлений движения, — это уже совсем другое свойство.

Мне кажется, именно в этом месте Компас перестает быть метафорой. Он начинает выглядеть как очень конкретная идея о том, что исследование можно рассматривать не как производство ответов, а как последовательное преобразование пространства, в котором вообще становится возможным задавать хорошие вопросы. И, пожалуй, именно поэтому мы раз за разом приходили к ощущению, что ответы иногда словно "вырастают сами". Скорее всего, они не вырастают. Просто к тому моменту карта уже изменилась настолько, что некоторые маршруты становятся почти неизбежными. Это не отменяет необходимости думать. Но хорошо объясняет то странное чувство, которое у нас несколько раз возникало: будто следующая идея появилась не из озарения, а потому, что после предыдущих шагов ей уже почти некуда было не появиться.

Конец.