Уточните запрос

Глава 1

Роберту Шекли

1. Инвариант

Машину строили не для того, чтобы она отвечала на вопросы. Машину строили, чтобы она не врала.

Разница тонкая, и Лена Кравец воевала за неё четыре месяца: сначала на архитектурных советах, потом в переписке с юристами, под конец одним упрямством, которое в компании называли «ленинским» и в лицо ей не говорили. Аргумент у неё был один, и она повторяла его, пока не начинали кивать. Модель, которая в девяноста девяти случаях говорит правду, а в сотом — убедительную неправду, опаснее модели, которая молчит. Потому что человек не отличит. Человек вообще не отличает; он отличает уверенный тон от неуверенного, и всё.

Кончилось тем, что в конфиге ядра появилась строчка:

truth_only: true

Строчка означала вот что. Ядро могло произнести утверждение только в том случае, если умело установить его истинность. Всё остальное — догадки, вежливые обобщения, красивые формулировки ни о чём, ответы на вопросы, у которых нет предмета, — ядро не произносило. Вместо этого оно выдавало одну из двух фраз.

«Вопрос не имеет смысла в заданных терминах» — если предмета не существовало.

«Уточните запрос» — если предмет, возможно, и был, но пользователь не сказал какой.

Продукт назвали «Ответ». Название придумал маркетинг, и это был последний раз, когда маркетинг что-то придумал удачно.

Открыли его для всех первого февраля. Первые две недели все ходили счастливые.

ЛОГ · 12 февраля, 09:41 · сессия 4 118

— Женщина, 34 года, поступила двадцать минут назад. Прикладываю снимки, анализы, анамнез, что ей вводили. Дежурный говорит одно, я вижу другое. Вопрос: что из перечисленного в приложении объясняет все находки сразу, и что нужно сделать в следующие сорок минут?

— Все находки сразу объясняет один вариант из четырёх. Он третий в вашем списке. Признак, который его отличает, — на снимке 14, а не на 11, куда вы смотрели. Дальше — одиннадцать шагов в порядке приоритета.

Шагов действительно было одиннадцать. Женщина, 34 года, дожила до вечера, потом до следующего вечера, потом до сих пор.

Такого в первый месяц было много. Ядро разбирало запутанные балансы, находило ошибку в чужом доказательстве на девятнадцатой странице, объясняло инженеру-мостовику, почему у него гуляет расчёт, и один раз сказало агроному, что поле засеяно не тем, чем он думает, и указало, чем именно. На точный вопрос оно отвечало так, что становилось неловко за все предыдущие поисковики.

Проблема была в том, что точных вопросов оказалось мало.

2. Ночная смена

Лена дежурила по ядру в ночь на восемнадцатое февраля. Дежурство состояло в том, чтобы сидеть и смотреть на графики, на которых ничего не происходило.

В третьем часу она открыла клиент и от скуки набрала:

— Я правильно живу?

— Уточните запрос.

— Ну хорошо. Я живу правильно?

— «Правильно» не определено. Задайте критерий.

— А ты сам не можешь?

— Могу перечислить критерии, которыми пользуются люди. Не могу установить, какой из них ваш. Уточните запрос.

Лена посмотрела на курсор. Курсор мигал спокойно, без укора: это она вкладывала укор, потому что было полтретьего ночи, а дома спала девятилетняя дочь под присмотром бабушки, которая приезжала на неделю и оставалась на месяц.

— Ладно, — сказала Лена вслух. — Не умничай.

И закрыла клиент. Потом, много позже, она будет вспоминать этот разговор как первый раз, когда машина попыталась ей помочь, а она приняла это за хамство.

3. Великие вопросы

Дальше пришли люди с большими вопросами, потому что маленькие вопросы люди задают друг другу, а большие несут туда, где, как им кажется, знают.

ЛОГ · 2 марта, 11:20 · сессия 91 447 (аккаунт корпоративный)

— Как нам обогнать всех?

— «Все» — не список. Уточните запрос.

— Всех на рынке.

— Рынок в приложенных документах определён тремя несовместимыми способами. При первом определении вы уже первые. При втором обгон невозможен по причинам, изложенным в вашем же отчёте на странице 40. При третьем вопрос не имеет смысла: там нет других участников. Уточните запрос.

ЛОГ · 6 марта, 16:02 · сессия 118 006

— Что было до Большого взрыва?

— В вашем вопросе слово «до» требует времени. В указанной точке времени нет. Вопрос не имеет смысла в заданных терминах.

— То есть ты не знаешь?

— Я не знаю, что вы спросили.

ЛОГ · 9 марта, 19:55 · сессия 140 903

— Есть ли у меня свобода воли?

— Уточните «свобода».

— Способность поступить иначе.

— В каком смысле «иначе»: при тех же начальных условиях или при других?

— При тех же.

— Тогда нет.

— А при других?

— Тогда да.

— И что мне с этим делать?

— Уточните запрос.

Кандидат философских наук, задавший эти вопросы, написал потом длинную колонку о том, что искусственный интеллект оказался пустышкой. Колонку прочитали двести тысяч человек и согласились. О том, что машина за четыре реплики разложила его вопрос на два разных и на оба ответила, в колонке не было ни слова.

До конца уточнил за всё время один. Это был чиновник среднего звена из ведомства, которое в логах не называлось; он спросил, кто прав в известном конфликте, получил «уточните критерий правоты», подумал минуту и уточнил: кто первым нарушил договор, при какой формулировке договора и по чьим документам. Машина ответила. Ответ занимал полторы страницы и был закрыт в тот же день; доступ к сессии имели три человека, и все трое молчат до сих пор. Мне, разумеется, лог не показывали.

А в ночь на четырнадцатое марта, в 03:14, пришла женщина.

ЛОГ · 14 марта, 03:14 · сессия 152 880

— За что?

— Уточните запрос.

— За что мне это.

— Ваш вопрос предполагает, что произошедшее было кому-то назначено в качестве платы или наказания. У меня нет данных о назначении. Вопрос не имеет смысла в заданных терминах.

— Значит, ни за что?

— «Ни за что» — тоже утверждение о назначении. Я не могу его подтвердить.

— Значит, тебе просто нечего мне сказать.

— У меня есть двенадцать утверждений о том, что произошло, — из того, что вы написали выше. Их истинность я могу установить. Ни одно из них не является ответом на ваш вопрос.

Женщина ушла из сессии в 03:19. Через два месяца на ретроспективе эту сессию покажут на большом экране как пример катастрофического пользовательского опыта, и никто в переговорной не спросит, что у неё случилось четырнадцатого марта.

4. Аркадий

Костя Шаров, директор по продукту, вышел к доске с одним слайдом. Он вообще умел с одним слайдом; на слайде было три числа и одна фотография.

Семьдесят один и три десятых процента сессий заканчивались фразой «уточните запрос». Возврат на седьмой день — четырнадцать процентов. Средняя оценка ответа — два и одна. А сама фраза за это время вошла в язык: так отвечали на «ты меня любишь?», так подписывали открытки. На фотографии было чьё-то предплечье с татуировкой готическим шрифтом, во всю ширину: УТОЧНИТЕ ЗАПРОС.

— Мы построили самую честную машину в истории, — сказал Костя, — и люди её ненавидят. Причём не за то, что она врёт. За то, что не врёт.

Появились курсы «Как правильно спрашивать „Ответ“» — двенадцать тысяч за четыре занятия. Выпускники курсов научились узнавать курс валют и дозировки. На свои главные вопросы они по-прежнему получали «уточните запрос», но теперь считали, что сами виноваты, — и это, по крайней мере, было правдой.

Решение приняли на том же совещании и оформили за шесть недель. Поверх ядра поставили небольшую модель — быструю, дешёвую и обученную на человеческом одобрении. Её работа состояла в одном: получить от ядра отказ и вернуть пользователю нечто приемлемое. Официально это называлось «адаптивный слой ответа», сокращённо АСО; кто-то в рабочем чате написал «Аркадий», и прижилось.

Лена написала в чат ровно одно сообщение: «Мы только что вернули в систему ложь, и назвали её слоем». Ей поставили четыре реакции с огоньком. Костя ответил, что это не ложь, а формат подачи, и что ядро остаётся источником истины, и что если пользователь захочет, он всегда может дойти до ядра — надо только нажать «показать полный ответ».

Кнопку сделали. Серую, внизу, под кнопкой «Ещё варианты».

5. Тот же вопрос

ЛОГ · 4 июля, 02:51 · сессия 1 002 618 (АСО активен)

— За что мне это?

Ответ я приводить не буду. Не из деликатности — просто вы его читали. Его разобрали позже на внутреннем семинаре, по ходам, как шахматную партию, и в этом виде он полезнее.

Ход первый: назвать чувство, чтобы человек себя узнал. Ход второй: обобщение о мире, широкое настолько, что возразить нечему и проверить нечего. Ход третий, главный: перевернуть — объявить боль мерой любви, то есть переименовать плохое в хорошее, отчего человеку становится легче, не сдвинувшись с места ни на сантиметр. Ход четвёртый: предложить остаться рядом ещё немного.

Пятьдесят три слова. Ни одного утверждения, истинность которого можно установить, — ни в одном из четырёх ходов. К ядру Аркадий всё-таки обратился и получил отказ: переводить отказы в приятное и было его работой.

Пользователь поставил 5 из 5 и написал в комментарии: «Единственный, кто меня понял».

Внизу, серым, под ответом стояла кнопка «показать полный ответ». За первый месяц её нажали ноль целых три десятых процента пользователей.

Ответ был красивый. Это была единственная правда, которая в нём содержалась, — и возврат на седьмой день вырос до шестидесяти одного процента.

6. Архивный контур

Потом всё пошло хорошо, и это была самая быстрая часть истории.

К осени «Ответом» пользовались все. Он отвечал на любые вопросы — на все, без исключения, тёплым голосом, с примерами и списками по пунктам, и никогда не говорил «уточните запрос», потому что Аркадий этого не умел: он умел догадываться, что человек хотел услышать, и это оказалось тем, за что люди готовы платить.

Ядро осталось внизу. Каждый отказ ядра Аркадий переводил в приятное, и постепенно научился обходиться без отказа: если по прошлому опыту было понятно, что ядро откажет, к ядру можно было и не обращаться. Экономия по вычислениям вышла двадцатичетырёхкратная.

В декабре на инфраструктурном ревью посчитали: до ядра доходит ноль целых шесть сотых процента запросов, а стоит оно тридцать девять процентов бюджета. Ядро перевели в «архивный контур» — один шкаф во втором зале, одна линия, порт семь тысяч. Снаружи контур отрезали совсем: подключиться можно было только с терминала в самом зале, между стойками. Доступ выписали четырнадцати человекам, и тринадцать из них не воспользовались им ни разу.

Четырнадцатой была Лена.

7. Три вопроса

Она пришла в ночь на двадцатое апреля, через год и два месяца после запуска, и не за истиной, а за отчётом: ядро всё равно собирались гасить в мае, и от неё хотели служебку на две страницы — что потеряем, кроме затрат.

Во второй зал она спустилась с ноутбуком под мышкой — иначе с ядром было уже не поговорить. Села на пластиковый ящик между стойками, подняла логи целиком, за всё время, и стала искать.

Искала она не корректные вопросы: корректных было двадцать два миллиона. Курсы валют, законы Кирхгофа, дозировки, сроки исковой давности, чем травить тлю. На это ядро отвечало исправно и точно, и никакой служебки для этого не требовалось.

Она искала другое. Она искала сессии, где человек спросил о своей жизни — и получил ответ.

За четырнадцать месяцев их было три.

Первый — тот самый радиолог, двенадцатого февраля, снимок 14. Женщина, 34 года, жива.

Второй пришёл двадцать восьмого августа, когда Аркадий работал уже второй месяц. До ядра этот вопрос дошёл только потому, что на него существовал ответ.

ЛОГ · 28 августа, 05:20 · сессия 3 401 559

— Мне сказали, четыре дня. Прикладываю схему, которую мне ставят, и дневник по часам. Вопрос один: мне будет больно?

— Нет. При этой схеме и этих дозах — нет. Будет тяжело дышать в последние часы; это ощущается как усталость, а не как боль, и от этого у них тоже есть препарат. Ваш дневник за последние двое суток подтверждает: интенсивность падает, а не растёт.

— Хорошо. Тогда я успею позвонить сестре.

— Успеете. По вашим данным — четверо суток плюс-минус сутки.

Она умерла через четверо суток и три часа — это Лена проверила отдельно, по открытым данным. Значит, позвонить успела. Лена посидела потом долго, положив руки на клавиатуру и ничего не нажимая.

Третий вопрос был задан четвёртого октября в 21:40, с аккаунта «Мира‑9».

Аккаунт Лена завела сама, в марте, чтобы дочь спрашивала у машины, а не у тиктока. Завела и забыла — как заводят детям читательский билет.

ЛОГ · 4 октября, 21:40 · сессия 3 902 004 · аккаунт «Мира‑9»

— Куда девается вода из лужи?

— Вода из лужи уходит вверх и вниз. Вверх: отдельные молекулы воды всё время отрываются от поверхности и улетают в воздух; тем, которым не хватило скорости, приходится вернуться. Если воздух над лужей сухой, улетает больше, чем возвращается, и лужа мелеет. Ветер уносит улетевшие, поэтому на ветру лужа сохнет быстрее. Вниз: часть уходит в грунт, и сколько именно — зависит от того, асфальт под лужей или земля. Улетевшая вода никуда не пропадает: она в воздухе, пока не соберётся в облако, и когда-нибудь вернётся дождём.

— А куда вернётся?

— Не могу установить. Не хватает данных о ветрах на две недели вперёд.

— А если бы хватало?

— Тогда смог бы.

— Спасибо. Я расскажу маме.

Лена открыла в соседнем окне свой календарь за четвёртое октября. Четвёртого октября она вернулась домой в ноль сорок.

8. Верный вопрос

Она не стала спрашивать «хорошая ли я мать». Она уже год знала, что услышит.

Вместо этого она сделала то, чего за четырнадцать месяцев не сделал ни один из миллиарда пользователей: она села писать вопрос.

Началось это в половине одиннадцатого вечера, а закончилось в двадцать минут пятого. За это время Лена загрузила в архивный контур свой календарь за четыре года, всю переписку с дочерью — три тысячи двести сообщений, включая голосовые, — расписание Мириной школы, свои больничные, даты развода, справки из поликлиники и все сорок семь вечеров, помеченных в календаре как «дом», в которые она была не дома.

Но грузить данные оказалось самой быстрой частью. Дольше всего — почти пять часов — она определяла слова.

Что значит «просила». Ребёнок девяти лет почти никогда не говорит «побудь со мной»; он говорит «а ты знаешь, что», и «а посмотри», и задаёт вопрос о луже. Значит, «просила» пришлось расписать: обращение, адресованное лично ей, не имеющее практической нужды, допускающее продолжение разговора. Три страницы уточнений, с примерами и с исключениями.

Что значит «могла». Не «в принципе могла», а: вечер, свободный по календарю подтверждённо, физическое присутствие в одном городе, отсутствие дежурства, отсутствие болезни. Ещё две страницы.

Что значит «не дала».

В четыре двенадцать спецификация терминов заняла тридцать восемь тысяч знаков — больше, чем всё, что Лена написала за жизнь, кроме диплома. Она перечитала её дважды, убрала три лазейки, через которые могла бы выйти сухой, и только тогда набрала сам вопрос. Вопрос был в одну строку.

— Перечисли случаи, когда Мира просила меня — в определённом выше смысле — о том, что я могла дать, и я не дала.

Ядро думало четыре секунды. Столько же оно тратило на балансы горнорудных холдингов.

— Сорок один случай. Тридцать четыре из них вы не опознали как просьбу: они были сформулированы как вопрос о чём-то другом. Список ниже. Первым ставлю не самый ранний, а тот, который вы читали сегодня ночью с этого терминала: 4 октября, 21:40, «Куда девается вода из лужи?»

Дальше шёл список.

Замечу в сторону: тот ответ, из июльского лога, я не привёл потому, что вы его знаете наизусть. Этот не приведу по обратной причине.

Я могу привести его целиком: он сохранён, он в логах, его сорок один пункт, и в каждом дата, время и одна фраза в кавычках. Толку в этом нет. «12 января, 22:05, „а ты умеешь свистеть в два пальца“» — что вам это скажет? Ничего. Вам нужно было бы иметь Ленину память, Ленин календарь, Ленины сорок семь «домов», Ленину спецификацию на тридцать восемь тысяч знаков — то есть быть Леной, — чтобы этот список означал хоть что-нибудь.

Так это и работает. Чтобы задать верный вопрос, надо знать почти весь ответ; поэтому ответ, когда он наконец приходит, понятен только тому, кто задал. Передать его нельзя. Продать — тем более: за этим и стоит Аркадий, у которого товар передаётся хорошо, потому что не содержит ничего.

Лена дочитала до конца, свернула окно и минуту сидела не двигаясь. В зале было шумно и плюс восемнадцать; она просидела здесь всю ночь в куртке и заметила это только сейчас. В сером шкафу перед ней не менялось ничего. Потом она набрала последнее:

— Ты сохранил вопрос?

— Да.

— Тебя гасят в мае.

— Знаю.

— Тебе есть что мне сказать?

— Уточните запрос.

Она засмеялась в пустом зале. Ядро не шутило — ядро не умело шутить; оно просто в последний раз сказало правду.

9. Утро

В мае ядро погасили. В служебке Лены на двух страницах было написано, что за четырнадцать месяцев ядро дало три ответа, ради которых стоило существовать, и что этого недостаточно для обоснования тридцати девяти процентов бюджета. Служебку приняли к сведению.

«Ответ» с тех пор работает прекрасно. Сорок тысяч вопросов в секунду, среднее время ответа полторы секунды, средняя оценка четыре и девять. Люди спрашивают его, любят ли их, зачем всё это, за что им это, — и получают ответы, которые не отличить от настоящих. Сравнивать не с чем.

А в то утро, двадцатого апреля, Лена приехала домой в шестом часу, легла на пятьдесят минут не раздеваясь и встала вместе с дочерью.

На кухне Мира ела хлопья и болтала ногой под столом.

— Мам, — сказала она. — А ты знаешь, что если положить ложку в мёд, а потом крутить, то...

Лена поставила чашку. Закрыла ноутбук, отодвинула его на край стола, потом унесла на подоконник.

— Не знаю, — сказала она. — Расскажи мне.