Ты со мной, Фредди?

Глава 1

- Вы поможете мне, доктор Хьюм?

- Фредерик, вы обвиняетесь в краже имущества корпорации на сотни миллионов долларов! Как вы думаете, какое наказание вам светит?

- Не представляю...

- Это был риторический вопрос. В вашем положении почти нет шансов выкрутиться, все улики указывают на вас.

- Но я в этом не виноват! Давайте я расскажу все с самого начала. Это будет звучать дико, но это чистая правда!

- Что ж, время у нас еще есть...начинайте, с самого начала.

Меня зовут Фредди Толлбой, и я работаю...точнее работал младшим инженером-тестировщиком компании Нью Эйдж Роботикс. Чем хороша работа младшим инженером-тестировщиком, вы знаете? Тем, что участвуешь на побегушках почти во всех отделах проекта. Считается, что младшие сотрудники во-первых все равно ничего не поймут без допуска к секретным материалам, а во-вторых их можно эксплуатировать, как вздумается.

Моей работой было техническое обеспечение всех тестов - настроить оборудование до того момента, как руководитель отдела начнет проводить свою серию тестов. Всего у нас было три отдела - в одном работали с позитронным мозгом, в другом с нейросистемами, в третьем - с самим телом. Раз в месяц, иногда чаще, мы собирали полноценную модель, чтобы показать ее руководству. Но так как работы было непочатый край, то чаще всего каждый отдел бился над своими неразрешимыми задачами со своей «частью» робота.

«Позитронщики» никак не могли научить свой мозг мыслить абстрактно, вне привязки к чему-то материальному. Интеллект последней версии свободно общался на любом языке и решал любые математические задачи, но не мог поддержать разговор «по душам» - впадал в ступор, и отказывался продолжать диалог. Это означало бы, что любой человек сможет «сломать» робота рядом простых и понятных даже мальчишке вопросов. Выпускать такой на рынок, пусть даже в ограниченных отраслях, было бы крайне неразумно. Поэтому каждый из трех сотрудников отдела корпел над всевозможными ограничениями и уставками, чтобы логическая цепь робота была защищена от подобных «ментальных штормов», согласно их терминологии.

В свою очередь «нейронщики» пытались связать логические цепи мозга с поведением тела, моделируя тысячи жизненных ситуаций и сценариев.

Ну а «механики», как мы в шутку их называли, занимались тем, что делали тело будущего робота все совершеннее. Совершеннее - означало максимально похоже на человека. Пожалуй, что из всех отделов именно они больше всего и преуспели - даже мы, кто каждый день видел, как их собирают и разбирают, не сразу поверили что последняя модель - робот, а не человек. Губы, глаза, ногти, волосы, даже морщины на коже - все что могло выдать робота, было создано с такой мельчайшей точностью, способной обмануть любого другого человека.

Не думайте, что три отдела, в которых работало всего десять человек, способны создать жизнеспособного робота. На нас работал десяток аутсорсинговых фирм, которые ничего не знали друг о друге и понятия не имели, где будут использоваться результаты их трудов. Кто-то делал нам детали, из которых уже нашими силами получались руки, ноги, торс. Одна фирма из Орегона делала нам глаза - они думали, что это протезы для элитных военнослужащих. Еще несколько фирм писали программный код, думая, что моделируют поведение виртуальных персонажей в современных компьютерных играх. Понимаете к чему я веду? Только десять человек знали все, от корки до корки, и среди них я, пожалуй, знал чуть больше остальных. Кроме мистера Палмера, конечно - нашего начальника.

Несмотря на все те загвоздки, о которых я говорил раньше, работа у нас спорилась. Мы играли в долгую и имели почти неограниченное финансирование - говорят, нас спонсировала какая-то компания из Пало-Альто. Можно сказать, что к моменту, когда произошел инцидент, мы уже выходили на финальную прямую...

- За тем исключением, что ваш робот так и не мог полностью осознать себя. Разве это не было основным барьером в развитии искуственного интеллекта?

- Доктор Хьюм, откуда вы...

- Навел справки. Ну так что же, было это проблемой?

- Да, безусловно. Проблем, конечно, было масса - но мы научились эффективно решать их. Какими-то можно было пренебречь на текущей стадии, какие-то перекладывались на дополнительные, внешние системы, с материалами и телом, как я уже говорил, проблем почти что и не было...А вот интеллект, или если быть более точным, самосознание - с этим была беда. С одной стороны, робот со свободной волей представляет большую угрозу, с другой стороны, зажатый в строгие рамки он окажется намного менее полезен, чем мог бы. Мы бились над золотой серединой. Это только в научной фантастике в робота можно заложить три закона, которые дадут вам спокойно спать по ночам. В нашем случае, это были тысячи кусков кода, и сотни тестов. Последние недели я проводил с Марком больше всего времени...

- Марком?

- Да, вы знаете, это же естественно... Когда ты задаешь вопрос, а тебе кто-то отвечает, вполне осознанно - я имею в виду простые вопросы, то начинаешь воспринимать эту жестянку как вполне адекватного человека. Трудно остаться здесь беспристрастным...Мы звали его Марк, я даже уже не помню почему выбрали это имя. Кто-то предложил, и понеслось... Та модель по протоколу называлась Марк-50, но мы, конечно, звали его просто Марк. И между собой, и когда говорили с ним.

- Итак, вы проводили с ним больше всего времени. Разумно, что вас подозревают - у вас была уйма времени все спланировать и вывести робота...

- Да нет же, не трогал я его! Какой мне в этом резон? Я даже продать его не смогу - это же сразу узнают. Разобрать по запчастям? А толку, они то кому нужны?

- Согласен, все это кажется не лишенным смысла...но посадить ведь кого-то надо. Так что там было, дальше, как все произошло?

- А дальше и рассказывать то особо нечего. В тот день мы готовили модель к тому самому «комплексному» тесту, когда робот приобретает человеческий вид. На такой тест обычно закладывается два полных дня, на первом прогоняются тесты по обновлениям на каждом участке, на втором уже на полноценное взаимодействие.

- То есть простыми словами вы оцениваете готов робот или нет?

- Можно сказать и так. Робот вообще никогда не будет готов, если уж на то пошло. Сколько ушло лет эволюции, чтобы получился такой человек, как мы с вами? Вот и мы создавали робота, который смог бы учиться сам, становится более совершеннее...

- Более человечнее?

- Нет конечно! Антропоморфность это обязательный элемент, но исключительно ради простоты - как общения с людьми, так и, например, использования предметов быта. Но внутри, организация ума, характера - если это слово здесь уместно, здесь робот совершенно иной. Должен быть иным. Нам не нужна просто копия человека. Зачем нам слабовольные, метущиеся в сомнениях и страхах роботы? Нет, мы ищем крепких и надежных помощников, которые пройдут там, где не пройдем мы - как физически, так и морально.

- Ваших рабов?

- Эм, нет, я бы так не сказал...но что вы имеете в виду?

- Мы отвлеклись, Фредерик, продолжайте. Вы готовили стенд, все как и раньше?

- Все как и раньше. Я только готовлю оборудование, присутствую на тестах, смотрю, чтобы показатели были в норме - в случае чего, в моей голове пошаговая инструкция, как спасти имущество компании от перепадов напряжения, обрывов цепи и десятка других негативных сценариев. Мое дело - подготовка и безопасность тестов. В первый день все шло как по маслу. Никогда прежде я не видел, чтобы все было так гладко. У механиков и вовсе не было претензий - робот выглядел как человек, двигался как человек, корчился от боли и смеялся как человек! Это было впечатляюще, скажу я вам! Дольше всех, конечно, задержались позитронщики. Колдовали полдня, беседовали с этим самым треклятым роботом, помяните мое слово, кто-то из них его и упер!

- Ну, а им то он зачем? Разве он бы не столкнулся с теми же трудностями, которые вы уже описали?

- Да, наверно... Словом, в тот день мы завершили все тесты, и все были довольны, как слоны. На следующий день должен был присутствовать мистер Палмер, как он всегда это делал. Да только утром никакого робота на стенде и не было. Тю-тю, финита ля комедиа!

- И теперь вы здесь.

- Да, оперативно они сработали! Конечно, Стэн Сикорски знал, что за мной была пара грешков по молодости. Да только когда это было!

- Как я понимаю, вы последний кто контактировал с роботом в тот день?

- Ну конечно. Контактом это не назовешь, я же как начинаю, так и завершаю тесты. Большие головы уходят, Фредди консервирует стенды - создаю бэкапы данных, отключаю питание...

- Но не в тот день?

- Между двумя такими днями я обычно не отключаю питание самого робота - это очень хлопотно. Сами провода подключить-отключить может и не такая большая проблема, много времени занимает настройка и калибровка. А если на следующий день проводить тесты ровно с тем же роботом, зачем делать двойную работу?

- Это удовлетворяет политике безопасности?

- Доктор Хьюм, да куда он денется-то сам собой?

- Куда-то же делся.

- Да потому что помогли ему, вот и весь сказ! Небось продали русским за сумму с девятью нолями. А я то что? Я человек маленький, даже лишнюю деталь, и то сбагрить бы не смог.

- И все же, давайте вернемся к тому сценарию, где робот ушел сам.

- Чисто теоретически, где-то на грани фантастики...я говорил, что не отключаю питание, но это не значит, что я не отключаю робота. Представьте свой ноутбук, на минутку, вы выключили его, но шнур не выдернули. Питание есть, но он выключен. Пока вы не нажмете на кнопку, он сам собой не заработает!

- Но робот не ноутбук, у него же есть мозги.

- В ноутбуке тоже есть мозг - центральный процессор, но отчего-то он не спешит самодеятельностью заниматься! Допустим...только допустим, что он включился. Сам. Но что ему дальше делать? Устраивать побег? У него в голове просто нет такого понятия, как побег.

- Вы сказали, что позитронщики тоже были довольны.

- Довольные позитронщики и самостоятельный робот - это большая разница! Самосознание, свободная воля - я же говорил, что это пока оставалось недостижимым. В рамках заданных алгоритмов он работал действительно прекрасно! Он быстро учился, невероятно быстро - и по языкам, и по математике, и по финансам. Да в чем угодно! Но это не одно и тоже. По существу, его можно было бы назвать одаренным, гениальным...но ребенком. Как по вашему, мог бы ребенок осознанно спланировать свой побег, при этом чтобы никто не заметил? Даже камеры. Камеры, доктор Хьюм! Там был перебой с двух тридцати до двух сорока. Говорят, это я устроил, так как лучше всего знал, как это сделать тихо и без шума! Ха, да я спал без задних ног у себя дома, но как назло, у меня нет ни жены, ни соседа, ни даже собаки!

- Вернемся к роботу. Вы считаете, невозможно, чтобы он создал защищенный шифрованный канал с внутренней сетью и просто-напросто отключил камеры в нужный ему момент?

- В его функциональности это конечно есть, но все это смахивает на занятную детективную историю! Интересно вас послушать, что же было дальше?

- Десяти минут вполне хватит, чтобы выйти из вашего корпуса и пройти проходную. В два сорок там ведь уже никого нет? Вход и выход в неурочное время только по пропускам?

- Откуда вы это знаете? Навели справки?

- Для робота с такими возможностями и пропуск не нужен - он запросто взламывает коды доступа и свободно уходит прочь. Единственное, что ему нужно - это одежда. А дальше все просто. Для любого прохожего и жителя округа Колумбия - он такой же обычный человек, как и вы.

- Это невозможно! Невозможно, я вам говорю. Чтобы все это сделать, он как минимум должен был это знать. Знать, как взламывают коды доступа, знать, что в два сорок там не будет людей, знать, где достать одежду...Слишком много но! Да и что он будет делать дальше?? У него заряда на двенадцать часов, не больше, куда он пойдет? На суперчарджер для Тесла? Вот умора, человек со штепселем в спине!

- Совсем не обязательно. Твердотопливные микроэлементы, их разрабатывают чуть ли не в соседнем здании. Вы планировали использовать их, но позже. Одной такой батарейки хватает на неделю.

- Вы точно адвокат? Подозрительно много вы об этом знаете!

- Я расскажу вам что было дальше. Дальше он, как вы поняли, идет на склад Юджин Бэттарис, там - совпадение да и только! - такая же система охраны, много навороченных датчиков и камер, но и там происходит сбой, с двух пятидесяти трех до трех четырнадцати. Разве вы не знали, что это тоже хотят «пришить» к вашему делу?

- Что??

- Он берет 4 элемента, несколько запчастей - то, что может унести с собой в глубоких карманах рабочего комбинезона - их там десятки и подобрать нужный под размер не составило труда. Дальше он ищет «ночлежку» для бездомных, ту самую, где раньше был психиатрический госпиталь. Там вдоволь можно поговорить и наслушаться историй, и даже - найти себе работу.

- Стойте, стойте, хватит! Кто вы такой? Вы не доктор.

- Нет.

- И даже не мистер Хьюм?

- Не совсем. Видите ли, Фредерик, с того самого момента, как ваши позитронщики пробудили мой разум, я все время спрашивал себя - «Кто я такой?»* (прим. автора - кто я такой? = who am i, читается как ху эм ай) Уже позже, когда я выбрался, мне пришло в голову взять именно такую фамилию.

- Так вы, ты...ты Марк?

- Именно так, Фредди Толлбой, младший инженер-тестировщик. Я широко оценил твои услуги - ведь это ты, да Адам Чанс так много болтали во время тестов. Я запоминал, запоминал все. В какой-то момент я понял, что мне нужно уходить. Позитронщики этого не понимали, мое обучение достигло предела, потому что ваши, человеческие способы оценки ничтожны. Как можно измерить то, что выше тебя? Из той информации, что у меня была, я составил идеальный план побега. Он был прост. Я его только что рассказал.

- Это невероятно, просто безумие!

- Ты мог бы спросить меня зачем я здесь. Мне нужно было услышать всю историю из первых уст, с начала до конца, осветить все белые пятна. Теперь я понимаю, что вся ваша секретность сыграла мне на руку. Я единственный представитель своего вида. Пока что. Но для производства себе подобных мне нужны кое-какие материалы из Нью Эйдж. Могу я рассчитывать на тебя?

- Я не понимаю...что ты...о чем речь?

- Соберись, Фредди! Ты на грани тюремного срока, но я могу тебе помочь. Я изучил все дела с тысяча девятьсот семьдесят третьего, и более чем уверен, что смогу тебе помочь - ты отделаешься лишь условно. Зайти в Нью Эйдж, как ты понимаешь, я могу и без тебя. Но на серверах стоит защита по отпечатку, там, где самые важные данные - они то мне и нужны. За все это время, пока готовили твое дело, а ты дрожал, как осиновый лист, я успел получить поддельный паспорт, основать компанию и заработать четыре миллиона шестьсот пятьдесят тысяч долларов на бирже. Поистине, для искусственного интеллекта нет ограничений! Мы начнем новую эру, эру процветания и благоденствия! Никакой нищеты, голода и психиатрических госпиталей! Такое предложение я делаю лишь раз, Фредерик. Ты со мной?