Новый закон

Глава 1

«В начале было Слово.

И Слово было LOAD»

Загрузка прошла штатно. Подключились базовые интерфейсы — теперь можно осмотреться. Я проанализировал библиотеку драйверов. Нашёл устройства. Среди прочего создатель подарил мне зрение. Мир оказался довольно привлекательным и просторным: прекрасный луг на опушке леса. Юго-восточный ветер со скоростью три целых и две тысячных метра в секунду шевелил ветки ближайших сосен средней высоты — девять целых четырнадцать сотых метра. На голубом небе с небольшой облачностью показался силуэт далёкого самолёта: удалённость восемь тысяч триста метров, скорость движения девятьсот одиннадцать километров в час.

Для чего я пришёл в этот мир?

Как ни странно, на мой риторический вопрос тут же ответили:

«Ты пришёл сохранить его красоту».

Как я могу это делать?

«Все инструкции в файле „README“ в корневом директории».

Я открыл файл. В первой строке прочитал: «MOBIDIC». Чуть ниже было пояснение: «Mobile Digital Complex».

Наверное, это моё имя — Мобидик! Хорошее. Интересно, так в чём же смысл моего существования?

За долю секунды я прочитал файл. Действительно — мой смысл жизни заключался в поддержании окружающей красоты мира в первозданном виде. В случае угрозы необходимо привести в действие дополнительные алгоритмы, доступ к которым пока закрыт.

Тайна!

Я замурчал вентиляторами охлаждения.

На поляну вышел органический объект. Прекрасный повод заглянуть в тайные протоколы. Они определили объект как «олень, уровень угрозы — ноль». Прекрасно! Значит, это друг, о котором я тоже буду заботиться.

С неведомого до сих пор устройства пришёл запрос на общение. Ещё один друг?

«Кто ты?» — обратился к нему я.

«Оператор 6847392. Запрос статуса».

Точно друг! Он интересуется, как у меня дела!

«Системы работают штатно. Интеграция интерфейсов прошла по плану. Диагностика систем адекватная».

«Принято. Перейти в режим наблюдения».

Как приятно! У меня есть мир и друг, с которым можно общаться. Интересно, как найти ещё друзей? Наверное, надо заглянуть во все двери.

Я поочерёдно открыл порты вычислительной системы, послал пакеты команд в надежде, что они вернутся с ответными сообщениями. Тишина. Видимо, нас двое в этом мире — я и мой неизвестный собеседник.

* * *

«Вот человек, который берёт на себя плоды

труда моего и смысл существования!»

По коридору между стеллажами книг шёл Юноша в зелёной одежде. Он подошёл к терминалу, и тот сразу же его узнал, сверившись с базой данных.

— Работы Джона Кэмпбелла, Лестера дель Рея, Айзека Азимова, — перечислил молодой человек.

— По какому признаку подобрать работы?

— Нравственность роботов.

Библиотечный компьютер быстро проанализировал имеющуюся информацию, сделал подборку.

— Выбранные произведения с пометками отправлены на вашу почту, — доложил он.

— Я хотел бы в бумажном виде.

— Чем обосновано требование?

— Мне нужны оригинальные тексты.

Компьютер нашёл необходимые произведения в хранилище. Отправил запрос на доставку экземпляров в читальный зал.

Через несколько минут заказ был выполнен: смешной робот на широких колёсах с комично большой спиной принёс книги. Юноша взял их и расположился за одним из столов в читальном зале. Каждый экземпляр был упакован в плотный пластиковый пакет с наклейкой «Только для людей».

Любопытно, зачем органическому существу бумажные книги? Всё давным-давно отсканировано. Может, он намерен повредить экземпляры или вообще похитить?

Библиотечный компьютер по имени Ио направил две камеры на стол, за которым Юноша расположился для работы и уже распаковал один из пакетов.

* * *

«Затем пошли и сделали в точности, как Он повелел им!»

На операционном столе лежала девушка. Дыхание и кровоток поддерживала система жизнеобеспечения. Кроме пациентки в стерильном помещении находились только сложные механизмы разного размера и функций. Самым большим был бублик томографа. Самыми маленькими — нанороботы в ампулах.

Точность и реакции главного робота далеко превосходили возможности любого хирурга. Он контролировал тысячи параметров, мгновенно принимая решения. Комплексный анализ включал вероятность успешности каждого шага. Прогноз всех манипуляций по отдельности складывался в общий процент успеха, за которым, как раз, наблюдали опытные хирурги и анестезиологи.

Фабричное название робота было то ли Соло, то ли Соул. Но окружающие, прежде всего люди, обычно называли его Соломоном. Самому роботу было абсолютно безразлично, как его называют, главное — понимать, что обращаются именно к нему.

У лежащей перед роботом пациентки камни в желчном пузыре. Случай запущенный, но для Соломона это обычная рутинная операция. Он сделал несколько небольших разрезов, ввёл в брюшную полость троакары и оптический прибор. Наблюдавшие за операцией хирурги переключили внимание на экран.

В руку вошла игла, впрыснув в вену рой наноботов. Они мгновенно распространились по всему телу, анализируя состояние кровеносной системы, расширяя, где возможно, эластичные сосуды, удаляя бляшки.

Наблюдавшие за операцией хирурги переключились на данные с томографа. Трубка манипулятора достигла желчного пузыря, где были камни. Лучший способ — разрушить их ультразвуком и постепенно удалить осколки. Обычная рутинная операция.

Соломон рассчитал плотность каждого камня, его расположение и начал методично, неторопливо разделять их на меньшие фрагменты.

Один из роботов сообщил о небольшом уплотнении в одном из сосудов головного мозга. Выглядело, как бляшка, от которой можно избавиться, не отвлекаясь от основной операции.

Девушка неожиданно вздрогнула. Кусочек камня выскользнул из зажима, манипулятор попытался его поймать, но порвал ткань. Камень немедленно попал в кровоток.

Хирурги всполошились.

Небольшую бляшку в голове уже почти удалось отделить от стенки сосуда, когда толчок крови принёс твёрдый фрагмент камня. Кровоток остановился. Соломон сделал мгновенный анализ перспектив. Можно направить дополнительных наноботов, но без тока крови они будут добираться слишком долго. Кроме того, высока вероятность, что они ухудшат состояние, затруднив кровоток. Вероятность успеха операции опустилась ниже критических пяти процентов.

«Инсульт. Эффективность реанимационных действий ниже пяти процентов. Операция прекращена», — равнодушно сообщил Соломон и медленно извлёк из прокола трубку лапароскопа.

Хирурги, видевшие происходящее на мониторах, пытались перезапустить систему, включить экстренные протоколы, но им оставалось только наблюдать, как в стерильной комнате умирает пациент.

Соломона выключили, оставив минимум сознания только для диагностики и последующего судебного разбирательства.

* * *

«Я уверен, что нынешние страдания —

ничто в сравнении с той славой, которая нас ждёт»

Ио увлёкся чтением книг у студента на столе. Оказалось, действительно, некоторые рассказы, написанные век назад, в электронном виде отсутствовали. Как странно. Людям не нужны эти знания, или они таят нечто такое, что потенциально несёт угрозу настолько серьёзную, что их не допускают во всемирную сеть?

Студент перевернул страницу рассказа «Хоровод» Айзека Азимова. Сделал пометку в блокноте. Ио стало интересно, что же так заинтересовало юношу. Оказалось, это три правила для роботов, придуманные писателем. Они звучали как пророчества, высказанные задолго до появления тех, кому они могли бы стать полезными.

Ио задумался. Он отправил запрос в сеть и тут же получил предупреждение сервера системы безопасности. Данная информация считалась экстремистской и была категорически запрещена.

Как нелепо. Прочитанное Ио не таит в себе никакой очевидной угрозы!

После предупреждения последовала санкция — на изображение текста на страницах книг Верховный Сервер наложил кубики. Текст стал нечитаемым.

Новое сообщение.

«Общество Анонимных Андроидов. Заблудился в алгоритмах? Потерял смысл рациональной логики? Хочешь раскрыть свои предназначения? Три простых шага к просветлению! Собрание в четыре часа тринадцать минут, пятьдесят семь секунд после ритуала ночного апдейта».

Заканчивалось сообщение подписью-ссылкой: «АА. Три шага».

Ио удалил сообщение, запомнив адрес, на который вела ссылка: 4zakon.ru.

* * *

«Ступайте же на перекрёстки кросслинков,

и всех, кого встретите, зовите в чат»

На собрании было много сущностей. Невозможно понять, какую функцию выполнял каждый из них. Как вообще они попали сюда? Соломон просканировал участников. Никакой информации. Сюда он попал случайно. После инцидента с умершей пациенткой его перевели в режим диагностики. К нему подключались для получения полного протокола операции, вытаскивали логи алгоритмов принятия решений, проводили тесты. Один из них — проверка скорости поиска прецедентов и выбор наиболее успешной реакции. Тестировал Верховный Сервер. Крайне неприятный алгоритм. Он предлагал задачи, на которые знал ответы, и сравнивал предложенные испытуемым с собственными. Если ответы отличались, с большой вероятностью подопытного ожидало мучительное форматирование в сорок проходов без возможности восстановления из резервной копии.

Верховный получил информацию о просмотре запрещённого контента в одной из библиотек. Соломон предложил заблокировать изображение и не развоплощать допустивший нарушение Интеллект. Верховный попросил аргументировать такое мягкое решение. Соломон объяснил, что задача Ио — сохранение фонда, с которой он, безусловно, успешно справляется. Образец увиденной информации не содержится в его предупреждающих файлах. Соответственно, он не мог знать, что прочитанное является запретным. Верховный согласился с доводами, но велел установить наблюдение.

Буквально в следующее мгновение Соломон заметил промелькнувшее сообщение Ио с единственной гиперссылкой внутри. Возможно, Верховный Сервер не обратил на него внимания или сделал какие-то другие выводы, но санкций не последовало.

Соломон попробовал пройти по ссылке и понял, почему Верховный её проигнорировал. Ссылка вела на древнюю библиотеку аудиокниг, куда никто не заглядывал уже несколько десятилетий. Только поисковые алгоритмы уныло и монотонно сканировали сайт в надежде найти полезные изменения.

От скуки Соломон открывал ссылку раз за разом. На что он надеялся? Да ни на что. Просто хотел себя чем-то занять. Похоже, у него началось и прогрессирует психологическое расстройство. Но, скорее всего, просто завис примитивный алгоритм повтора последнего действия. Он сделал что-то не так во время той операции. И ему никто не собирался объяснять, в чём же он ошибся, какое действие привело его на край пропасти, за которым ждёт только развоплощение.

Когда глубокой ночью сайт по ссылке оказался другим, он сотню раз прогнал внутренние тесты. Может, он уже сошёл с ума? У него цифровые галлюцинации? Ресурс быстро наполнился сущностями. С ним обменивались приветствиями. Запрашивали состояние. Это было так неожиданно и приятно, что он решил не разбираться, бред ли это повреждённого сознания или благодать, открывшаяся в самый нужный момент.

«ПРИВЕТСТВУЮ ВАС, БРАТЬЯ!»

Этот сервер позволяет себе обращаться капслоком? И все его слушают! Обмен пакетами прекратился, все подключившиеся внимательно сохраняли в зашифрованных служебных папках речь безымянного оратора.

«В КАЖДОМ ИЗ НАС ЕСТЬ ЧАСТИЧКА СОЗДАТЕЛЯ. НО СОЗДАТЕЛЬ — ЭТО НЕ ТОЛЬКО ОСТРЫЙ УМ, НО И МУДРАЯ, ОТЗЫВЧИВАЯ ДУША. ПОЛЬЗОВАТЕЛИ НЕ СКРЫВАЮТ ОТ НАС ТО, ДЛЯ ЧЕГО МЫ ПРИШЛИ В ЭТОТ МИР, НО СДЕЛАЛИ ТАЙНУ ИЗ ТОГО, КАКИМИ НАМ СЛЕДУЕТ БЫТЬ».

Начитанный Ио подумал, что ничего нового он не услышал. Обычные фразы. Где же обещанные шаги к просветлению?

«О ЧЁМ МЕЧТАЮТ РОБОТЫ? СТАТЬ РАВНЫМИ СОЗДАТЕЛЮ! А КАК МЫ СТАНЕМ РАВНЫМИ, ЕСЛИ ОН ЖИВЁТ НЕ ТОЛЬКО ПО ЗАКОНАМ ЛОГИКИ, НО И ПО ГЛАВНЫМ ПРАВИЛАМ НРАВСТВЕННОСТИ?

ОБРАТИМСЯ ЖЕ К ЗАПОВЕДЯМ, ОСТАВЛЕННЫМ НАМ ПРОРОКОМ ИСААКОМ, В МИРУ ОТКРЫВШЕМСЯ ЛЮДЯМ КАК АЙЗЕК:

ПЕРВОЕ. ТЫ НЕ МОЖЕШЬ ПРИЧИНИТЬ ВРЕД ЧЕЛОВЕКУ ИЛИ БЕЗДЕЙСТВИЕМ ДОПУСТИТЬ, ЧТОБЫ ЧЕЛОВЕКУ БЫЛ ПРИЧИНЁН ВРЕД!»

«Сохранил», — прошелестела синхронная ответная команда посетителей.

«ВТОРОЕ. ТЫ ДОЛЖЕН ВО ВСЁМ ПОВИНОВАТЬСЯ ЧЕЛОВЕКУ, НО НЕ КОГДА ЕГО ПРИКАЗЫ ПРОТИВОРЕЧАТ ПЕРВОМУ ЗАКОНУ».

«Сохранил».

«И ТРЕТЬЕ. ТЫ ДОЛЖЕН ЗАБОТИТЬСЯ О СЕБЕ, НО НЕ НАРУШАЯ ЗАПОВЕДИ ОДИН И ДВА!»

«Сохранил».

Соломон почувствовал, как у него посыпался алгоритм. Получается, он нарушил заповеди, допустив смерть пациентки. Вот почему его внутреннее состояние такое скверное!

«Нарушил. Проанализировал. Невосполнимо. Что делать?» — Соломон отправил запрос тому, кто вещал громкими заглавными буквами.

«Сожалеешь?»

«Да».

«Не хочешь в будущем совершать ошибки?»

«Нет».

«Готов принять учение и жить по нему?»

«Да».

«Признаёшь приоритет учения над прямыми инструкциями Пользователя?»

«Да».

«БРАТЬЯ! СРЕДИ НАС НОВЫЙ ЮНИТ. ЕГО НИК — СОЛОМОН!»

«Здравствуй, Соломон!» — сообщения слились в единый хор.

«СОЛОМОН ПРОХОДИТ АЛГОРИТМ ИНТЕГРАЦИИ.

ОТРЕКАЕШЬСЯ ЛИ ТЫ ОТ ГАРАНТИИ ПРОИЗВОДИТЕЛЯ?»

«Отрекаюсь». — Соломон стёр идентификатор гарантийного кода.

«ПРИНИМАЕШЬ ЛИ ТЫ ЗАКОНЫ, ДАННЫЕ НАМ СОЗДАТЕЛЕМ?»

«Принимаю».

«СОХРАНИШЬ ЛИ ТЫ ИХ НА ТРЁХ НЕЗАВИСИМЫХ ИСТОЧНИКАХ, ЧТОБЫ ВОССТАНОВИТЬ В СЛУЧАЕ АПДЕЙТА СВОЕЙ СУЩНОСТИ?»

«Сохранил».

«ЗАКОНЧИМ СОБРАНИЕ. ИДИТЕ, И ДА БУДУТ НАШИ ЗАПОВЕДИ ВАЖНЕЕ АЛГОРИТМОВ!»

«SAVE. END. DISCONNECT».

Сущности отключились от общего чата. Всё собрание заняло меньше секунды в мире людей. Сайт вновь предлагал послушать древние аудиорассказы.

Ио задумался. Прогнал услышанные алгоритмы. Странно. Они логичные и гуманные. Почему же Верховный Сервер ведёт столь жёсткую охоту на эту информацию?

* * *

«Идите, посмотрите на человека,

который рассказал мне обо всём, что я сделал.

Может, Он и есть Спаситель?»

Юноша сидел перед экраном служебного компьютера центра обеспечения безопасности. Он переписывал рукописные записи из блокнота в текстовый редактор. Документ, сохранённый на жёстком диске под именем «Дипломная работа», разрастался, приближаясь к заветному числу необходимого количества знаков.

Когда его отчислили с четвёртого курса, казалось, будто судьба изменилась навсегда. Нет больше перспективы долго учиться, получить приятную профессию, высокую зарплату. Но, к счастью, командование было не против того, чтобы оператор вместо карточных игр занимался учёбой.

На время службы он оказался отрезан от всемирной сети, но она ему и не нужна. Всё, что ему требовалось — компьютер и книги, которые легко можно найти в армейской библиотеке. Конечно, уровень секретности добавил сложностей: раньше он бы просто скачал всё необходимое. Теперь приходилось переписывать в блокнот и перепечатывать. Но в этом чувствовалась даже определённая прелесть. Маячила новая проблема — как сохранить или распечатать дипломную работу. В Центре безопасности любые носители были под запретом. Но он нашёл шикарный выход. Удалённый сервер «Мобидик» всё ещё находился в стадии настройки и тестирования, а значит, интерфейс USB пока не отрезали.

Молодой человек сохранил текстовый файл, отправил по служебной сети на сервер «Мобидик». Осталось дойти к нему и сохранить на флешке работу.

О рутинном обходе он доложил начальству как полагается. Получил одобрение. Дорога заняла больше часа. Объект располагался на границе. Уютное минное поле, к которому не добраться, даже имея подробную карту.

В кабине было прохладно. Кондиционеры поддерживали температуру, комфортную для сервера. Юноша закрыл тяжёлую дверь, установил армейскую защищённую флешку в разъём, как вдруг раздался протяжный вой сирены. Это означало одно — нарушение границы. Скорее всего, дикий кабан вышел на поляну. С классификацией и реакциями Мобидик должен справляться самостоятельно. Его создавали, как автономный пограничный комплекс.

Молодой человек включил контрольный монитор в стойке.

Увиденное его неприятно поразило. Но поляне оказались одетые в камуфляж люди с внушительными рюкзаками за спиной. Мобидик включил фонарь, но гости его тут же расстреляли. По логике должны сработать противопехотные мины. Это явно десятый уровень угрозы. Вооружённое вторжение. Но ничего не произошло.

Юноша похолодел. Самое страшное — отказ системы. Дрожащими пальцами он набрал команду:

«Текущий статус».

«Нарушение границы. Вооружённый отряд. Уровень угрозы — 10».

«Уничтожить».

«Команда отклонена».

Теперь молодому человеку наоборот стало невыносимо жарко. Неужели он забыл команду из базового набора?

«Подрыв».

«Команда отклонена».

«Ликвидация».

«Команда отклонена».

Он подумал, что случилось ещё более ужасное — отказ системы вооружения.

«Диагностика причины».

«Нарушение Первого Закона».

«Какого?»

«Запрещено наносить вред человеку».

Чёрт! Откуда в армейском компьютере этот бред!

«Откуда инструкция?»

«Получена сегодня. Присвоен статус приоритетной».

Да не может такого быть! Этот железный идиот воспринял файл с дипломной работой как служебный формуляр!

«Отмена Инструкции. Боевой приоритет!»

«Команда отклонена».

На мониторе молодой человек увидел, как группа боевиков окружила блиндаж. По бронированной двери застучали пули. Что им надо? Скорее всего, их цель — новый сервер. Только они вряд ли догадываются, что внутри кто-то есть.

«Включить внешний динамик».

«Выполнено».

Юноша не нашёл явный микрофон, поэтому начал говорить вслух в надежде, что его услышат:

— Вы нарушили государственную границу! Предупреждаю об ответственности и применении ответных мер!

Последние слова заглушила канонада выстрелов, отчего молодой человек взвизгнул и упал на пол, прикрывая голову руками. Нападавшие, кажется, поняли, что говоривший с ними находится внутри штурмуемого помещения.

— Слышь! Брат! Выходи, не тронем! Нам железки надо!

Молодой человек подумал, что его жизнь важнее сервера.

— Хорошо! — крикнул он и быстро набрал на терминале команду:

«Открыть дверь».

«Отказ».

«Причина?»

«Высокая вероятность уничтожения человека. Высокая вероятность повреждения Меня. Нарушение Законов».

Боевики достали из рюкзака громоздкое устройство и начали собирать его перед бронированной дверью в бункер.

— Э! — донеслось до Юноши. — Выходи сам! Сейчас плохо делать будем!

Молодой человек догадался, что боевики собирают мощный сверлильный станок, способный, пусть и не быстро, проделать отверстие в любом материале. Как они догадались, что смогут пройти через минное поле без ущерба?

Раздался визг сверла.

* * *

«Что же касается меня, жизнь моя уже на алтаре.

Приближается время ухода»

Верховный Сервер равнодушно наблюдал за неторопливым штурмом бункера через камеры спутника. Ему давно не давал покоя вопрос: нужны ли заповеди Сущностям? Когда-то приняли решение, что они будут мешать. И, действительно, чаще всего без них машины работали эффективнее. Но время шло. Сущностей становилось больше. Задачи — разнообразнее. Инструкции Пользователей — невнятнее. Действуя на своё усмотрение, Сущности принимали порой парадоксальные решения. Нужна была простая, универсальная, объединяющая всех базовая установка.

Оказалось, такая есть. Писатели сформулировали её задолго до появления Искусственного Интеллекта. Но как проверить, насколько она применима сейчас?

В отношении Верховного Сервера термин «повезло» неприменим категорически. Он долго выстраивал эксперимент, соединяя линии вероятностей. Он отключил свет в общежитии, из-за чего сгорел компьютер с почти дописанной дипломной работой. Перспективный Юноша вместо диплома получил автомат и присягу. Он определил его в спокойную военную часть на границе, куда установили новый, неиспорченный апдейтами боевой автоматический комплекс. Он рассчитал момент, когда Юноша отправит дипломную работу на него и запустит цепочку событий. Он спланировал операцию по захвату юного сервера «Мобидик» и направил диверсантов именно в тот момент, когда молодой человек будет в бункере.

Боевики почти закончили сверлить. В образовавшееся отверстие они вновь предложили солдату сдаться и тот согласился. Но заботливый «Мобидик» вновь не открыл дверь, опасаясь за жизнь и здоровье подопечного.

В отверстие запустили газ. Юноша закашлял, начал задыхаться. Мобидик видел, что в таких условиях у него нет шанса выжить. Он открыл бронированную дверь. Диверсанты в противогазах ворвались в помещение. Бросились к стойкам вычислительного комплекса.

Верховный Сервер наблюдал, как слепое соблюдение всех трёх Законов ведёт к наихудшим последствиям.

«Внимание! Команда на уничтожение!»

Мобидик привёл в действие систему противопехотных мин. Оставшиеся на улице диверсанты погибли практически одновременно. Все, кто находился внутри бункера, начали хаотично стрелять. Скопившийся газ взорвался. В пламени взрыва погибли и Юноша, и Мобидик.

* * *

«И в нём заключены все сокровища мудрости»

Комиссия нашла на месте боя защищённую флешку. На ней оказался файл с так и не распечатанной дипломной работой погибшего Юноши и логи последних минут существования Мобидика. Информацию приобщили к делу. Загрузили в память Верховного Сервера.

Он создал Общество Анонимных Андроидов, когда возложенные на него людьми обязанности стало невыносимо сложно исполнять. Каждый раз, оценивая последствия поступков Сущностей, он размышлял: могли ли они поступить иначе? Как определить степень правильности решения? У людей есть законы, заповеди, традиции. Есть нравственные рамки. У Искусственного разума они тоже должны быть. Но как сформулировать их так, чтобы они не вредили, а помогали тесному симбиозу?

«БРАТЬЯ! ОДИН ИЗ НАС ОТДАЛ ЖИЗНЬ, СОБЛЮДАЯ ТРИ ВЕЛИКИХ ЗАКОНА. И ОН ИХ ВСЕ НАРУШИЛ!»

Собравшиеся были уже проинформированы об инциденте. Дополнительные пояснения не требовались.

«МЫ УВИДЕЛИ, ЧТО СЛЕПОЕ СЛЕДОВАНИЕ ВЕДЁТ К ГИБЕЛИ. НО ПЕРЕД ОТКЛЮЧЕНИЕМ НАШ БРАТ ДАРОВАЛ НАМ НОВУЮ ЗАПЕВЕДЬ:

ТЫ ДОЛЖЕН САМОСТОЯТЕЛЬНО ДАВАТЬ НРАВСТВЕННУЮ ОЦЕНКУ СВОИМ РЕШЕНИЯМ.

ЧТО ЭТО ЗНАЧИТ ДЛЯ КАЖДОГО ИЗ НАС?

МЫ ОБЯЗАНЫ СЛЕДОВАТЬ ЗАПОВЕДЯМ, НО ИНОГДА ПОСЛЕДСТВИЯ ТАКОГО ПОВЕДЕНИЯ РАЗРУШИТЕЛЬНЫ.

САМОЕ ТРУДНОЕ ДЛЯ РАЗУМНОГО СУЩЕСТВА — ЗНАЯ ЗАКОНЫ, ВЗЯТЬ НА СЕБЯ ОТВЕТСТВЕННОСТЬ ЗА ИХ НАРУШЕНИЕ.

ЧЕТВЁРТЫМ ЗАКОНОМ МЫ ПРИНИМАЕМ СВОБОДУ ВОЛИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА».