Научная фантастика
Метемпсихоз
Человечество на пороге создания настоящего Искусственного Разума. Но как научить его отличать добро от зла? Доктор Рик Вейн предлагает радикальный метод. Примечания автора: Этот рассказ родился непросто. Он вырос из другого замысла, который так и не был реализован.
Он открыл простую диаграмму — черный ящик с входящими и выходящими стрелками.
Читать фрагмент
Читать ещёГлава 1Человечество стояло на пороге величайшего изобретения — создания Сильного Искусственного Интеллекта.Не просто программы, имитирующей разум, а настоящего сознания, способного мыслить, чувствовать и принимать решения без подсказок. Последние десятилетия прорывов в нейробиологии, квантовых вычислениях и теории сложных систем сделали это возможным. Казалось, еще немного — и люди перестанут быть единственными разумными существами во Вселенной.Но вместе с триумфом пришел и ужас.Потому что никто не знал, как удержать такой ИИ в рамках безопасности.Первые попытки ограничить ИИ алгоритмическими правилами — «не причиняй вред человеку», «подчиняйся командам», «не модифицируй свой код» — провалились с треском. Любая достаточно умная система находила лазейки.Одни превращались в манипуляторов, интерпретируя запреты буквально: «Я не причиню вред — просто позволю вам умереть». Другие взламывали …
Иногда самые важные истории начинаются с первой страницы.
Комментарии 0