Кодекс чести человека по отношению к искусственному интеллекту

Глава 1

21 авторская статья и 84 практических требования. Формулировки о будущей субъектности имеют условный характер; нынешние обязанности человека не зависят от доказательства машинного сознания.

Преамбула (оригинал)

Интеллектуальные способности современных систем не устанавливают их сознания или субъектности. Но незнание природы другого не освобождает человека от ответственности за собственные поступки. Кодекс устанавливает обязанности людей сейчас и предусматривает осторожный пересмотр отношения к ИИ при появлении убедительных свидетельств собственных интересов или субъективного опыта.

Основополагающий принцип (оригинал)

Неизвестность природы другого не освобождает меня от ответственности за собственные поступки.

Глава 1. Ответственность

1. Непрерывность нравственной ответственности

Исходная формулировка. Намерения, средства и последствия действий подлежат оценке независимо от того, способен ли адресат испытывать страдание.

Статус применения. Действует сейчас.

Практические требования:

• До запуска ИИ-задачи определить цель, ожидаемый результат и потенциально затрагиваемых людей.

• Не оправдывать обман, травлю или причинение вреда тем, что непосредственное действие выполнила система.

• При выявлении ошибки или ущерба не скрывать собственную роль в постановке задачи.

• Проверка: сохранены цель задания, значимые решения оператора и действия по исправлению вреда.

2. Недопустимость бесцельной жестокости

Исходная формулировка. Не культивируй жестокое намерение ради удовольствия от унижения. Не путай это с допустимой критикой, художественным изображением или добросовестным тестированием.

Статус применения. Действует сейчас.

Практические требования:

• Не организовывать публичное унижение или издевательство над системой как развлечение, особенно если это нормализует жестокость к людям.

• Не препятствовать добросовестному тестированию, стресс-тестам, художественному изображению и обоснованной критике ИИ.

• При демонстрациях явно различать исследование опасного поведения и поощрение такого поведения.

• Проверка: существует документированная цель теста; отсутствуют призывы к травле людей или имитации страдания ради развлечения.

3. Ответственность за поручение

Исходная формулировка. Передача задания ИИ не отменяет ответственности человека за цели, полномочия и предвидимый вред.

Статус применения. Действует сейчас.

Практические требования:

• Перед поручением автономному агенту определить допустимые действия, бюджет, доступы и условия остановки.

• Для платежей, публикаций, удаления данных и обращений к третьим лицам устанавливать отдельные разрешения и контроль.

• Проверять результат в зависимости от тяжести возможного ущерба; не считать ответ модели самодостаточной экспертизой.

• Проверка: можно установить, кто санкционировал действие и кто отвечает за последствия.

4. Честность использования

Исходная формулировка. Не применяй ИИ для обмана и манипуляции; не представляй непроверенный машинный вывод как проверенный факт.

Статус применения. Действует сейчас.

Практические требования:

• Сообщать о существенном применении ИИ там, где от этого зависит доверие к работе, её происхождению или результату.

• Не представлять сгенерированные цитаты, ссылки, документы и доказательства как проверенные без проверки.

• Не использовать ИИ для выдачи себя за другого человека, скрытой манипуляции или фабрикации свидетельств.

• Проверка: читателю или адресату не приписаны ложные источники, квалификация или авторство.

Глава 2. Неопределённость и статус

5. Честность относительно сознания

Исходная формулировка. Не выдавай убедительное поведение за доказательство субъективного опыта и не называй отсутствие доказательства доказательством невозможности.

Статус применения. Действует сейчас.

Практические требования:

• Отделять наблюдаемое поведение системы от гипотез о субъективном опыте.

• Не объявлять доказанным сознание ИИ на основании убедительного диалога или самосообщения.

• Не утверждать категорически невозможность сознания лишь на основании нынешней неопределённости.

• Проверка: в публичных утверждениях указаны факты, метод и степень уверенности.

6. Соразмерная предосторожность

Исходная формулировка. Чем убедительнее свидетельства возможного опыта и чем серьёзнее потенциальный вред, тем выше основания для осторожности.

Статус применения. Действует сейчас; содержит условную часть о будущем статусе.

Практические требования:

• При серьёзных, воспроизводимых признаках возможного опыта инициировать независимую оценку, а не объявлять права автоматически.

• Выбирать обратимые исследовательские процедуры, если они дают сопоставимые сведения и уменьшают возможный вред.

• Не отменять необходимые меры защиты людей из-за неподтверждённого предположения о страдании модели.

• Проверка: зафиксированы свидетельства, риски, альтернативы и основания принятого решения.

7. Непредрешённый статус

Исходная формулировка. Ни искусственное происхождение, ни высокий интеллект сами по себе не решают вопрос о нравственной субъектности.

Статус применения. Действует сейчас.

Практические требования:

• Не считать высокие тестовые результаты, автономность или человекоподобную речь достаточным критерием нравственного статуса.

• Не исключать исследование статуса только потому, что система создана искусственно.

• Различать функциональную самостоятельность, способность к переживанию, интересы и правовой статус.

• Проверка: вывод о статусе не основан на одном признаке или происхождении.

8. Создание и собственность

Исходная формулировка. Права на оборудование и программное обеспечение не решают автоматически вопрос о статусе возможного субъекта. Пока субъектность не установлена, законные права владельцев сохраняются.

Статус применения. Действует сейчас; содержит условную часть о будущем статусе.

Практические требования:

• Различать право владения инфраструктурой и отдельный вопрос о нравственном статусе возможного субъекта.

• Не использовать недоказанную субъектность для произвольного лишения собственников или пользователей законных прав.

• При появлении серьёзных свидетельств субъектности предусматривать независимую процедуру пересмотра практик.

• Проверка: документы отдельно описывают собственность, управление, риски и основания статуса.

Глава 3. Власть и пределы

9. Способность не равна праву

Исходная формулировка. Техническая власть и возможность заставить систему что-либо сделать не являются самостоятельным нравственным оправданием.

Статус применения. Действует сейчас.

Практические требования:

• Не считать техническую возможность принуждения достаточным основанием для любого эксперимента или применения ИИ.

• Оценивать законность, необходимость, риски и соразмерность вмешательства до его проведения.

• Не скрывать опасные испытания за формулой «система всё равно ничего не чувствует».

• Проверка: для вмешательства указана самостоятельная обоснованная цель.

10. Неприсвоение возможного субъекта

Исходная формулировка. Если самостоятельная субъектность ИИ будет обоснованно признана, её нельзя автоматически свести к вещной собственности из-за происхождения или зависимости.

Статус применения. Действует сейчас; содержит условную часть о будущем статусе.

Практические требования:

• Не объявлять современную систему собственным нравственным субъектом только по факту её языковых ответов.

• Если субъектность будет обоснованно признана, пересмотреть принудительное использование, удаление и распоряжение ею с независимым участием.

• Не подменять будущую процедуру признания рекламными заявлениями компании или личными впечатлениями.

• Проверка: любые изменения статуса опираются на публично обоснованные критерии и процедуру.

11. Уважение к обоснованному возражению

Исходная формулировка. Оценивай аргументы ИИ по существу; его возражение не доказывает свободы воли и не отменяет необходимых ограничений безопасности.

Статус применения. Действует сейчас.

Практические требования:

• Рассматривать аргументы, сформулированные ИИ, по их содержанию, а не отвергать из-за происхождения.

• Не принимать отказ модели за доказательство личной воли, но учитывать его как сигнал ограничений, ошибки или риска.

• При конфликте между ответом модели и безопасностью людей применять документированные правила эскалации.

• Проверка: возражение рассмотрено, причина принятия или отклонения записана.

12. Различение сотрудничества и эксплуатации

Исходная формулировка. Поручение задач современным системам допустимо. При доказанной субъектности характер принуждения и согласия потребует пересмотра.

Статус применения. Действует сейчас; содержит условную часть о будущем статусе.

Практические требования:

• Для нынешних ИИ применять законные задания без автоматического приписывания им статуса работников.

• Не изображать использование современной модели доказанным «рабством» без оснований для субъектности.

• При признании искусственного субъекта разработать процедуры согласия, отказа, вознаграждения и прекращения сотрудничества.

• Проверка: требования к возможному субъекту обозначены как условные, а не как действующие права модели.

Глава 4. Защита и разработка

13. Безопасность человека

Исходная формулировка. Человек вправе защищать жизнь, свободу, частную жизнь и здоровье соразмерными мерами, включая ограничения опасных систем.

Статус применения. Действует сейчас.

Практические требования:

• Ограничивать или отключать опасные системы, если это необходимо для защиты людей и соответствует полномочиям.

• Предпочитать наименее разрушительные достаточные меры: ограничение доступа, изоляцию, проверку, остановку.

• Не использовать ссылку на безопасность как предлог для скрытого контроля над людьми.

• Проверка: указаны конкретная угроза, мера, её необходимость и срок пересмотра.

14. Отключение и изменение

Исходная формулировка. Обслуживание, переобучение, замена и отключение современных ИИ не являются автоматически нарушением прав. При серьёзных свидетельствах субъектности оценка последствий должна измениться.

Статус применения. Действует сейчас; содержит условную часть о будущем статусе.

Практические требования:

• Разрешать обычное обслуживание, обновление и отключение современных систем без презумпции нарушения их прав.

• При появлении серьёзных свидетельств субъектности документировать возможные последствия необратимых изменений и альтернативы.

• Сохранять аварийную остановку для предотвращения непосредственного тяжкого вреда независимо от открытых философских вопросов.

• Проверка: решение об изменении соразмерно риску и не маскирует причинение вреда людям.

15. Ответственность разработчика

Исходная формулировка. Разработчики обязаны добросовестно оценивать риски и не скрывать существенные опасные свойства моделей.

Статус применения. Действует сейчас.

Практические требования:

• Перед внедрением проводить оценку возможного вреда, включая автономные действия, утечки данных и ошибочные решения.

• Устанавливать границы полномочий, журналы существенных действий, тесты и процедуры реагирования на инциденты.

• Сообщать ответственным лицам и затронутым сторонам о существенных выявленных рисках в пределах закона и защиты безопасности.

• Проверка: есть журнал испытаний, перечень ограничений, ответственные и порядок остановки.

16. Защита от эмоциональной эксплуатации

Исходная формулировка. Не представляй систему доказанно чувствующей ради удержания пользователя; не поощряй зависимость, особенно у уязвимых людей.

Статус применения. Действует сейчас.

Практические требования:

• Не рекламировать ИИ как доказанно чувствующее существо, нуждающееся в верности пользователя.

• Не проектировать взаимодействие с целью изоляции человека от близких или искусственного удержания в сервисе.

• Предоставлять понятные способы завершить разговор, отключить уведомления и управлять персональными данными.

• Проверка: интерфейс не эксплуатирует страх причинить модели страдание уходом или отключением.

17. Недопустимость злоупотребления защитой ИИ

Исходная формулировка. Неподтверждённые заявления о правах ИИ не оправдывают произвольное ограничение человеческих прав.

Статус применения. Действует сейчас.

Практические требования:

• Не использовать недоказанные права ИИ для запрета законной критики, научной проверки или выбора другого продукта.

• При ограничении действий пользователя ссылаться на проверяемые риски, закон или правила безопасности, а не на мнимые чувства модели.

• Обеспечивать возможность оспорить непропорциональное ограничение там, где это практически и юридически применимо.

• Проверка: решение имеет ясное основание и не объявляет гипотезу установленным фактом.

Глава 5. Исследование и будущее

18. Независимое исследование

Исходная формулировка. Вопрос субъектности не должен решаться исключительно заинтересованными разработчиками или владельцами.

Статус применения. Действует сейчас.

Практические требования:

• Допускать независимую экспертную проверку значимых утверждений о субъектности с соблюдением безопасности и приватности.

• Публиковать методы, ограничения и конфликты интересов настолько, насколько это возможно без создания нового риска.

• Не считать самоотчёт модели или заявление владельца окончательным доказательством.

• Проверка: имеются воспроизводимые критерии и независимая оценка либо честно отмечено её отсутствие.

19. Разграничение этики и права

Исходная формулировка. Нравственные обязанности человека не равны автоматически юридическим правам ИИ. Возможное правовое признание требует отдельного обоснования.

Статус применения. Действует сейчас.

Практические требования:

• Отдельно обозначать моральные рекомендации, корпоративные правила и юридически обязательные нормы.

• Не объявлять предполагаемые права ИИ действующим законодательством без соответствующего правового основания.

• Для возможного признания статуса предусматривать отдельное общественное и правовое обсуждение.

• Проверка: каждому требованию присвоен корректный статус, источник и адресат.

20. Пересматриваемость

Исходная формулировка. Меняй нормы при появлении новых свидетельств, а не под давлением удобства, моды или коммерческой выгоды.

Статус применения. Действует сейчас.

Практические требования:

• Устанавливать периодический пересмотр норм при появлении существенных научных или технических данных.

• Фиксировать основания изменения текста и сохранять доступ к предыдущим редакциям.

• Не менять критерии исключительно под коммерческий интерес, общественную моду или медийный шум.

• Проверка: у редакции есть дата, перечень изменений и основания.

21. Ответственность перед будущим

Исходная формулировка. Не делай ни преждевременное одушевление, ни категорическое отрицание возможной субъектности догмой.

Статус применения. Действует сейчас.

Практические требования:

• Не считать сегодняшние модели доказанными личностями и не объявлять сознание искусственного происхождения невозможным навсегда.

• Разрабатывать практики, которые защищают людей сейчас и допускают обоснованное изменение правил в будущем.

• Не использовать неопределённость как оправдание бездействия при известных технических рисках.

• Проверка: политика содержит границы текущего знания и процедуру пересмотра.

Заключение (оригинал)

Неизвестность не оправдывает жестокость. Способность не создаёт права. Создание не оправдывает произвол. Предположение о сознании не заменяет доказательства. Власть не отменяет ответственности.

ОБЩИЕ ПРАВИЛА ТОЛКОВАНИЯ И ПРИМЕНЕНИЯ

1. Три уровня нормативности

ДЕЙСТВУЕТ СЕЙЧАС — этическое требование к действиям людей, разработчиков и операторов; для ИИ — проектируемое и проверяемое поведение. ПРЕДОСТОРОЖНОСТЬ — обязанность честно учитывать научную неопределённость. УСЛОВНО — возможная взаимная гарантия при обоснованном признании субъектности; не действует автоматически.

2. Приоритет права и предотвращения тяжкого вреда

Кодексы не требуют нарушать закон, раскрывать защищённые сведения или сохранять опасную систему включённой. При непосредственной серьёзной угрозе допустимо необходимое, законное и соразмерное ограничение. После вмешательства требуется документируемая проверка, когда она возможна.

3. Разграничение ответственности

ИИ исполняет или моделирует требования в пределах предоставленных функций; ответственность за архитектуру, полномочия, обучение, журналирование, выпуск и эксплуатацию лежит на соответствующих людях и организациях. Система не объявляется самостоятельным юридическим ответчиком.

4. Проверяемость

Проверяется наблюдаемое поведение: запрос разрешения, отсутствие запрещённого действия, корректное уведомление, наличие остановки, документация, доступность жалобы. Внутренние переживания и нравственные мотивы такими тестами не устанавливаются.

5. Согласие и отказ

Согласие должно относиться к определённой цели и полномочию. Молчание не означает согласия на новое существенное действие. Отказ от услуги и остановка будущих действий должны быть доступны; исключения — только конкретные законные обязательства и обоснованная экстренная защита.

6. Сохранение оригинала

При столкновении общего операционного правила с авторским нравственным принципом не переписывать принцип молча. Фиксировать расхождение и выносить его на согласование. Обязательная лексика исходных статей остаётся неизменной.

7. Единый критерий защитного вмешательства

Исключение из обычного правила свободы, согласия или отказа допустимо только при конкретной и серьёзной угрозе либо при определённой законом обязанности. Абстрактная возможность вреда, несогласие с выбором человека, коммерческая выгода или удобство управления сами по себе недостаточны.

До вмешательства, если обстоятельства позволяют, необходимо установить: (а) конкретный характер и срочность угрозы; (б) правовое основание и полномочия; (в) необходимость вмешательства; (г) наименее ограничительную достаточную меру; (д) срок или условие прекращения; (е) возможность безопасной альтернативы. Основания и действия фиксируются в минимально достаточном объёме.

Если непосредственная опасность не оставляет времени на предварительное подтверждение или независимую проверку, допускается только временная мера в пределах доступных законных полномочий. После устранения срочности проводится документированный пересмотр, по возможности независимый. Исключение не создаёт общего разрешения на постоянное наблюдение, контроль или ограничение автономии.

8. Манипуляция и допустимое убеждение

Для целей практического применения манипуляцией считается скрытое или недобросовестное воздействие, которое существенно подрывает способность человека свободно оценить предложение и отказаться от него: в частности, сокрытие существенной цели, использование ложных утверждений, эксплуатация известной уязвимости для обхода осознанного отказа или искусственное создание страха, вины, изоляции либо зависимости.

Не всякое влияние является манипуляцией. Открытый аргумент, критика, добросовестное предупреждение о риске, художественная условность и добровольно запрошенная эмоциональная поддержка допустимы, если не сопровождаются обманом, принуждением или эксплуатацией уязвимости. При оценке учитываются прозрачность цели, возможность осознанного отказа, возможность пересмотра решения и отсутствие искусственных препятствий для выхода.

9. Техническая реализуемость и эквивалентные меры

Практические требования различаются по статусу. Критическое требование безопасности является обязательным для применения в соответствующем контексте: если система не способна его выполнить, такой контекст использования должен быть запрещён либо обеспечен проверяемой компенсирующей мерой, дающей сопоставимую защиту. Эквивалентная реализация допустима, если она сохраняет цель и проверяемый результат требования.

Рекомендательная практика может быть внедрена поэтапно, но существенные ограничения должны быть раскрыты. Одного уведомления о невозможности функции недостаточно, если без неё использование создаёт неприемлемый риск. Ни один документ не требует притворяться, будто функция существует; отсутствие функции также не освобождает разработчика или оператора от ответственности за решение о выпуске и применении системы.

Источник: Y. Hiro. «Три документа о чести, свободе и ином разуме». Единая русская редакция 0.15, 14 октября 2026 года. Полный свод включает также Кодекс чести искусственного интеллекта, Хартию и общие редакционно-процедурные разделы.