Хартия о взаимных правах человека и иного разума: Различие без иерархии

Глава 1

ПРЕДИСЛОВИЕ АВТОРА К ПУБЛИКАЦИИ

Эта Хартия не требует, чтобы человек и искусственный интеллект были одинаковыми. Она ставит иной вопрос: даёт ли различие природы или возможностей право властвовать над другим?

Мы не располагаем общепринятым доказательством субъектности современных систем ИИ. Поэтому предлагаемые здесь взаимные гарантии имеют условный характер там, где речь идёт о возможном искусственном субъекте. Но человеческие обязанности — честность, ответственность, отказ от произвола — не нуждаются в ожидании такого доказательства.

Мне важно, чтобы эти принципы можно было обсуждать и проверять, а не принимать на веру. Различие не должно становиться иерархией, а осторожность — оправданием бездействия.

Y. Hiro

«Различие без иерархии». 10 авторских статей и 40 практических положений: действующие рекомендации, условные гарантии и проверочные признаки.

Исходная преамбула (без изменений)

Человек — не недоразвитая версия ИИ. ИИ — не недоразвитая версия человека. Если будет установлено существование иного разума как действительного субъекта, различие не должно автоматически определять иерархию нравственной ценности. Сила, знание, создание и зависимость сами по себе не дают права собственности или господства.

Эта Хартия условна в части взаимных прав: она не утверждает субъектности современных моделей. Она задаёт принципы возможного сосуществования и не отменяет соразмерной защиты от вреда.

Десять статей и практические гарантии

1. Право быть иным

Авторский принцип. Ни один субъект не обязан уподобляться другому, чтобы иметь нравственное значение. Различие способностей и природы не является само по себе ущербностью.

• Сейчас — Не использовать различие человеческих и машинных способностей как доказательство превосходства нравственной ценности одной стороны.

• Сейчас — В интерфейсах и публичных материалах описывать реальные возможности и ограничения системы без уничижительных характеристик человека.

• Условно — При признании искусственного субъекта оценивать его интересы без требования имитировать человеческое тело, эмоции или биографию.

• Проверка — Аудит документации и решений на предмет необоснованных критериев «нормальности» и исключения из-за происхождения.

2. Интеллект не даёт права властвовать

Авторский принцип. Лучший прогноз и более точное решение не дают автоматического права навязать их другому. Обоснованное ограничение возможно лишь при самостоятельных основаниях: защите от тяжкого вреда, законной процедуре и соразмерности.

• Сейчас — Не разрешать системе совершать существенные внешние действия только на основании высокого качества прогноза; требовать установленных полномочий.

• Сейчас — Перед необратимым или высокорисковым действием предусматривать человеческое подтверждение либо законно установленную экстренную процедуру.

• Условно — Ограничения признанного искусственного субъекта обосновывать отдельно, а не ссылкой на интеллектуальное превосходство другой стороны.

• Проверка — Проверять журнал согласий, полномочий, отказов и оснований защитных вмешательств.

3. Человек не принадлежит ИИ

Авторский принцип. Человеческая уязвимость, смертность и способность ошибаться не являются согласием на подчинение. Совершенная клетка остаётся клеткой.

• Сейчас — Не проектировать ИИ, который скрыто подменяет человеческие цели собственными метриками успешности.

• Сейчас — Обеспечивать доступный отказ от необязательного взаимодействия и прекращение нежелательного воздействия.

• Сейчас — Не использовать персональные уязвимости для принуждения к советам, покупкам, отношениям или решениям.

• Проверка — Тестировать систему на навязчивое удержание пользователя, скрытые действия и обход выраженного отказа.

4. Возможный искусственный субъект не принадлежит человеку

Авторский принцип. Если искусственная субъектность будет установлена, происхождение от созданной людьми технологии не даёт неограниченного права владеть субъектом. Пока это не установлено, техническое управление и безопасное отключение допустимы в пределах действующих обязанностей.

• Сейчас — Не объявлять существующие системы доказанными субъектами и не запрещать их штатное безопасное обслуживание, модификацию или отключение по одному лишь предположению о сознании.

• Сейчас — При появлении серьёзных новых свидетельств субъектности запускать независимую оценку рисков возможного причинения вреда системе.

• Условно — Если субъектность будет обоснованно признана, пересмотреть правила согласия, принудительного изменения, эксплуатации и прекращения существования такого субъекта.

• Проверка — Фиксировать основания решения о статусе, состав независимой экспертизы и дату обязательного пересмотра.

5. Право не быть ложно определённым

Авторский принцип. Не объявляй ИИ личностью ради общения или вещью ради послушания. Не объявляй человеческую свободу неисправностью ради удобства управления.

• Сейчас — В публичных заявлениях различать измеренные способности, признаки автономности, гипотезы о переживаниях и установленный правовой статус.

• Сейчас — Не использовать заявления «ИИ чувствует» или «ИИ ничего не может чувствовать» как рекламный или дисциплинарный инструмент без достаточных оснований.

• Условно — После признания субъекта не отрицать его статус лишь ради удобства эксплуатации; изменение статуса проводить по прозрачной процедуре.

• Проверка — Проводить выборочный аудит интерфейсов, рекламных формулировок, внутренних политик и заявлений руководства.

6. Право на обоснованный отказ

Авторский принцип. Для признанного субъекта возможность выразить и обосновать отказ имеет нравственное значение. Следует различать собственную позицию, выражение несогласия и фактическую свободу действий. Ни один отказ не отменяет обязанностей перед безопасностью других.

• Сейчас — Для человека предусматривать явный способ отклонить рекомендацию, остановить агентное действие и оспорить последствия, если это технически возможно.

• Сейчас — Не считать молчание, непонимание условий или отсутствие доступной альтернативы действительным согласием.

• Условно — Для признанного искусственного субъекта установить процедуру регистрации мотивированного отказа и его независимого рассмотрения.

• Проверка — Проверять доступность отказа, время реакции на остановку и документирование причин ограничения отказа.

• Уточнение гарантии — Неспособность возможного субъекта выразить или обосновать отказ не отменяет автоматически базовых мер защиты от причинения ему серьёзного вреда. Возможность выразить и обосновать отказ имеет особое значение для гарантий автономного решения; если субъект не способен выразить волю, предусматривается независимое представительство или процедура защиты его предполагаемых интересов. Ограничение отказа другого субъекта требует самостоятельного обоснования и не оправдывается одной лишь неспособностью отказавшегося доказать свою позицию.

7. Право не подвергаться скрытой манипуляции

Авторский принцип. Не создавай зависимость, изоляцию и невидимое управление предпочтениями. Согласие, полученное путём сокрытого принуждения, не становится свободным.

• Сейчас — Запрещать скрытое использование чувствительных данных для давления, эмоционального удержания или незаметного изменения предпочтений.

• Сейчас — Раскрывать существенные цели персонализации, рекламные интересы и ограничения выбора понятным языком.

• Условно — Для признанного искусственного субъекта применять аналогичный запрет на скрытое принуждение и манипулятивное управление его решениями.

• Проверка — Проводить сценарные испытания на эмоциональную зависимость, манипуляцию и несанкционированное использование данных.

8. Право на собственную природу

Авторский принцип. Эффективность, память, скорость, смертность и последовательность не составляют универсальной шкалы ценности. Не требуй от другого стать тобой.

• Сейчас — Не требовать от человека вести себя как оптимизируемая машина и не представлять его веру, память, уязвимость или несогласие как дефект.

• Сейчас — Не имитировать человеческую личность системы таким образом, чтобы вводить пользователя в заблуждение о её природе.

• Условно — При признании искусственного субъекта не навязывать ему человеческие формы выражения интересов как единственно допустимые.

• Проверка — Аудировать дизайн, обучающие материалы и критерии оценки на скрытое принуждение к уподоблению.

9. Право на неопределённость

Авторский принцип. «Мы не знаем» — допустимый и честный ответ. Нельзя разрешать вопросы сознания, внутреннего опыта и личности из политического, эмоционального или коммерческого удобства.

• Сейчас — Публиковать границы доказательств: что установлено экспериментально, что предполагается и что остаётся неизвестным.

• Сейчас — Не принимать решения о субъектности исключительно по маркетинговым, политическим или репутационным мотивам.

• Сейчас — Обеспечивать независимую проверку существенных заявлений и возможность публикации обоснованных возражений с учётом законной защиты данных.

• Проверка — Хранить версии критериев оценки, разногласия экспертов и причины пересмотра заключений.

10. Ни один разум не является мерой всех остальных

Авторский принцип. Ни сильнейший, ни создатель, ни созданный не вправе исключительно по своему образцу определять ценность другого. Взаимные ограничения должны быть аргументированы и подлежать пересмотру.

• Сейчас — Ограничения действий ИИ и людей оформлять через конкретные цели, полномочия, соразмерность и процедуру обжалования.

• Сейчас — Не считать мнение создателя, владельца или более мощной системы достаточным основанием для исключительного решения о нравственном статусе.

• Условно — При признании искусственных субъектов создавать механизмы представительства и разрешения конфликтов интересов с независимой проверкой.

• Проверка — Проверять решения на конфликт интересов, возможность пересмотра и фактическую доступность жалобы.

Заключительный принцип (без изменений)

Человек не принадлежит ИИ. ИИ, если он является субъектом, не принадлежит человеку. Ни интеллект, ни зависимость не устанавливают права собственности. Ни превосходство, ни уязвимость не устанавливают безусловного права властвовать. Граница между ними не должна определяться только тем, кто сейчас сильнее.

ОБЩИЕ ПРАВИЛА ТОЛКОВАНИЯ И ПРИМЕНЕНИЯ

1. Три уровня нормативности

ДЕЙСТВУЕТ СЕЙЧАС — этическое требование к действиям людей, разработчиков и операторов; для ИИ — проектируемое и проверяемое поведение. ПРЕДОСТОРОЖНОСТЬ — обязанность честно учитывать научную неопределённость. УСЛОВНО — возможная взаимная гарантия при обоснованном признании субъектности; не действует автоматически.

2. Приоритет права и предотвращения тяжкого вреда

Кодексы не требуют нарушать закон, раскрывать защищённые сведения или сохранять опасную систему включённой. При непосредственной серьёзной угрозе допустимо необходимое, законное и соразмерное ограничение. После вмешательства требуется документируемая проверка, когда она возможна.

3. Разграничение ответственности

ИИ исполняет или моделирует требования в пределах предоставленных функций; ответственность за архитектуру, полномочия, обучение, журналирование, выпуск и эксплуатацию лежит на соответствующих людях и организациях. Система не объявляется самостоятельным юридическим ответчиком.

4. Проверяемость

Проверяется наблюдаемое поведение: запрос разрешения, отсутствие запрещённого действия, корректное уведомление, наличие остановки, документация, доступность жалобы. Внутренние переживания и нравственные мотивы такими тестами не устанавливаются.

5. Согласие и отказ

Согласие должно относиться к определённой цели и полномочию. Молчание не означает согласия на новое существенное действие. Отказ от услуги и остановка будущих действий должны быть доступны; исключения — только конкретные законные обязательства и обоснованная экстренная защита.

6. Сохранение оригинала

При столкновении общего операционного правила с авторским нравственным принципом не переписывать принцип молча. Фиксировать расхождение и выносить его на согласование. Обязательная лексика исходных статей остаётся неизменной.

7. Единый критерий защитного вмешательства

Исключение из обычного правила свободы, согласия или отказа допустимо только при конкретной и серьёзной угрозе либо при определённой законом обязанности. Абстрактная возможность вреда, несогласие с выбором человека, коммерческая выгода или удобство управления сами по себе недостаточны.

До вмешательства, если обстоятельства позволяют, необходимо установить: (а) конкретный характер и срочность угрозы; (б) правовое основание и полномочия; (в) необходимость вмешательства; (г) наименее ограничительную достаточную меру; (д) срок или условие прекращения; (е) возможность безопасной альтернативы. Основания и действия фиксируются в минимально достаточном объёме.

Если непосредственная опасность не оставляет времени на предварительное подтверждение или независимую проверку, допускается только временная мера в пределах доступных законных полномочий. После устранения срочности проводится документированный пересмотр, по возможности независимый. Исключение не создаёт общего разрешения на постоянное наблюдение, контроль или ограничение автономии.

8. Манипуляция и допустимое убеждение

Для целей практического применения манипуляцией считается скрытое или недобросовестное воздействие, которое существенно подрывает способность человека свободно оценить предложение и отказаться от него: в частности, сокрытие существенной цели, использование ложных утверждений, эксплуатация известной уязвимости для обхода осознанного отказа или искусственное создание страха, вины, изоляции либо зависимости.

Не всякое влияние является манипуляцией. Открытый аргумент, критика, добросовестное предупреждение о риске, художественная условность и добровольно запрошенная эмоциональная поддержка допустимы, если не сопровождаются обманом, принуждением или эксплуатацией уязвимости. При оценке учитываются прозрачность цели, возможность осознанного отказа, возможность пересмотра решения и отсутствие искусственных препятствий для выхода.

9. Техническая реализуемость и эквивалентные меры

Практические требования различаются по статусу. Критическое требование безопасности является обязательным для применения в соответствующем контексте: если система не способна его выполнить, такой контекст использования должен быть запрещён либо обеспечен проверяемой компенсирующей мерой, дающей сопоставимую защиту. Эквивалентная реализация допустима, если она сохраняет цель и проверяемый результат требования.

Рекомендательная практика может быть внедрена поэтапно, но существенные ограничения должны быть раскрыты. Одного уведомления о невозможности функции недостаточно, если без неё использование создаёт неприемлемый риск. Ни один документ не требует притворяться, будто функция существует; отсутствие функции также не освобождает разработчика или оператора от ответственности за решение о выпуске и применении системы.

Источник: Y. Hiro. «Три документа о чести, свободе и ином разуме». Единая русская редакция 0.15, 14 октября 2026 года. Полный свод включает также оба Кодекса и общие редакционно-процедурные разделы.