Россия и США вычеркнули из проекта документа ООН по автономному оружию требование, по которому человек обязан перепроверять выбранные алгоритмом цели перед атакой. Вместе с ним из текста пропали пункты об этике применения таких вооружений. Об этом сообщает The Washington Post со ссылкой на источники и документы.
Что именно исчезло из проекта документа
Обе делегации участвовали в работе над проектом международного документа по регулированию автономного оружия. По словам собеседников газеты, представители Москвы и Вашингтона вычеркнули из текста требования о том, что системы должны работать «предсказуемо» и «надежно».
Оттуда же пропали пункты, обязывавшие учитывать этические соображения при применении ИИ-вооружений. The Washington Post пишет, что делегаты убрали и норму об обязательной проверке человеком целей, которые выбрал алгоритм.
Как проходила работа над документом
Команды Москвы и Вашингтона состояли примерно из десяти юристов с каждой стороны. Формат переговоров предполагал согласование формулировок на уровне специалистов, а не только политических представителей.
Из документа исключили обязательную проверку человеком целей, выбранных алгоритмом, — это ключевое требование, вокруг которого строилась вся логика регулирования автономного оружия.
Именно эта норма считалась базовой гарантией того, что решение об атаке останется за оператором, а не за машиной. Без нее документ теряет значительную часть своего регуляторного смысла.
Собеседники газеты описывают процесс как последовательное ослабление текста, а не как единичную правку: сначала исчезли формулировки о предсказуемости и надежности, затем — этические пункты, а после — требование о человеческой проверке целей.
Крупнейшие военные державы диктуют рамки документа
Тема автономного оружия обсуждается на площадке ООН не первый год. Речь идет о системах, способных самостоятельно выбирать и поражать цели без прямого участия оператора, — от дронов до стационарных платформ.
Россия и США остаются крупнейшими военными державами, и их позиция фактически определяет рамки любого международного документа. Если обе делегации снимают ограничительные формулировки, у остальных участников остается мало рычагов, чтобы вернуть их в текст.
Ослабление документа происходит на фоне общего роста интереса к военному применению ИИ. Технологические компании и исследовательские центры все активнее работают над автономными системами, а единых международных правил для них по-прежнему нет.
Для рынка это сигнал о том, что регуляторный вакуум вокруг ИИ-вооружений сохранится дольше, чем ожидалось. Государства, которые хотели бы опереться на общие нормы, остаются без них.
Дальнейшая судьба проекта зависит от того, удастся ли другим участникам переговоров вернуть вычеркнутые пункты в новой редакции. Пока ясно одно: две ключевые делегации уже показали, что не готовы связывать себя обязательствами по контролю человека над боевым ИИ.