США и Россия добились исключения из проекта международных правил применения оружия с ИИ ряда ограничений, включая обязательную проверку целей человеком. Об этом со ссылкой на источники и документы пишет The Washington Post.
Как рассказали газете три собеседника, знакомых с ходом закрытых обсуждений, правки внесли в последний день женевской сессии, завершившейся 4 сентября. Примерно за 15 часов американские и российские дипломаты убрали из документа требования о «предсказуемой» и «надежной» работе таких систем, пункт об обязательном учете этических соображений, а также положение о том, что выбранные ИИ цели перед ударом должен проверять человек.
По словам собеседников WP, заседание проходило в закрытом режиме: камеры ООН отключили, наблюдателей от гражданского общества удалили из зала. Вашингтон и Москва привлекли примерно по десять юристов — почти вдвое больше, чем было у других стран, — а поправки поступали так быстро, что небольшие делегации не успевали за ними следить.
«Это была смерть от тысячи бумажных порезов», — так описал ход работы один из источников.
Госдепартамент США, МИД России и ООН на запросы WP не ответили.
В статье утверждается, что работа идет в Группе правительственных экспертов по смертоносным автономным системам вооружений, созданной в рамках Конвенции о конкретных видах обычного оружия (КНО). Как отмечает газета, обсуждаемый текст пока носит рекомендательный характер, но может открыть путь к юридически обязательному договору.
Седьмая обзорная конференция КНО пройдет в Женеве 16—20 ноября: на ней страны обсудят, получит ли процесс официальный мандат и станет ли ли полноценным соглашением.
Параллельно Пентагон переписывает собственную директиву об автономном оружии, утвержденную в 2023 году при администрации Джозефа Байдена, пишет газета. Действующая редакция требует задействовать человеческое суждение для контроля автономных и полуавтономных систем, а от их операторов — соблюдать законы войны и применимые договоры.
Как отмечает WP, эти пункты перекликаются с теми, что убрали из проекта ООН. В июне президент США Дональд Трамп меморандумом по национальной безопасности поручил обновить документ в течение 90 дней, но к концу сентября новой редакции так и не появилось.
Издание напоминает, что ИИ уже используется в реальных боевых действиях. По данным газеты, в первые сутки войны с Ираном американские военные с помощью чат-бота компании Anthropic определили почти тысячу целей для ударов, а Израиль активно применяет искусственный интеллект в операциях в секторе Газа.
«Соединенные Штаты также полностью отвергают любые попытки выстроить глобалистскую схему контроля над искусственным интеллектом», — заявил Трамп 22 сентября с трибуны ООН.
На той же неделе глава OpenAI Сэм Альтман и гендиректор Anthropic Дарио Амодеи на заседании Совбеза, напротив, призвали страны вместе выработать модель глобального управления ИИ, напоминает WP.