Сотни миллионов пользователей остались без ИИ — правительство США нашло «дыру» в Fable 5 от Anthropic

Правительство США обязало компанию Anthropic немедленно отключить доступ к своим самым мощным ИИ-моделям — Fable 5 и Mythos 5 — для всех иностранных пользователей. Директива, ссылающаяся на соображения национальной безопасности, распространяется на иностранных граждан как внутри США, так и за пределами страны, включая зарубежных сотрудников самой Anthropic. Об этом говорится в заявлении компании.

Поскольку у Anthropic нет технической возможности мгновенно проверить гражданство всех пользователей, компания была вынуждена полностью отключить обе модели для всех клиентов без исключения. Доступ к остальным моделям Anthropic, по ее словам, не затронут.

Как убедился RTVI, уведомление о недоступности Fable 5 уже появилось в ИИ-клиенте Anthropic.

Как следует из заявления, директива была получена 12 июня в 17:21 по восточному времени. Конкретные детали угрозы национальной безопасности в ней не раскрывались. По данным компании, власти полагают, что был обнаружен способ обхода защитных механизмов Fable 5 — так называемый джейлбрейк.

В Anthropic с оценкой властей не согласились. Компания заявила, что изучила продемонстрированную технику и пришла к выводу: речь идет о незначительных, ранее известных уязвимостях, которые способны обнаружить и другие общедоступные ИИ-модели. Отзыв коммерческой модели, которой пользуются сотни миллионов человек, из-за такой находки Anthropic считает несоразмерной мерой. Если подобный стандарт будет применяться ко всей индустрии, он фактически остановит выпуск новых ИИ-моделей, предупредила компания.

Тем не менее Anthropic подчеркнула, что выполняет предписание и работает над восстановлением доступа в кратчайшие сроки.