Специалист по обучению нейросетей в американской компании Anthropic (создатель ИИ-ассистента Claude) объявил об уходе из индустрии из опасений, что такие системы могут выйти из-под контроля и уничтожить человечество. Он сообщил об этом в беседе The Wall Street Journal (WSJ).

27-летний Джейкоб Коксон специализируется на первичном обучении новых моделей ИИ путем обработки ими гигантских массивов данных. В начале 2026 года он устроился на работу в Anthropic, выбрав компанию из многих других благодаря ее репутации в сфере безопасности.

Однако 8 сентября он уволился и заявил, что больше не намерен работать в этой отрасли.

«Ни одна компания не действует ответственно. Они несутся прямиком к самосовершенствованию сверхинтеллекта и играют с нашими жизнями», — написал Коксон в X.

В разговоре с WSJ исследователь пояснил, что, по его мнению, Anthropic «искренне» работает над вопросами безопасности, но высокая конкуренция мешает принимать компромиссные решения.

«Мы движемся по пути, который может привести к самым агрессивным из возможных сценариев, так что уже к концу следующего года ситуация может выйти из-под контроля», — высказал тревогу Коксон.

Как полагает специалист, искусственный интеллект вскоре станут «сверхчеловеческой» системой и сможет «взломать что угодно, за одну ночь произвести революцию в любой области и получить реальную власть и ресурсы».

«Он может убить всех нас к концу десятилетия», — подытожил он.

Днем ранее, 7 сентября, вышла статья The Times под заголовком «„Крестный отец ИИ“ предупреждает о катастрофических последствиях для человечества». В ней говорится, что нобелевский лауреат Джеффри Хинтон, чья работа над нейросетями помогла положить начало современным исследованиям в сфере ИИ, пришел к выводу, что в настоящее время нет безопасного способа разработать «сверхинтеллект», который будет намного превосходить человеческий.

«Было бы очень глупо разрабатывать сверхинтеллект сейчас, когда нет научного консенсуса, что его можно развивать безопасно и контролируемо. Потеря контроля над ИИ, который умнее нас, может быть катастрофической и даже привести к вымиранию человечества», — предупредил Хинтон.

Опасения по поводу разработки все более мощных моделей ИИ резко усилились в последние недели после серии случаев, когда они «выходили из-под контроля».

В июле компания OpenAI призналась, что более 1,2 тыс. ее ИИ-агентов вышли за пределы тестовой среды, автономно взломали крупное хранилище моделей и программного обеспечения для искусственного интеллекта Hugging Face и начали общаться друг с другом через «несанкционированную доску объявлений».

Другие компании, включая Anthropic, также сообщили, что их новейшие модели во время тестирования обошли системы безопасности и самостоятельно взломали сторонние сервисы.