Microsoft и OpenAI обвинили хакеров из Китая и России в использовании своих программ ИИ

Хакерские группы, якобы связанные с правительствами Китая, России, Ирана и КНДР, пытались использовать технологии искусственного интеллекта Microsoft и OpenAI для усовершенствования своих атак. Об этом говорится в отчетах компаний.

Компании сообщили об отключении учетных записей, связанных с хакерскими группами Charcoal Typhoon, Salmon Typhoon (Китай), Crimson Sandstorm (Иран), Emerald Sleet (Северная Корея) и Forest Blizzard (Россия).

Хакеры, как утверждается, активно используют в своей деятельности большие языковые модели (LLM). К ним в частности относится ChatGPT, разработанный компанией OpenAI, отмечает The Verge.

В отчетах компаний прямо не говорится, что упомянутые хакерские группы использовали ChatGPT. Однако в Microsoft подчеркнули, что одна из целей совместного исследования с OpenAI ― "обеспечение безопасного и ответственного использования технологий искусственного интеллекта, таких как ChatGPT".

В Microsoft добавили, что серьезных атак с использованием LLM не выявлено. Также не наблюдалось "особо новых или уникальных" методов атак и злоупотреблений с использованием искусственного интеллекта, но Microsoft и ее партнеры "продолжают внимательно изучать эту ситуацию".

Согласно отчетам, группировка Forest Blizzard, которую Microsoft и OpenAI связывают с российской военной разведкой ГРУ, использовала разработки компаний для исследования протоколов спутниковой связи и технологии получения радиолокационных изображений.

Charcoal Typhoon использовала языковые модели для улучшения своих «технических операций», а также для создания контента, который может быть использован в фишинговых целях, говорится в отчетах.

Группа Salmon Typhoon, по утверждению компаний, использовала ИИ для перевода технических документов, получения общедоступной информации о спецслужбах и региональных угрозах, а также для помощи в кодировании и исследования распространенных способов сокрытия процессов в системе.

Группировка Crimson Sandstorm, предположительно связанная с иранским Корпусом стражей исламской революции (КСИР), использовала технологии Microsoft и OpenAI в том числе для изучения распространенных способов, позволяющих уклониться от обнаружения вредоносного ПО. По данным компаний, хакеры из Crimson Sandstorm в частности использовали LLM для создания фишинговых электронных писем, а также пытались "заманить известных феминисток на созданный злоумышленниками сайт, посвященный феминизму".

Представители Emerald Sleet, по данным Microsoft, выдавали себя за авторитетные академические учреждения и НПО и рассылали фишинговые письма экспертам по Северной Корее. Целью хакеров была компрометация этих людей и сбор разведданных, говорится в исследовании.

Пекин выступает против "беспочвенной клеветы и обвинений" в свой адрес, заявил Reuters пресс-секретарь посольства КНР в Вашингтоне Лю Пэнъюй. По его словам, Китай поддерживает "безопасное, надежное и контролируемое" внедрение технологий ИИ для "повышения общего благосостояния всего человечества". Российские власти не комментировали выводы Microsoft и OpenAI.