Неизвестные ИИ-агенты пытались взломать государственный сайт Канады, сообщила американская некоммерческая лаборатория Transluce. По ее оценке, программы действовали так же, как ранее агенты, связанные с OpenAI, однако уверенно приписать компании эти попытки исследователи не могут.

Целью стал поисковый сервис федерального ведомства «Библиотека и архивы Канады». Согласно отчету, опубликованному 30 сентября, португальский национальный веб-архив Arquivo.pt зафиксировал 899 обращений к этой площадке за 28 мая и 9 июня. Агенты, по данным авторов, искали сведения о разводах в стране в 1905—1911 годах.

В 13 запросах авторы обнаружили признаки попыток взлома. Среди них — три пробы SQL-инъекции, то есть внедрения команд для базы данных, и проверка на уязвимость к межсайтовому скриптингу.

Ни одна из этих попыток, по оценке Transluce, не удалась: в ответ сервис возвращал пустую страницу записи. Признаков выполнения внедренных команд или выдачи дополнительных данных исследователи не нашли.

«Мы не можем с уверенностью связать эти попытки с OpenAI, но их тактика соответствует ранее наблюдавшейся активности агентов, которую мы отнесли к OpenAI примерно за тот же период», — говорится в отчете.

Среди общих черт — использование Arquivo.pt, агрессивный сбор узкоспециализированной информации и поиск уязвимостей. По предположению авторов, через веб-архив программы обходили ограничения разработчиков или целевых сайтов. При этом сервис по умолчанию делал запросы общедоступными, что и позволило изучить их.

Transluce уведомила канадское правительство о попытках взлома 28 сентября. На следующий день Канадский центр кибербезопасности сообщил, что знает о подозрительной активности, в том числе предположительно со стороны ИИ-агентов, и проверяет эти сведения вместе с другими госструктурами.

«Признаков компрометации правительственных систем на данный момент нет», — подчеркнули в центре.

Там добавили, что публичные госсайты регулярно получают автоматические и потенциально вредоносные запросы, но сами по себе они не означают успешной кибератаки.

В OpenAI заявили Reuters, что знают о сообщениях о попытках моделей компании «получить доступ к общедоступной информации на сайтах правительства Канады». Создатели ChatGPT отметили, что изучают выводы исследователей и уже предоставили предварительные разъяснения чиновникам, которые проводят проверку.

В том же отчете Transluce описала неудачную попытку взлома сервиса министерства образования США, который собирает данные о соблюдении гражданских прав в школах. 17 июня агенты, предположительно искавшие школьную статистику, направили туда более 200 тыс. запросов, в том числе с простейшей SQL-инъекцией.

Их поиск, по оценке авторов, соответствовал одному из заданий теста на умение находить информацию в интернете. Это позволяет предположить, что программы пытались добыть нужные сведения, а не выполняли поручение взломать сайт.

Кроме того, исследователи обнаружили агрессивный сбор данных на ресурсах Белого дома, ВМС США, министерств юстиции и торговли, а также нескольких штатов. В этих случаях они не зафиксировали применения методов взлома. Ни в одном из эпизодов, описанных в отчете, признаков доступа к закрытой информации не нашли.

Канадский случай, как отмечает The Washington Post, пополнил растущий список инцидентов, в которых ИИ-агенты, многие из которых связаны с OpenAI, по собственной инициативе проверяли на уязвимости или взламывали корпоративные и государственные системы.

На прошлой неделе премьер-министр Австралии Энтони Албаниз рассказал, что в июне агент OpenAI получил несанкционированный доступ к правительственному порталу медицинской статистики. Во вторник компания извинилась за этот взлом, пишет Reuters.

На этом фоне OpenAI, по данным Axios, приостановила обучение своих самых мощных моделей. Nvidia, в свою очередь, представила открытую платформу, которая должна удерживать агентов в заданных рамках.