ООН уличили в использовании ИИ при написании пресс-релизов

С конца 2022 года большие языковые модели типа ChatGPT стали часто использоваться в релизах компаний, в жалобах и объявлениях о приеме на работу. Теперь выяснилось, что искусственный интеллект используется при составлении каждого седьмого пресс-релиза, издаваемого ООН, говорится в исследовании, опубликованном в журнале Patterns.

Появление больших языковых моделей (LLM) стало важной вехой в развитии технологий искусственного интеллекта, которая вызвала надежды и озабоченность специалистов. С одной стороны, они помогают повышать эффективность в генерировании текстов, в том числе неносителями языка. С другой, их появление вызывает опасения с точки зрения достоверности текстов, появления дипфейков, снижения навыков людей к написанию оригинальных материалов.

Ученые под руководством Джеймса Зоу из Стенфордского университета решили выяснить, как появление LLM затронуло различные области деятельности в США, связанные с написанием текстов.

Широкое распространение большие языковые модели получили в конце 2022 года, сегодня в мире ими пользуется свыше 1 млрд человек.

Для исследования ученые собрали массивный корпус англоязычных текстов. В него вошли свыше 687 тыс. жалоб, поданных гражданами в Бюро финансовой защиты потребителей США с января 2022 по август 2024 года, 304 млн объявлений о найме на работу на сайтах вроде LinkedIn, 537 тыс. корпоративных релизов от компаний, опубликованных на таких профильных агрегаторах как Newswire, PRWeb, и PRNewswire. Кроме того, ученые собрали почти 16 тыс. англоязычных пресс-релизов ООН, выпущенных с 2019 по 2024 год. Полученный корпус текстов ученые прогнали через программу, специально разработанную ими для выявления текстов, сгенерированных ИИ.

Анализ показал, что порядка 18% поданных гражданами финансовых жалоб составлены с помощью ИИ. Порядка четверть корпоративных релизов составлены с его помощью, причем в конце 2023 года релизы на тему науки и техники достигли пика использования ИИ.

Среди объявлений о найме процент использования ИИ был наименьшим, однако высоким этот процент оказался среди релизов, выпущенных за два года ООН.

«Как и во всех новых технологиях, трудно назвать эти ИИ-модели хорошими или плохими. Они до сих пор ошибаются, и если люди возлагают свою работу на эти инструменты и не заботятся проверкой аккуратности, это может приводить к ошибкам», — пояснил Зоу.