Фотография: Microsoft
Американская компания Microsoft в рамках «Программы защиты демократии» представила новый инструмент по борьбе с дипфейками — фотографиями, видео и аудио, которые с помощью искусственного интеллекта изменили, чтобы вводить пользователей в заблуждение и распространять дезинформацию. Об этом 1 сентября сообщили в блоге компании.
Тезисы публикации
  • Программа называется Microsoft Video Authenticator
  • Она анализирует фото и видео и определяет процент их достоверности
  • Компания считает, что это поможет в борьбе с дезинформацией перед выборами в США

Программа называется Microsoft Video Authenticator. Она анализирует фото или видео и определяет вероятность того, подвергались ли эти материалы редактированию, которое может не заметить обычный человек.

Например, программа может определить, что лицо человека на фото приставили к чужому телу. В видеозаписях Microsoft Video Authenticator выдает оценку достоверности каждого кадра. Принцип работы основан на выявлении границы наложения дипфейка, что проявляется в изменениях пикселей на том месте, куда добавили фейковое изображение.

Как заявили в Microsoft, компания понимает, что методы создания дипфейков будут совершенствоваться, и программа не всегда сможет корректно их распознавать. При этом накануне президентских выборов в США обнаружение дипфейков, по мнению представителей Microsoft, имеет важное значение для борьбы с распространением дезинформации.

Еще одно решение — специальные сертификаты и цифровые хэши, которые будут добавляться в медиаконтент автоматически при его создании. Они помогут распознать манипуляции, которым впоследствии может подвергнуться материал, — приложение пользователя в виде, например, расширения для браузера будет считывать эти цифровые следы.

В начале января Facebook заявил, что будет удалять дипфейки и манипулятивные видео, которые могут ввести пользователей в заблуждение. Такая мера стала частью подготовки соцсети к выборам президента в США. По словам представителей компании, видео с дипфейками пока редко встречаются в интернете, но технологии их создания совершенствуются.

По теме:

Новости партнеров

У RTVI появилась эксклюзивная еженедельная рассылка. Подпишитесь, чтобы узнавать об интересном:
Необходимо дать согласие на обработку персональных данных!