Американская компания Microsoft в рамках «Программы защиты демократии» представила новый инструмент по борьбе с дипфейками — фотографиями, видео и аудио, которые с помощью искусственного интеллекта изменили, чтобы вводить пользователей в заблуждение и распространять дезинформацию. Об этом 1 сентября сообщили в блоге компании.
Программа называется Microsoft Video Authenticator. Она анализирует фото или видео и определяет вероятность того, подвергались ли эти материалы редактированию, которое может не заметить обычный человек.
Например, программа может определить, что лицо человека на фото приставили к чужому телу. В видеозаписях Microsoft Video Authenticator выдает оценку достоверности каждого кадра. Принцип работы основан на выявлении границы наложения дипфейка, что проявляется в изменениях пикселей на том месте, куда добавили фейковое изображение.
Как заявили в Microsoft, компания понимает, что методы создания дипфейков будут совершенствоваться, и программа не всегда сможет корректно их распознавать. При этом накануне президентских выборов в США обнаружение дипфейков, по мнению представителей Microsoft, имеет важное значение для борьбы с распространением дезинформации.
Еще одно решение — специальные сертификаты и цифровые хэши, которые будут добавляться в медиаконтент автоматически при его создании. Они помогут распознать манипуляции, которым впоследствии может подвергнуться материал, — приложение пользователя в виде, например, расширения для браузера будет считывать эти цифровые следы.
В начале января Facebook заявил, что будет удалять дипфейки и манипулятивные видео, которые могут ввести пользователей в заблуждение. Такая мера стала частью подготовки соцсети к выборам президента в США. По словам представителей компании, видео с дипфейками пока редко встречаются в интернете, но технологии их создания совершенствуются.