Сбер предупреждает о распространении в социальных сетях поддельных видео с дипфейками медийных персон

Фото пресс-службы Сбера

В социальных сетях распространяются поддельные видео с дипфейками медийных персон. Об этом рассказал журналистам заместитель председателя правления Сбербанка Станислав Кузнецов:

«Сейчас в социальных сетях увеличилось количество поддельных видео в том числе с дипфейками публичных персон. Подобные вбросы проводятся по политическим мотивам: для дезинформации россиян, а также с целью дискредитации представителей власти. Для таких фейковых новостей злоумышленники используют различные темы, которые потенциально могут вызвать резонанс и панику.

Фейковые ролики, как правило, сначала публикуются в анонимных каналах, чтобы автора было сложнее отследить ― а затем распространяются в соцсетях. К сожалению, граждане воспринимают такие подделки как правду и пересылают друг другу в мессенджерах. Качество и реалистичность дипфейков уже достигло такого уровня, что лишь 1 из 4 человек способен распознать подделку без помощи технологий.

Рынок осознаёт необходимость контрмер: выдвигаются предложения о маркировке контента с дипфейками и об ответственности за их злонамеренное использование и распространение – но такие инициативы важно форсировать, чтобы как можно скорее довести до статуса принятых законов.

В том числе крайне важно создавать и внедрять технологии автоматического распознавания дипфейков на всех поверхностях и устройствах, где они могут использоваться, например, в мессенджерах, в СМИ, на видеоплатформах и т. д. В случае недостаточной активности бизнеса в указанном направлении, на уровне государства возможно рассмотреть введение стимулов для рынка.

Сбер в свою очередь разработал сервис по выявлению видео дипфейков с рабочим названием Алетейя, который может работать с несколькими лицами в кадре, с разным фоном и освещением. Мы открыты к сотрудничеству со всеми ― решение работает по унифицированному API, и мы готовы к интеграциям с заинтересованными компаниями. Мы также активно работаем над масштабированием решения для физических лиц, в том числе над его интеграцией на ресурсах Сбера. С помощью него граждане смогут проверять медиа-файлы на правдивость.

Выявленный тренд подтверждает, что на Украине выбрали дипфейки как ещё одно оружие против россиян. Мы ранее предупреждали о всплеске мошенничества в мессенджерах с фейковых аккаунтов известных персон, когда генерируя реалистичные голосовые и визуальные подделки от медийных личностей, злоумышленники убеждают россиян переводить деньги на якобы «безопасные» счета. Число попыток такого мошенничества за полтора месяца уже выросло в 15 раз.

Наша андифрод-система защищает клиентов в том числе и от мошенничества с использованием дипфейков. Но если со стороны государства и бизнеса не будут приняты системные меры, мы уже сейчас можем прогнозировать значительный рост такого рода скама в отношении клиентов банков с недостаточно зрелой инфраструктурой киберзащиты и не развитыми процессами антифрода.

Советы, как как распознать дипфейк, мы разместили на бесплатном портале по кибербезопасности Сбера «Кибрарий».