В Сети появился вирусный ролик с дипфейками Лаврова, Проценко и Шойгу. Технологию все чаще используют в рекламе и политической агитации

Что произошло

В Сети появился вирусный ролик с министром иностранных дел РФ Сергеем Лавровым, главврачом больницы № 40 в Коммунарке Денисом Проценко и министром обороны РФ Сергеем Шойгу, который сделан с помощью технологии дипфейк. Лавров, Проценко и Шойгу — в числе лидеров списка «Единой России» на выборах в Госдуму, которые пройдут с 17 по 19 сентября.

• В ролике фейковые Лавров, Проценко и Шойгу советуются с обычным россиянином на темы вакцинации, Курильских островов и ядерной войны. В конце видео герой решает пойти на выборы и проголосовать.
• В избирательном штабе «Единой России» сообщили, что к созданию ролика партия никакого отношения не имеет.
  

Контекст

• Дипфейк (от англ. deep learning – «глубокое изучение» и fake – «подделка») — технология, которая создает фейковые изображения, неотличимые от реальных. Ее придумал студент Стэнфордского университета Ян Гудфеллоу в 2014 году.
• Для создания дипфейков используются нейросети, которые анализируют исходный фото- и видеоконтент и генерируют неограниченное количество поддельных изображений того или иного человека, которые можно «вклеивать» в ролики.

Тенденция

За последние годы в США появилось несколько дипфейков, в которых фигурировали политики. В ряде случаев видео были направлены на привлечение внимания к проблеме фейк-ньюс.

• В 2018 году в Сети появилось поддельное видео с Бараком Обамой, который критиковал действующего на тот момент президента США Дональда Трампа. Роль Обамы в действительности исполнил комик и режиссер Джордан Пил.
  

• В 2019 году дипфейк Дональда Трампа появился на видео из сериала «Во все тяжкие» в роли Сола Гудмана, который объясняет главному герою Джесси Пинкману (на видео - Джаред Кушнер, зять Трампа), как отмывать деньги, чтобы налоговая служба не пошла по следу. В том же году The New York Times впервые обвинила американского лидера в неуплате налогов с 1985 по 1994 год.
  

• Американская компания RepresentUS выпустила в 2020 году два ролика с дипфейками президента РФ Владимира Путина и лидера КНДР Ким Чен Ына. В видео политические деятели критикуют демократический строй США и заявляют, что они не будут вмешиваться в президентские выборы.

Дипфейки также используются и в других сферах.

• В 2021 году в TikTok появился аккаунт с ненастоящим Томом Крузом, который играет в гольф, рассказывает о встрече с Михаилом Горбачевым и показывает фокусы. Сейчас у аккаунта более 2 млн подписчиков.
  

• Российская компания Deepcake создала цифровую копию Уиллиса в рекламе сотовой связи. В августе «Мегафон» выпустил первый ролик с участием нейроУиллиса и комика Азамата Мусагалиева, которые пытаются спастись от взрыва бомбы.
  

Но при этом

Зачастую дипфейки используются для создания порновидео, провокационных роликов с политиками и мошенничества.

• 96% всех дипфейков сводятся к порнографии. 99% из них — это наложение лиц популярных актрис на тела порнозвезд.
• Технология начала активно распространяться в 2017 году, и уже в 2018-м соцсеть Reddit запретила все сообщества, связанные с такого рода порнофейками, а сами материалы пропали с Pornhub и других крупных порносайтов. 
• Во время президентских выборов в США в 2020 году количество дипфейков с политиками стремительно увеличилось, что приводило к распространению фейк-ньюс среди пользователей и избирателей. Например, в одном из видео Джо Байден, который на тот момент был кандидатом на пост президента страны, приветствует жителей Флориды, называя их гражданами другого штата — Миннесоты. 
• Позднее в Калифорнии приняли закон, запрещающий людям создавать дипфейки с политиками для введения в заблуждение людей во время выборов. Также он запрещает использовать технологию в порновидео.
• Дипфейки могут подделывать и голос человека. Так, 68-летний адвокат из Филадельфии (США) чуть не перевел $9 тыс. мошеннику, который с помощью технологии говорил голосом его 37-летнего сына. Преступник убеждал собеседника, что попал в аварию, ранил беременную женщину и теперь ему нужны деньги для внесения залога. 

За чем следить

В России также опасаются возможной угрозы дипфейков и разрабатывают новые законы, касающиеся использования технологий.

• В 2021 году правительственная комиссия по цифровому развитию утвердила «дорожную карту» под названием «Новые коммуникационные интернет-технологии», в которой говорится о том, что к концу года точность решений по выявлению дипфейков должна достичь 55%, к 2024 году — 70%.
• В Сбербанке, который использовал дипфейк Жоржа Милославского для рекламы, в 2020 году подписали документ об этических принципах использования ИИ и технологии дипфейк.
• Пресс-секретарь президента Дмитрий Песков назвал технологию «очень страшной штукой», добавив, что дипфейки — новая угроза наравне с фейковыми новостями.
  

Фото обложки: Infotainment Video / YouTube