Пресс-секретарь президента России Дмитрий Песков заявил, что человечество стоит на пороге новой угрозы в виде дипфейков (deep fake) — правдоподобных цифровых имитаций облика или голоса человека. Об этом он рассказал во время своего выступления на онлайн-марафоне российского общества «Знание» в Москве.
- По его словам, в современную эпоху новости и знания могут нести не только профессионалы, но и любой другой человек с помощью своего телефона. Если он руководствуется «злыми намерениями», это может повлечь распространение фейков, заметил Песков.
- Дипфейки пресс-секретарь назвал «страшной штукой», которую крайне сложно отличить от реальности.
Что такое дипфейки
Понятие deep fake появилось как сочетание терминов deep learning (глубокое обучение) и fake (фальшивка). Эта относительно новая технология позволяет при помощи искусственного интеллекта и нейросетей создавать правдоподобные имитации людей на видео. Она основана на соединении видеорядов и наложении кадров друг на друга.
По данным ИТ-компании Deeptrace, в 2019 году в интернете было обнаружено 15 тыс. дипфейков. При этом 96% из них относились к порнографии, из которых 99% представляли собой наложение лиц знаменитостей на тела порнозвезд.
Как можно отличить дипфейк
Относительно легко определить видеоподделки низкого качества. Их может выдавать неправдоподобная мимика, неоднородный оттенок лица, рассинхронизация речи и движения губ, а также мерцание по краям овала лица. Иногда дипфейки разоблачают по совсем мелким деталям, таким как пряди волос, зубы, украшения и отражения в радужной оболочке глаз, которые могут быть недостаточно качественно проработаны алгоритмом. Однако технологии не стоят на месте, а все более совершенные подделки требуют серьезных разработок для их выявления.
- В июне 2020 года Facebook назвал победителя своего конкурса Deepfake Detection Challenge (DFDC), посвященного созданию алгоритмов для обнаружения дипфейков. Им стал инженер по машинному зрению Селим Сефербеков, работающий в белорусской компании Mapbox в Минске. Его разработка позволила определить смонтированное видео с точностью 65,18% в случае видеоряда, усложненного отвлекающими компонентами (например, надписями или фильтрами). Все призеры конкурса использовали в своих алгоритмах EfficientNet от Google — разновидность нейросети. По словам разработчиков этой системы, она превосходит по точности стандартные современные модели и повышает эффективность распознавания до 10 раз.
- В 2020 году исследователи из Университета Баффало в США предложили метод определения дипфейков по отражениям в глазах человека. Они создали алгоритм, который автоматически сравнивает отражения в обоих глазах на изображении. В реальности они почти идентичны друг другу, а в случае картинки, созданной нейросетью, — разнятся. Точность результатов этой программы составляет 94%.
- В марте МВД РФ заключило контракт на исследование дипфейк-технологий с научно-промышленной компанией «Высокие технологии и стратегические системы». Ей предстоит изучить способы выявления фейковых видео и подготовить документацию для создания программы, которая будет обрабатывать подобные ролики. Работа над проектом должна быть завершена к ноябрю 2022 года. В рамках гособоронзаказа проекту присвоены кодовые названия «Зеркало» и «Верблюд».
Известные примеры дипфейков
В феврале в TikTok появился аккаунт с дипфейками Тома Круза. Там были опубликованы три коротких видео, на которых лже-Круз играет в гольф, показывает фокусы и рассказывает о встрече с Горбачевым. За несколько дней аккаунт набрал миллионы просмотров, а десятки изданий написали про него.
В 2018 году режиссер Джордан Пил опубликовал дипфейк-видео с экс-президентом США Бараком Обамой, который обзывает президента США Дональда Трампа нецензурной бранью. С помощью ролика Пил решил предупредить аудиторию о стремительном развитии технологий и угрозе фейковых новостей.
В 2020 году в сети распространился дипфейк с главой компании SpaceX Илоном Маском. Его лицо наложили на солиста рок-группы «Земляне», который исполняет песню «Трава у дома».
В конце 2020 года британский телеканал Channel 4 выпустил в эфир дипфейк-ролик с обращением королевы Великобритании Елизаветы II. В нем цифровая подделка монаршей особы обсуждает отказ принца Гарри и его жены от королевских полномочий, персону премьер-министра, а также исполняет танец в стиле последних трендов TikTok.