Эксперимент, проведенный в Великобритании, показал, что люди обычно с трудом отличают дипфейк-видео от подлинных. Участники, просматривающие все подлинные видео, почти с такой же вероятностью сообщали о чем-то необычном, как и те, кто смотрел смесь реального и дипфейк-контента. Когда их попросили выбрать дипфейк-видео из набора из пяти, только 21,6% участников правильно идентифицировали обработанное видео. Исследование было опубликовано в журнале Royal Society Open Science...

Изначально разработанные для развлекательных и творческих целей, дипфейки теперь вызывают опасения по поводу этики и безопасности из-за их возможности неправомерного использования. Они могут быть использованы для манипулирования общественным мнением, нанесения вреда репутации или совершения мошенничества, помещая людей в сфабрикованные сценарии. Несмотря на свои риски, дипфейки также имеют законное применение в кино, образовании и создании цифрового контента.

Автор исследования Эндрю Льюис и его коллеги хотели выяснить, способны ли люди распознавать дипфейк-видео. Их интересовало, могут ли люди указать на них без предупреждения (без того, чтобы кто-то сказал им, что среди просматриваемого ими контента могут быть дипфейки) и меняет ли ситуацию предупреждение о возможных дипфейках. Например, исследователи хотели узнать, смогут ли участники определить, в каком видео в серии используется технология дипфейка, если им скажут, что хотя бы одно видео было изменено. Чтобы проверить это, они разработали контролируемый эксперимент.

В исследовании приняли участие 1093 жителя Великобритании через Lucid Marketplace, онлайн-платформу для сбора участников опроса. Участники были разделены на три экспериментальные группы, а опрос проводился с помощью Qualtrics.

В первой группе участники посмотрели пять аутентичных видео без дипфейков. Вторая группа просматривала тот же набор видео, но одно из них было дипфейком, и участников не предупредили о его наличии. После просмотра видео участников спросили, заметили ли они что-то необычное.

Третья группа также посмотрела тот же набор видео с одним дипфейком, но их заранее предупредили, что как минимум одно из видео будет подделано. Им дали краткое объяснение дипфейков, описанных как «манипулируемые видео, которые используют искусственный интеллект глубокого обучения для создания поддельных видео, которые кажутся реальными», и прямо сказали: «На следующих страницах представлена серия из пяти дополнительных видео с мистером Крузом, по крайней мере одно из которых является дипфейк-видео». После просмотра участников попросили выбрать, какое видео или видео они считают поддельными.

В дипфейк-видео в исследовании фигурировал актер Том Круз, а другие видео были подлинными клипами с его участием, взятыми с YouTube. Чтобы учесть знакомство с актером, все участники сначала посмотрели минутный отрывок интервью с Томом Крузом, чтобы дать базовое представление о его внешности и речевых оборотах.

Результаты показали, что участники в значительной степени не смогли обнаружить дипфейки. В группе, которая смотрела только аутентичные видео, 34% сообщили, что заметили что-то необычное, по сравнению с 33% в группе, которая по незнанию смотрела дипфейк. Эта небольшая разница говорит о том, что люди не лучше справляются с обнаружением дипфейков, чем с выявлением несоответствий в подлинных видео.

В группе, получившей предупреждение о дипфейках, 78,4%  не смогли правильно идентифицировать обработанное видео. Участники, как правило, с большей вероятностью принимали одно из подлинных видео за дипфейк, чем правильно определяли настоящую подделку. Однако среди тех, кто выбрал только одно видео, 39% правильно идентифицировали дипфейк, что несколько выше, чем случайное угадывание.

«Мы показываем, что в естественном контексте просмотра люди вряд ли заметят что-то необычное, когда столкнутся с дипфейком. Это согласуется с некоторыми предыдущими выводами, указывающими на то, что люди испытывают трудности с обнаружением высококачественных дипфейков», — заключили авторы исследования.

Статья «Обнаружение дипфейков с предупреждениями о контенте и без них» была написана Эндрю Льюисом, Патриком Ву, Раймондом М. Дачом и Ариком Чоудхури.