Ученые обнаружили, что новейшие дипфейки научились копировать человеческий пульс. Это делает их почти неотличимыми от настоящих видео. Раньше один из способов отличить фальшивку — посмотреть, как кожа человека слегка меняет цвет при сердцебиении. У живых людей лицо пульсирует очень слабо, но заметно. Компьютер мог это заметить, а дипфейки раньше таких мелочей учитывать не могли. Теперь — умеют.
Новое исследование из Германии показало, что дипфейк может выглядеть так, будто у него действительно бьется сердце. Причем даже система, которая точно определяет пульс за 10 с, уже не может отличить подделку от настоящего человека. Ученые протестировали эту технологию на настоящих видео — все работало отлично. А вот с новыми дипфейками — полный обман. Программа идентифицирует пульс, которого в реальности нет.
Как так получилось? Оказалось, что подделки могут «унаследовать» сердцебиение от настоящих людей, запись которых использовались для создания фейков. То есть, если лицо в дипфейке двигается, а кожа чуть-чуть меняет цвет, как у настоящего человека — это может быть пульс настоящей модели, случайно перенесенный на подделку. Есть и второй способ: при создании дипфейка специально встраивают пульс в анимацию. Так программа видит равномерное мигание кожи и думает, что человек настоящий.
Пока большинство программ для обнаружения ненастоящих людей смотрят на общую картину — есть ли пульс в целом. Но у живого человека он распределяется неравномерно: щеки, лоб и подбородок ведут себя немного по-разному. А дипфейки пока не умеют так точно подделывать микродвижения и изменение цвета в разных частях лица.
Это значит, что в будущем нужно создавать новые способы защиты. Разработчикам предстоит проверять пульс в динамике — где он быстрее, где слабее, где заметнее. Такая технология может предоставить преимущество в борьбе с фейками, которые становятся все умнее и опаснее.
Дипфейки обычно распознают по мелким несостыковкам, которые сложно подделать: это может быть неестественное моргание, странная мимика, ошибки в тенях или освещении. Анализ синхронизации звука и движений губ помогает выявить подделку, если речь и артикуляция не совпадают. Кроме того, программы сканируют отдельные пиксели и фрагменты изображения на предмет искажений и аномалий, которые сложно заметить глазу, но которые часто указывают на цифровую обработку. Один из популярных способов — ревью пульса на лице, ведь у настоящего человека кожа слегка меняет цвет с каждым ударом сердца. Эти едва заметные колебания улавливаются специальными программами, но теперь и их можно подделать, так что методы защиты тоже устаревают.
Ранее мы писали о том, как обманывают нейросети.
