Дискуссии о том, возможно ли отличить нейрогенерацию от реальных фотографий, ведутся уже давно, и чем лучше работают ИИ-модели, тем жарче становятся такие споры. Если раньше сгенерированное изображение было видно сразу буквально по количеству пальцев на руках, то теперь явные «косяки» нейросетей встречаются все реже.
Специалисты университетов Лидса, Рединга, Гринвича и Линкольна решили на практике проверить, насколько успешно 664 участника отличают настоящие человеческие лица от изображений, сгенерированных нейросетью StyleGAN3 — это была одна из самых продвинутых систем генерации изображений на момент проведения эксперимента.
Результаты оказались тревожными: без какой-либо подготовки обычные люди правильно определяли подделку лишь в 31% случаев. Даже так называемые суперраспознаватели — люди с исключительными способностями к узнаванию лиц — справлялись ненамного лучше, показывая точность около 41%.
Однако картина существенно изменилась после краткого обучения. Участникам демонстрировали типичные ошибки, которые допускает искусственный интеллект при создании лиц: неровные зубы, неестественную линию роста волос, асимметричные или деформированные уши, несовпадающие серьги. После такой тренировки длительностью всего в 5 минут точность определения у обычных участников выросла до 51%, а суперраспознаватели стали угадывать подделки в 64% случаев.
Интересно, что тренировка одинаково помогла обеим группам участников. Это позволяет предположить, что суперраспознаватели используют иные визуальные подсказки, нежели обычные люди, а не просто лучше замечают технические огрехи рендеринга.
Руководитель исследования, доктор Кэти Грей из Университета Рединга подчеркивает практическую значимость работы: «Сгенерированные изображения представляют реальную угрозу безопасности. Их используют для создания фальшивых профилей в социальных сетях, обхода систем верификации личности и изготовления поддельных документов. Лица, созданные новейшим программным обеспечением, настолько реалистичны, что люди нередко оценивают их как более правдоподобные, чем настоящие человеческие фотографии».
По словам ученых, предложенная ими процедура обучения проста и ее легко внедрить на практике. В дальнейшем специалисты собираются выяснить, сохраняется ли эффект тренировки со временем, и глубже изучить способности суперраспознавателей — возможно, ими можно будет дополнять автоматические системы обнаружения подделок.
Ранее ученые предупредили о рисках, связанных с внедрением мультиагентного ИИ.
