Российские компании активно внедряют технологии для выявления поддельных видео, аудио и изображений, созданных нейросетями. По данным РБК, такие системы уже работают в 30 проектах, половина из которых — банковские.
По словам Игоря Бедерова, руководителя компании «Интернет-розыск», современные детекторы анализируют не только визуальные и аудиопаттерны, но и алгоритмы генерации контента.
Нейросети-детекторы определяют, какая именно модель использовалась для создания дипфейка. Чаще всего выявляются массовые инструменты вроде Deepfake или аналогичных, — пояснил эксперт.
Однако технологии подделки развиваются быстрее, чем методы их обнаружения.
Сейчас в этой гонке лидируют создатели фейков, а детекторы лишь подстраиваются под новые методы обмана, — отметил Бедеров.
Некоторые эксперты предлагают сделать такие системы обязательными. Например, в «Сбере» призвали ввести стандарт для распознавания дипфейков. Алексей Мунтян, соучредитель Сообщества профессионалов в области приватности, считает, что пока угроза не носит критического характера, но бизнес готовится к будущим рискам.
Для создания реалистичных дипфейков в реальном времени нужны серьезные ресурсы. Однако с развитием технологий такие атаки могут стать массовыми, и компании заранее усиливают защиту, — заявил он.
Государство также стимулирует бизнес к повышению кибербезопасности. В частности, обсуждается законопроект «Антифрод-2», ужесточающий ответственность за мошенничество с использованием нейросетей. Проблема дипфейков актуальна и за рубежом. В ряде стран их использование уже считается отягчающим обстоятельством при киберпреступлениях. В России Минцифры также предлагает ввести аналогичные меры.
Пока технология детектирования остается дорогостоящей, но эксперты прогнозируют, что в ближайшие годы она станет стандартом для финансового сектора и других отраслей.
Читайте также нашу статью о том, как умные устройства следят за пользователями.
