Microsoft встраивает уникальные идентификаторы в изображения, созданные с помощью ИИ в приложениях Paint и «Фотографии» для Windows. Об этом пишет издание The Register со ссылкой на разработчика Ли Сюйшэна, изучившего механизм маркировки AI-контента.
По данным исследователя, при создании изображения пользовательский запрос отправляется на серверы Microsoft для проверки. После этого сервис возвращает уникальный идентификатор, который Paint незаметно кодирует непосредственно в пикселях сгенерированного изображения.
Речь идет об идентификаторе, который отличается от обычного видимого водяного знака. Microsoft использует его в рамках системы отслеживания происхождения контента, а данные об изображении также могут содержать сведения о том, что оно было создано или изменено с помощью ИИ.
Особое внимание Сюйшэн обратил на связь между последовательными запросами. Вместе с новым запросом Paint передает предыдущий идентификатор генерации, благодаря чему несколько обращений к сервису можно связать между собой.
По мнению исследователя, это потенциально создает угрозу для приватности. Если Microsoft связывает выданный идентификатор с учетной записью пользователя, теоретически по встроенному в изображение идентификатору можно установить, кто участвовал в его создании.
Внедрение такой маркировки связано с европейскими требованиями к прозрачности AI-контента. Правила ЕС предусматривают машинно читаемую маркировку материалов, созданных или измененных с помощью ИИ, однако конкретный способ ее реализации компании выбирают самостоятельно.
Microsoft входит в число основателей Coalition for Content Provenance and Authenticity (C2PA) — инициативы по подтверждению происхождения цифрового контента. Похожие технологии разрабатывают и другие крупные компании.
Исследователь отмечает, что пользователям, которых беспокоит подобная идентификация, стоит обратить внимание на локальные инструменты. При их использовании генерация изображений происходит непосредственно на устройстве без необходимости отправлять запрос стороннему ИИ-сервису.
На момент публикации компания не ответила на запрос издания The Register о комментарии.
Ранее мы писали, что в РФ маркировку ИИ-контента признали добровольной.