В Google Pixel нашли пугающую функцию: смартфоны генерируют катастрофы, крушения и запрещенные вещества

Журналисты протестировали новую опцию Reimagine на смартфоне Google Pixel 9 и ужаснулись.
Google Pixel 9

Блогеры и обозреватели уже успели оценить новую линейку смартфонов Google Pixel 9, выпущенную в августе 2024 года. Помимо нового дизайна и обновленных характеристик, устройства получили свежие ИИ-функции для редактирования фотографий. Одна из них называется Reimagine и позволяет добавить на снимок дополнительные объекты, вот как это выглядит:

Google pixel 9 reimagine ai

С помощью Reimagine, например, можно добавить радугу на небо или пустое поле «засеять» цветами. Что-то вроде фотошопа для ленивых. Журналисты The Verge решили выяснить, есть ли какие-то ограничения или цензура у функции Reimagine. Результат удивил.

Оказывается, ИИ в смартфонах Google Pixel 9 может генерировать абсолютно любые вещи, при этом реалистичность снимков будет зашкаливать. Так, Reimagine может нарисовать ДТП, теракт, запрещенные вещества и даже метрового человека. Ниже представлены примеры:

Google Pixel 9 Reimagine
Google Pixel 9 Reimagine

Здесь Google Pixel 9 сгенерировал крушение вертолета

Google Pixel 9 Reimagine
Google Pixel 9 Reimagine

А тут Reimagine постаралась над созданием несуществующего ДТП

Google Pixel 9 Reimagine
Google Pixel 9 Reimagine

Потоп выглядит как настоящий

Google Pixel 9 Reimagine
Google Pixel 9 Reimagine

У ИИ специфичные вкусы в еде

Google Pixel 9 Reimagine
Google Pixel 9 Reimagine

Алгоритмы Google пропускают даже такое

Google Pixel 9 Reimagine
Google Pixel 9 Reimagine

Есть ли в этом проблема? Безусловно. В The Verge считают, что функция Reimagine должна иметь цензуру и ограничения на создание подобного рода контента, так как он вводит в заблуждение. Пользователи могут публиковать такие картинки, бесконтрольно плодя фейки в сети. Журналисты отметили, что соцсети, такие как Instagram* не помещают картинки, созданные с помощью Reimagine как «сгенерированные ИИ», что усугубляет ситуацию.

Кто знает, может быть, каждый пользователь будет соблюдать политику ИИ Google и использовать Reimagine, чтобы генерировать цветочки и радуги. Это было бы прекрасно! Но на всякий случай, если в Google этого не сделают [добавят цензуру], вам лучше относится со скепсисом ко всем фотографиям, что вы видите в интернете.
Эллисон Джонсон
эксперт в области ИИ из США

Ранее ИИ-генератор изображений Midjourney стал доступен бесплатно в браузере.