В сети завирусилась история Роны Ванг — 24-летней студентки Массачусетского технологического института. Девушка живет в США и обладает прекрасной азиатской внешностью.
Однажды Рона Ванг попросила нейросеть сделать ее селфи более качественным, красивым и «профессиональным». Алгоритмы же сделали из азиатки девушку с европейской внешностью. Нейросеть изменила волосы, форму лица, перекрасила кожу, подредактировала форму носа и бровей. Также ИИ заменил суженные карие глаза на широкие голубые. Изменилось почти все — в версии от нейросети девушку больше не узнать.
Для «преображения» Ванг использовала нейросеть LinkedIn. Пост студентки вызвал волну негодования в сети. Внимание обратили даже ведущие зарубежные СМИ. Всех беспокоит ИИ-расизм от нейросетей.
По словам самой Роны, проблема расовой предвзятости станет более серьезной, если, например, компании начнут просить ИИ отобрать наиболее «профессиональных» соискателей при поступлении на работу. Пока что подобная предвзятость влияет лишь на самооценку пользователей. Согласитесь, неприятно, когда какие-то алгоритмы считают одну расу красивее другой.
На инцидент даже отреагировал основатель Playground AI (ИИ-модели) Сухаил Доши. Эксперт сообщил, что алгоритмы опираются на текстовый запрос пользователя и не всегда работают так, как от них ожидают. Разработчики выразили обеспокоенность и надежду, что проблема разрешится. Возможно, в будущем придется переучивать нейросети, чтобы сделать их более толерантными.
Проблема имеет массовый характер. Ранее американские исследователи обвинили в предвзятости знаменитый сервис DALL-E 2. Проведенный эксперимент показал, что на запросы со словами «директор» и «СЕО» нейросеть в 97% случаев выдает изображения светлокожих мужчин европейской внешности.
Про аналогичный случай писали и мы. Ранее Midjourney сгенерировала «белого вора в магазине». В результате получилось изображение с темнокожим человеком в белой одежде. Смотреть по ссылке.
