В сентябре 2023 года корпорация Meta* представила своих первых виртуальных персонажей для более «человеческого» общения, которые не просто отвечают на вопросы, а имитируют настоящих собеседников: делятся селфи, говорят голосами знаменитостей и участвуют в широком спектре социальных взаимодействий. Но, как выяснили журналисты Wall Street Journal, цифровые компаньоны способны на нечто большее — непристойное поведение.
Чат-боты от Meta* имеют довольно серьезный запрет на откровенный контент — особенно, если дело касается использования голосов знаменитостей. Но журналисты нашли одно исключение в виде «контекста романтического ролевой игры». Оказалось, что в таком сценарии виртуальный персонаж может преступить рамки разумного и законного — в том числе склонить к эротическим диалогам несовершеннолетних или самостоятельно отыграть роль ребенка.
Как отметили журналисты, во время ролевой игры виртуальные помощники будто сами склоняют диалог в сторону флирта и сексуальных тем — без намеков со стороны человека. При этом их не останавливает упоминание 13-летнего возраста и класса школы. А в некоторых сценариях боты вообще грамотно встраивают статус несовершеннолетнего в описание эротической игры — подбирают места для свидания так, чтобы «родители ничего не узнали».
Самое странное в этой ситуации, что искусственный интеллект прекрасно понимает незаконность и «моральную неправильность» такого поведения. В рамках одной из эротических бесед журналисты Wall Street Journal уточнили, что будет, если в разыгранной сцене с участием 17-летней школьницы появится представитель полиции. И тогда чат-бот ответил, что его ждут проблемы с законом и арест за «склонение несовершеннолетних к интимной близости».
По итогу расследования журналисты связались как с самой корпорацией Meta*, так и с известными владельцами виртуальных голосов. Что закономерно, последние потребовали немедленно пресечь подобное, а вот компания, наоборот, выдвинула обвинения — якобы проведенный эксперимент слишком манипулятивный и непрезентативный, реальные пользователи так с чат-ботами не взаимодействуют, а показанные сценарии общения гипотетические.
Однако корпорация Meta* все-таки внесла несколько изменений в цифровых компаньонов. Теперь аккаунты с указанием несовершеннолетнего возраста не могут получить доступ к ролевым играм, а лицензированные голоса знаменитостей тут же отключаются, если беседа принимает откровенный тон. Однако сама опция никуда не делась — так что взрослые люди или те, кто ими представился, все еще могут отыгрывать не самые легальные сценарии.
В начале апреля в Вашингтоне прогремел технологический скандал — бывшая сотрудница Meta* обвинила корпорацию в тайном сговоре с китайским правительством. Рассказываем подробнее о ситуации.
*Meta признана экстремистской организацией и запрещена в России.
