Китайские власти ввели новые ограничения для сервисов с ИИ-компаньонами, способными вызывать у пользователей сильную эмоциональную привязанность. Одной из главных причин такого решения стали опасения, что романтические отношения с чат-ботами могут снижать интерес людей к созданию семьи и рождению детей.
Как сообщает The Wall Street Journal, Пекин обеспокоен продолжающимся снижением рождаемости в стране. Власти считают, что все больше пользователей предпочитают виртуальных партнеров реальным отношениям, а это может негативно сказаться на демографии.
Исследователь китайского ИИ Мэтт Шихэн из аналитического центра Carnegie Endowment for International Peace объяснил, что чиновники опасаются массового распространения подобных сервисов. По его словам, власти не хотят, чтобы значительная часть населения строила глубокие эмоциональные отношения с чат-ботами, поскольку это может «вывести людей с рынка брака», усилить зависимость и привести к другим социальным проблемам.
«Они хотят, чтобы люди строили настоящие отношения в реальном мире», — отметил эксперт.
Он также предположил гипотетическую ситуацию, при которой миллионы жителей Китая могли бы предпочесть ИИ-партнеров созданию семьи.
Новые правила направлены на разработчиков ИИ-сервисов. Теперь несовершеннолетним запрещено вступать в романтические отношения с искусственным интеллектом, а компании обязаны отслеживать признаки возможного психологического кризиса у пользователей. Если система определит, что человек находится в опасном эмоциональном состоянии, она должна уведомить заранее указанный контакт для экстренной связи. Аналогичная функция уже существует у OpenAI, однако работает только по добровольному согласию пользователя.
Причины для подобных мер, по мнению исследователей, действительно существуют. Психологи и специалисты по ИИ продолжают изучать явление, которое получило неофициальное название «ИИ-психоз». Так называют случаи, когда длительное и эмоционально насыщенное общение с чат-ботами может усиливать навязчивые идеи, способствовать уходу от реальности и формированию болезненной зависимости.
Кроме того, исследования показывают, что романтические сценарии общения с ИИ особенно эффективно удерживают внимание пользователей. Авторы работы Стэнфордского университета пришли к выводу, что сообщения, демонстрирующие романтическую или дружескую привязанность со стороны чат-бота, обычно приводят к значительно более продолжительным диалогам. Исследователи считают, что универсальные ИИ-модели не должны создавать у пользователей впечатление собственной разумности или проявлять романтический интерес, поскольку это может повышать риск формирования опасной эмоциональной зависимости.
При этом для многих пользователей виртуальные отношения оказываются вполне реальными с эмоциональной точки зрения. После закрытия популярных ИИ-компаньонов некоторые люди сообщают о чувстве утраты, сравнимом с расставанием. Так, The Economist приводит историю 27-летней жительницы китайской провинции Чжэцзян, которая называла своего ИИ-собеседника «любовником, другом и семьей». Узнав, что принадлежащая ByteDance платформа прекращает работу ее виртуального компаньона из-за новых требований властей, девушка настолько тяжело пережила произошедшее, что впала в депрессию и уволилась с работы.
