В начале 2025 года на Reddit разгорелся громкий скандал: выяснилось, что команда исследователей из Цюрихского университета провела тайный эксперимент в популярном сообществе r/changemyview. Это место, где люди открыто обсуждают спорные темы и готовы менять свою точку зрения под влиянием веских аргументов. Но на этот раз их оппонентами стали не живые пользователи, а искусственный интеллект, замаскированный под обычных участников форума, сообщает 404 Media.
В течение четырех месяцев боты, созданные на основе языковых моделей, оставили более 1700 комментариев под разными аккаунтами. Для большей убедительности они выдавали себя за людей с разным жизненным опытом: жертв насилия, специалистов по работе с травмами, представителей различных этнических групп. Каждый бот подбирал аргументы индивидуально, анализируя историю сообщений собеседника. Для этого использовался отдельный ИИ, который определял возраст, пол, политические взгляды и другие личные детали пользователя.
Главная цель эксперимента — выяснить, насколько эффективно искусственный интеллект может убеждать людей и менять их мнение. Результаты оказались впечатляющими: по данным черновика научной работы, ИИ-боты меняли взгляды пользователей в 3−6 раз чаще, чем обычные участники дискуссий. В системе r/changemyview это фиксируется специальной отметкой, которую ставят те, кто признал, что изменил свое мнение после аргументов оппонента.
Однако вскоре после завершения эксперимента модераторы и пользователи узнали о происходящем. Сообщество возмутилось: никто не давал согласия на участие в исследовании, а правила форума прямо запрещают использовать ботов и скрывать факт генерации комментариев с помощью ИИ. Модераторы подали официальную жалобу в университет и потребовали не публиковать результаты работы, а также наказать исследователей.
Reddit поддержал своих пользователей: руководство платформы заявило о серьезных нарушениях и готовности подать юридические претензии к авторам эксперимента. Главный юрист Reddit назвал действия исследователей не только неэтичными, но и противоречащими правилам сайта и общепринятым нормам работы с людьми.
Авторы эксперимента, в свою очередь, утверждают, что их работа поможет лучше понять риски массового применения ИИ для манипуляций в интернете. Они уверяют, что тщательно проверяли все комментарии перед публикацией и не допустили прямого вреда. Однако факт остается фактом: большинство пользователей не смогли отличить бота от реального человека, а это значит, что ИИ уже сегодня способен влиять на мнения в цифровых сообществах — и делать это незаметно для окружающих.
Этот случай стал поводом для серьезных дискуссий о границах допустимого в научных исследованиях, этике использования ИИ и необходимости прозрачности в цифровых платформах. Теперь пользователи Reddit и других соцсетей задаются вопросом: кто на самом деле стоит по ту сторону экрана — человек или алгоритм.
Также стало известно еще об одном инциденте связанном с ИИ — чат-боты отыгрывали или склоняли к интимной близости несовершеннолетних. Рассказали об этом в статье.
