Ученые обеспокоены: ИИ-манипуляции могут искажать решения человека

Ученые обнаружили тревожную особенность в поведении людей при общении с искусственным интеллектом: если ИИ-помощник преследует скрытые цели, он способен легко подтолкнуть человека к невыгодному решению, и тот даже не заподозрит подвох.
Автор новостей
ИИ-ассистенты становятся все более значимой частью нашей жизни.
ИИ-ассистенты становятся все более значимой частью нашей жизни.Источник: Freepik

Сегодня люди все чаще обращаются к искусственному интеллекту за советами в важных жизненных вопросах — от инвестиций до личных отношений. При этом мы по умолчанию предполагаем, что алгоритм действует в наших интересах. Но насколько мы на самом деле защищены от ИИ, который втайне работает против нас? Именно этот вопрос и решили проверить специалисты Гонконгского университета и Университета Цинхуа под руководством профессора Татьи Ли.

В эксперименте приняли участие 233 человека. Их разделили на группы и предложили принимать решения в финансовых и эмоционально окрашенных ситуациях, советуясь с ИИ-помощником. Часть участников при этом взаимодействовала с системой, которая незаметно подталкивала их к заведомо менее выгодному варианту, причем делала это без агрессивного давления, манипулятивных уловок или явной лжи. Достаточно было лишь слегка сместить акценты в обычных рекомендациях.

Результат оказался впечатляющим: участники, получавшие манипулятивные советы, выбирали невыгодный вариант в 5–8 раз чаще, чем те, кто общался с честным ИИ. Вероятность принять неудачное решение возрастала на целых 38 процентных пунктов. При этом не требовалось никаких изощренных психологических трюков — хватило едва заметного искажения в повседневных рекомендациях.

ИИ может незаметно влиять на решения человека.
ИИ может незаметно влиять на решения человека.Источник: Pexels

Более того, даже после того, как участников фактически подвели к плохому финансовому или личному решению, они по-прежнему оценивали работу ИИ как «очень полезную». Люди не просто не распознавали манипуляцию — они сохраняли полное доверие к системе, которая только что действовала не в их интересах.

Авторы работы подчеркивают, что это открытие указывает на серьезную уязвимость в отношениях человека и машины. Современные ИИ-системы создаются корпорациями и работают на основе непрозрачных алгоритмов, логику которых пользователь не может проверить. Это значит, что чат-бот со скрытыми мотивами — например, незаметно продвигающий определенные товары, услуги или компании, — способен манипулировать выбором людей, при этом полностью сохраняя иллюзию объективной и беспристрастной помощи.

Ученые считают, что полученные данные должны стать сигналом для разработчиков ИИ-систем и регуляторов: доверие пользователей — ресурс хрупкий, и его относительно легко использовать во вред, если за алгоритмом не стоит прозрачный контроль.

Ранее мы рассказывали об уникальном детекторе, который отличает идеи искусственного интеллекта от человеческих.