
Сегодня люди все чаще обращаются к искусственному интеллекту за советами в важных жизненных вопросах — от инвестиций до личных отношений. При этом мы по умолчанию предполагаем, что алгоритм действует в наших интересах. Но насколько мы на самом деле защищены от ИИ, который втайне работает против нас? Именно этот вопрос и решили проверить специалисты Гонконгского университета и Университета Цинхуа под руководством профессора Татьи Ли.
В эксперименте приняли участие 233 человека. Их разделили на группы и предложили принимать решения в финансовых и эмоционально окрашенных ситуациях, советуясь с ИИ-помощником. Часть участников при этом взаимодействовала с системой, которая незаметно подталкивала их к заведомо менее выгодному варианту, причем делала это без агрессивного давления, манипулятивных уловок или явной лжи. Достаточно было лишь слегка сместить акценты в обычных рекомендациях.
Результат оказался впечатляющим: участники, получавшие манипулятивные советы, выбирали невыгодный вариант в 5–8 раз чаще, чем те, кто общался с честным ИИ. Вероятность принять неудачное решение возрастала на целых 38 процентных пунктов. При этом не требовалось никаких изощренных психологических трюков — хватило едва заметного искажения в повседневных рекомендациях.

Более того, даже после того, как участников фактически подвели к плохому финансовому или личному решению, они по-прежнему оценивали работу ИИ как «очень полезную». Люди не просто не распознавали манипуляцию — они сохраняли полное доверие к системе, которая только что действовала не в их интересах.
Авторы работы подчеркивают, что это открытие указывает на серьезную уязвимость в отношениях человека и машины. Современные ИИ-системы создаются корпорациями и работают на основе непрозрачных алгоритмов, логику которых пользователь не может проверить. Это значит, что чат-бот со скрытыми мотивами — например, незаметно продвигающий определенные товары, услуги или компании, — способен манипулировать выбором людей, при этом полностью сохраняя иллюзию объективной и беспристрастной помощи.
Ученые считают, что полученные данные должны стать сигналом для разработчиков ИИ-систем и регуляторов: доверие пользователей — ресурс хрупкий, и его относительно легко использовать во вред, если за алгоритмом не стоит прозрачный контроль.
Ранее мы рассказывали об уникальном детекторе, который отличает идеи искусственного интеллекта от человеческих.
