Социальные сети переполнились скриншотами странных диалогов с искусственным интеллектом от Meta* (Meta признана экстремистской организацией в России и запрещена), где люди спрашивают о самых деликатных вещах, сообщает TechСrunch. Проблема кроется в том, что многие не знают: их переписки с ИИ-помощником автоматически становятся видны всем.
Приложение Meta AI* запустили в апреле с функцией «Поделиться», которая позволяет публиковать диалоги с ботом. Однако многие пользователи не понимают, что нажимают на эту кнопку, а система не предупреждает о публичности постов. В результате в сети попадают запросы о налоговых нарушениях, медицинских проблемах и других интимных темах.
Эксперт по кибербезопасности Рейчел Тобак обнаружила в публичной ленте домашние адреса пользователей, детали судебных дел и персональные данные. Один человек случайно опубликовал просьбу написать характеристику для сотрудника, попавшего под следствие, указав при этом полное имя и фамилию коллеги.
Корень проблемы лежит в настройках приватности Instagram*. Если ваш аккаунт открыт для всех, то и запросы к Meta AI* становятся публичными. Компания не информирует об этом пользователей и не показывает текущие настройки перед публикацией.
За два месяца приложение скачали всего 6,5 миллиона раз — скромный результат для гиганта, который инвестировал миллиарды в развитие ИИ. Но низкие цифры загрузок не останавливают поток компрометирующих постов. Ситуация усугубляется тем, что пользователи начали специально троллить систему. В ленте появляются провокационные запросы и фейковые резюме, что превращает серьезный ИИ-инструмент в источник мемов.
История напоминает скандал с AOL в 2006 году, когда компания опубликовала поисковые запросы пользователей, думая, что анонимизация защитит их приватность. Тогда журналисты быстро вычислили людей по их запросам, что привело к судебным искам.
Meta* пока не комментирует ситуацию, но проблема требует срочного решения. Пользователям рекомендуют проверить настройки приватности своих аккаунтов в Instagram* и Facebook* перед использованием ИИ-помощника.
Парадокс в том, что компания, которая годами подвергалась критике за нарушения приватности, создала продукт, где пользователи сами компрометируют себя, не понимая последствий своих действий.
Также ранее Meta* выпустила ИИ-редактор видео. Рассказали о нем в статье.
*Meta признана экстремистской организацией в России и запрещена
