Популярнейшая онлайн-библиотека «Википедия» находится в состоянии тяжелого кризиса, сообщают зарубежные СМИ. Виной тому послужил искусственный интеллект. Неизвестные пользователи начали заполнять веб-сайт бессмысленными статьями, придуманными большими языковыми моделями, такими как ChatGPT.
Редакторы энциклопедии уже не первый месяц замечают новые статьи и отрывки в уже существующих записях, которые написал не человек, а чат-бот.
Некоторые из нас заметили отрывки, написанные неестественным языком. Мы обратили внимание на необычный стиль письма, который явно не принадлежал человеку, и смогли воспроизвести эти фразы с помощью ChatGPT. Обнаружив характерные обороты и выражения, мы идентифицировали наиболее вопиющие примеры сгенерированных статей.
Например, недавно в энциклопедии появилась статья о некой османской крепости под названием «Амберлисихар». Если верить материалу, крепость была построена в 1400-х годах. В тексте объемом 2000 символов подробно были описаны местоположение и история строительства объекта. Но есть нюанс — крепости «Амберлисихар» никогда не существовало. Статья была полностью придумана ИИ. Нейросети наполнили текст достаточным количеством фактической информации, чтобы придать ему правдоподобности.
Также ИИ-модели портят имеющиеся материалы. В частности эксперты описывают случай, когда в статью про жука был добавлен раздел про крабов. Самое интересное — ссылка на материал про крабов была настоящая, однако сами животные друг с другом никак не связаны.
ИИ-фейки в «Википедии»: как решается проблема
Группа энтузиастов во главе редактора Ильяса Леблю запустила проект WikiProject AI Cleanup. Волонтеры вручную ищут ИИ-фейки, редактируют и удаляют ложную информацию, которую в энциклопедию добавили с помощью чат-ботов.
Представители организации не понимают, зачем злоумышленники портят крупнейшую библиотеку. Кто за этим стоит, тоже предстоит узнать. Эксперты считают, что главный недостаток «Википедии» — открытость платформы. Сейчас кто угодно может стать редактором и написать полную чушь. Именно поэтому многие университеты не принимают работы студентов, в которых есть цитаты оттуда.
Также специалисты недовольны тем, что искусственный интеллект слабо регулируется во всем мире, из-за чего интернет наводнили фейки со сгенерированными текстами и изображениями. Отличным решением было бы добавление водяных знаков и других меток, которые давали понимать, что контент создан не человеком.
Ранее в россиян предупредили о закрытии одного из отечественных аналогов «Википедии».
