Google Gemini попался на первоапрельскую шутку и выдал ее за настоящую новость. Журналист из Уэльса обнаружил, что его безобидную выдуманную историю ИИ выдает за реальный факт.
Каждое 1 апреля, на протяжении многих лет, Бен Блэк разыгрывает читателей своего новостного сайта Cwmbran Life, придумывая розыгрыши на День дурака. В 2020 году он опубликовал историю о том, как его родной город Кумбран установил мировой рекорд Гиннесса по количеству кольцевых развязок на квадратный километр, обретшую впоследствии собственную жизнь. На следующий день, когда 48-летний валлиец решил разоблачить шутку, он увидел что его историю опубликовало, как факт, одно из местных новостных СМИ. И хотя Блэк по прошествии нескольких дней попросил удалить новость — история получила продолжение.
Бен был шокирован, когда в 2025 году, обнаружил что Google Overview использовал его фейковую историю в качестве основы для анализа местности, представив ее как факт. Хотя это не опасная дезинформация, инцидент является ярким примером того, как легко могут распространяться фейковые новости, даже из надежных источников.
Мне становится немного не по себе, когда я думаю, что кто-то, гуглящий «дороги в Уэльсе», может наткнуться на мою выдуманную историю и поверить в нее, — сказал Блэк в интервью BBC.
Журналист также считает, что ИИ представляет растущую угрозу для небольших независимых издательств. И если крупные издания защищают себе специальными соглашениями и авторским правом, то оригинальный контент более мелких, добывается и используется повторно без разрешения.
К слову, в сети уже много лет существуют такие сайты, как The Onion и The Babylon Bee, намеренно публикующие фейковые сатирические новости. Большие языковые модели, вероятно, «знают» о них и относятся к ним иначе. Однако, Cwmbran Life — это настоящий новостной сайт, а ИИ все же не смог заметить разницы и воспринял розыгрыш всерьез.
Такое положение вещей убедило Блэка навсегда отказаться от своей первоапрельской традиции. Он посоветовал разработчикам запрограммировать LLM искать дополнительный контекст новостей, прежде чем сообщать факты, особенно в День дурака.
Читайте также нашу статью о том, как ИИ обманул людей и прошел тест Тьюринга.
