Газета The Chicago Sun-Times, издаваемая в Чикаго, опубликовала традиционный майский список книг, которые рекомендует своим подписчикам и покупателям прочитать грядущим летом. Однако в этом году эта безобидная традиция привела к скандалу. Выяснилось, что большей части упомянутых произведений вообще не существует. Дело в том, что сам перечень составили с помощью искусственного интеллекта.
Шумиха началась, когда в соцсетях на список обратила внимание писательница Рэйчел Кинг. Она опубликовала перечень и написала, что некоторые книги — фальшивки. Дальнейшее расследование показало, что несуществующими являются почти все упомянутые издания. Редким исключением стало «Вино из одуванчиков» Рэя Бредбери.
В The Chicago Sun-Times позднее заявили, что изучают список и проводят расследование. Перечень составил внештатный автор Марко Бускалья. Кроме того, издание подчеркнуло, что заметка находится в разделе, который помечен как не редакционный.
Сейчас мы выясняем, как это попало в печать. Это не редакционный материал. Он не был создан или одобрен нашей редакцией. Мы ценим доверию людей к нашим текстам и относимся к этому очень серьезно.
Анализ списка показал, что только пять из 15 книг реально существуют. Причем они были последними в перечне газеты. Примечательно, что к каждому произведению прилагалась краткая аннотация. Даже описания вымышленных романов выглядели весьма правдоподобно. В некоторых случаях ИИ использовал реально существующих авторов, приписывая им произведения, похожие чем-то на названия их книг, но полностью выдуманные.
Забавно, что одна из подделок — книга Энди Вейра «Последний алгоритм». В ней, согласно фейковому описанию из газеты, рассказывается о том, как искусственный интеллект вышел из-под контроля. История повествует о программисте, который выясняет, что ИИ обладает развитым сознанием и много лет тайно влияет на глобальные события.
Эксперты в области ИИ считают случай с The Chicago Sun-Times показательным примером опасности современных генеративных нейросетей, которые имеют доступ в интернет и могут «отравлять» его, создавая фейковый контент, распространяемый по сети и становящийся основой для других материалов. В конечном итоге это может привести к полной дезинформации в том числе в критически важных областях.
Ранее мы рассказывали о том, что ChatGPT оказался убедительнее людей в спорах.
