Компания Open AI создала «крупномасштабную неконтролируемую языковую модель» — алгоритм, который на основе одного лишь только заголовка способен написать полноценную новость. Но простой обыватель этой программой воспользоваться не сможет: разработчики выпустят только урезанную версию для исследовательских целей: слишком уж «умным» оказался алгоритм.
Изначально программа разрабатывалась для помощи в переводе и перепечатке текстов. Алгоритм должен был прогнозировать следующее слово в тексте. Но оказалось, что он способен создавать самостоятельный осмысленный текст на основе «затравки» — заголовка, который ему предлагают. Журналисты издания Wired провели эксперимент, «скормив» алгоритму фразу «Хиллари Клинтон и Джордж Сорос» — и получили короткую заметку о том, что эти двое создают свое политическое движение (чего, конечно же, не происходит в реальности).
«Мы опасаемся, что технологию могут использовать во вредительских целях», — говорят представители Open AI, имея в виду возможность генерировать реалистичные фейковые новости. «Чувствуя свою ответственность, мы делаем релиз ограниченной версии программы, с которой позже сможем экспериментировать». Получившийся продукт также вызвал неодобрение со стороны Илона Маска, одного из сооснователей Open AI. Знаменитый изобретатель решил покинуть проект, так как «был не согласен с некоторыми вещами, которые в Open AI хотели делать».
Это тоже интересно: