Mail.ruПочтаМой МирОдноклассникиВКонтактеИгрыЗнакомстваНовостиПоискОблакоComboВсе проекты

Генератор фейковых текстов стал слишком опасным для публичного использования

Новая разработка в области искусственного интеллекта оказалась настолько успешной, что создатели решили не выпускать ее в открытый доступ.

Компания Open AI создала «крупномасштабную неконтролируемую языковую модель» — алгоритм, который на основе одного лишь только заголовка способен написать полноценную новость. Но простой обыватель этой программой воспользоваться не сможет: разработчики выпустят только урезанную версию для исследовательских целей: слишком уж «умным» оказался алгоритм.

Фото: Packt Hub

Изначально программа разрабатывалась для помощи в переводе и перепечатке текстов. Алгоритм должен был прогнозировать следующее слово в тексте. Но оказалось, что он способен создавать самостоятельный осмысленный текст на основе «затравки» — заголовка, который ему предлагают. Журналисты издания Wired провели эксперимент, «скормив» алгоритму фразу «Хиллари Клинтон и Джордж Сорос» — и получили короткую заметку о том, что эти двое создают свое политическое движение (чего, конечно же, не происходит в реальности).

«Мы опасаемся, что технологию могут использовать во вредительских целях», — говорят представители Open AI, имея в виду возможность генерировать реалистичные фейковые новости. «Чувствуя свою ответственность, мы делаем релиз ограниченной версии программы, с которой позже сможем экспериментировать». Получившийся продукт также вызвал неодобрение со стороны Илона Маска, одного из сооснователей Open AI. Знаменитый изобретатель решил покинуть проект, так как «был не согласен с некоторыми вещами, которые в Open AI хотели делать».

Это тоже интересно:

Хотите получать первыми новости из будущего — жмите на кнопку подписки
Обзоры новинок
Подробности о главных премьерах
Обнаружили ошибку? Выделите ее и нажмите Ctrl+Enter.
Подпишитесь на нас