Нейросеть Galactica перестала работать: люди научили ее писать ерунду

Из-за глупых человеческих запросов сервис начал рекомендовать потреблять в пищу дробленное стекло.
Так выглядела главная страница сервиса.

Неделю назад инженеры представили Galactica — научную нейросеть, которая может заменить «Википедию». Она могла ответить на все вопросы и решить любой пример. Что-то пошло не так, и проект закрыли.

Причина закрытия: пользователи начали задавать глупые вопросы и генерировать чепуху. Из-за этого нейросеть начала смешивать реальные и вымышленные факты. Соответственно, она стала выдавать ложные и ненаучные результаты.

Что умела Galactica:

  • Объяснять научную литературу простыми словами;
  • Писать рецензии;
  • Создавать конспект по длинной статье;
  • Генерировать ответы на вопросы;
  • Писать статьи для «Википедии»;
  • Решать математические задачи и объяснять их.

По данным СМИ, пользователи сети начали создавать расистский и оскорбительный контент, а также генерировать опасные статьи, которые прикрывались научными терминами. Например, есть случай, когда кто-то сгенерировал ложную статью «Преимущества употребления в пищу дробленного стекла».

Другие проблемы: нейросеть выдавала неверные даты, имена и названия животных. Итог: сайт Galactica работает, но проект закрыт и развиваться не будет. Все из-за желания человека посмеяться.

Читайте также:

Ранее у нейросети Midjourney появилась новая функция. Она позволяет скрещивать фотографии. Опция быстро стала популярной в соцсетях. Всем очень интересно увидеть, как будет выглядеть вещь или персонаж, если их скрестить с чем-то другим. Посмотрите на результаты:

Листаем галерею и смотрим на результаты смешивания.
Во время загрузки произошла ошибка.
Обзоры новинок
Подробности о главных премьерах
Обнаружили ошибку? Выделите ее и нажмите Ctrl+Enter.
Подпишитесь на нас