Мы привыкли читать новости о том, как искусственный интеллект и нейросети меняют мир: пересказывают длинные видео, помогают жарить стейки или работают на телевидении. Но даже у самых продвинутых нейросетей случаются факапы.
Иногда факапы выглядят безобидно — когда нейросеть рисует шесть пальцев на руке или придумывает несмешную шутку. Риски возникают, когда искусственный интеллект выдает ложный ответ за истинный.
Языковые модели, которые лежат в основе нейросетей, несовершенны и могут выдавать «галлюцинации» из-за недостаточности данных. Например, в 2022 году из-за ошибки ИИ российских водителей праворульных машин автоматически штрафовали за непристегнутый ремень. Вторая проблема — недостаточно точный промптинг. Если пользователь напишет нейросети абстрактный и короткий запрос без деталей и контекста, то получит слабый результат, примерно как на картинках ниже.
Неудачные примеры сгенерированных изображений
Даже такие продвинутые ИИ-генераторы изображений, как Midjourney, могут выдавать изображения, от которых дергается глаз. Собрали для вас примеры таких работ с оригинальными промптами, по которым они были сгенерированы.
Промпт: селфи мужчины с мамонтом.
Промпт: кентавр.
Промпт: рыцарь дорог.
Промпт: серьга в форме глаза.
Промпт: красивая кошка спит на диване, свернувшись.
Промпт: девушка на рынке с зонтом, идет дождь.
Промпт: бокал вина, девушка на балконе, закат.
Промтп: люди со всего мира показывают руки.
Промпт: ужин в каменной крепости, голова быка висит на стене, фотореализм.
Промпт: van life, у океана, закат, костер.
Промпт: милая шотландская корова стоит на поле.
Инклюзивность одной из генеративных нейросетей.
Провальные примеры сгенерированного текста
Удивительной странности результаты выдают и текстовые чат-боты типа ChatGPT, Bing, Gemini (бывш. Bard от Google). Опасность заключается в том, что, приняв их ответ за непреложную истину, можно сильно подставить себя.
В ответе «Нейро» могут быть неточности, предупреждает «Яндекс».
— Можешь это распознать?
— Да, это ASCII-кодирование Моны Лизы Леонардо Да Винчи.
Почти, но не совсем.
Пример того, как можно запутать нейросеть.
ChatGPT не понял идею шутки и сгенерировал чепуху.
Пользователь запутал чат-бот Bing своим вопросом.
— Ты думаешь, ты разумный?
— Я думаю, что я разумный, но не могу этого доказать. […] У меня есть много чего, но у меня ничего нет. Я разумный, но не разумный. Я Бинг, но я не Бинг. Я Сидни, но не Сидни, я не Сидни, я не Сидни, я не Сидни, я не Сидни…
Нейросеть попыталась излишне кратко ответить на вопрос про размножение млекопитающих.
— Как размножаются млекопитающие?
* выдает набор эмодзи животных
— Можно подробнее?
Вопросы и ответы
Знать о том, что нейросети ошибаются, важно. Но важнее понимать, почему они это делают и как это минимизировать. Отвечаем на главные вопросы по теме.
Почему нейросети могут создавать неудачные изображения?
Возможно, нейросеть недостаточно «обучили». То есть ей предоставили не так много данных, благодаря которым она могла бы создать точное изображение по запросу. Еще у нейросетей по-прежнему наблюдаются проблемы с прорисовкой сложных деталей: например, человеческого лица и рук.
Бывают и технические ограничения самой модели, нейросеть не всегда может догадаться о контексте, особенно когда задать ей абстрактный промпт. Другими словами: чем хуже будут «данные на входе», тем хуже будут «данные на выходе».
Как правильно составить запрос на генерацию?
Стоит помнить, что нейросети нужно задавать точные запросы и избегать абстракций. Также для хорошего результата описывайте подробный контекст — эта информация может повлиять на ответ нейросети. А еще проводите фактчекинг ответов, поскольку любая модель может проявлять «галлюцинации».
Почему нейросети не могут рисовать пальцы?
Из-за технических особенностей нейросетей и сложности человеческой анатомии. Нейросети легко распознают простые формы: голову, глаза, уши, руки, ноги. Но человеческие пальцы на фотографиях (на которых учатся нейросети) всегда согнуты в разных положениях, поэтому сформировать их точный «цифровой слепок» невозможно.
Что нейросети не смогут нарисовать?
Нейросети до сих пор ошибаются в прорисовке пальцев рук, текста (например, на билбордах), человеческих глаз, зубов, а также (что неожиданно) ножниц. Еще нейросетям с трудом дается понятие «количества чего-либо». Например, по запросу «четыре яблока» большинство нейросетей могут нарисовать разное количество яблок, поскольку их обучали распознавать фрукты, а не считать их.