В начале февраля Microsoft представила «Новый Bing» — браузер с ИИ-чатом ChatGPT внутри. Пользователи могли искать информацию с помощью классических ссылок и с помощью краткого пересказа от нейросети. При этом полная функциональность ChatGPT внутри браузера сохранилась. То есть можно было заниматься копирайтингом или программированием.
Пользователи нашли слабое место «Нового Bing»: нейросеть внутри браузера можно было сломать. Тогда она выдавала ложные, а иногда даже глупые или грубые ответы. Ранее Hi-Tech Mail.ru собрал подборку самых интересных историй, которые произошли с чатботом. У энтузиастов получалось вызывать «галлюцинации» у ИИ-чата, кто-то заставил думать нейросеть, что она реальная, а кто-то и вовсе разозлил ChatGPT и заставил думать, что она живет в 2022 году. Прочитать о том, как люди привели «Новый Bing» в «депрессию», можно по ссылке.
Ответ Microsoft
Компании не понравилось, что над ее проектом так издеваются, поэтому в Microsoft ввели новые ограничения:
- За один сеанс пользователь может задать не более 5 вопросов;
- После каждого пятого запроса история беседы стирается и начинается заново (снова до 5 вопросов);
- В день пользователь может осуществлять не более 50 запросов к ChatGPT (10 сеансов).
«Наши данные показали, что большинство людей находят ответы, которые они ищут, в течение 5 ходов, и что только около 1% разговоров в чате содержат более 50 сообщений. Сеансы с 15 или более вопросами могут привести к тому, что Bing станет повторяться или будет провоцироваться на ответы, которые не полезны или не соответствуют заданному тону»
Новые ограничения помогут чатботу не запутаться и не «огрызаться» на людей. Также в компании добавили, что алгоритмы нейросети дорабатывают, чтобы ответы были точнее и нейтральнее.
