Недавно Meta* представила нейросеть, с помощью которой пользователи могут генерировать стикеры по текстовому описанию, чтобы присылать их в беседах. Функция работает почти во всех площадках компании, включая Facebook**, Instagram** и WhatsApp.
Пользователям разрешили создавать свои стикеры, однако разработчики не учли одного факта — нужно было создать систему модерации, которая бы фильтровала непристойные стикеры.
Теперь пользователи могут генерировать стикеры с вооруженными детьми, карикатурами политиков, обнаженными телами, насилием и не только. В соцсетях уже обсуждают самые смешные из ИИ-стикеров, например, все в восторге от грудничка-Пикачу и грудастого Ежа Соника.
Журналисты The Verge напомнили, что за создание стикеров отвечает нейросеть Meta* Llama 2. У нее есть встроенные фильтры запросов, но модерацию можно обойти, если просто вводить текст с ошибками. Представители Meta* пока не прокомментировали ситуацию.
Скорее всего, в будущем ИИ-художник для создания стикеров не будет показывать непристойности, а пока пользователи в восторге от «свободы», которую им подарили. Некоторые юзеры даже высказались о своем желании увидеть такую же функцию в Telegram.
Компания Meta* признана экстремистской организацией и запрещена в РФ. Instagram** и Facebook** — соцсети, внесенные в реестр запрещенных сайтов на территории РФ.
