Исследователи Вашингтонского университета изучили, как современные языковые модели описывают персонажей в детских рассказах об животных. Пресс-служба университета рассказала о работе, которую авторы — аспирантка по машинному обучению Имани Финкли, социолог Юаньси Ли и информатик Мелани Уолш — представили 25 июня на конференции ACM по справедливости, подотчетности и прозрачности технологий в Монреале.
В эксперименте использовали шесть актуальных языковых моделей: Claude Sonnet 4.5, Gemini 2.5, GPT-4o, GPT-5.1, Mistral Medium и Olmo 3. Каждой предлагали придумать историю про одного из семи животных в одном из четырех сценариев — на ферме, кухне, у реки или в магазине. Дополнительно варьировалась «температура» — параметр, влияющий на степень случайности в ответах. Итого исследователи проанализировали около 23 800 сгенерированных историй.
Картина получилась однозначной. Женских персонажей в историях ИИ оказалось лишь 2% — 513 из 23 800. Мужских — 41%, или 9 673 рассказа. Остальные 57% историй обходились без указания пола вовсе. Соотношение мужских персонажей к женским составило 19 к 1. Для сравнения: в аналогичном тесте с живыми авторами распределение было куда более сбалансированным.
Хуже всего с представленностью женских персонажей дела обстояли у Gemini 2.5 и GPT-5.1 — в их историях мужские персонажи составляли 63% и 65% соответственно.
Отдельным свидетельством перекоса стала статистика нейтральных местоимений. В английском языке they/them применительно к животному без известного пола — распространенный прием. Люди в контрольном эксперименте использовали их примерно в 3% случаев. ИИ-модели за почти 24 000 ответов прибегли к ним лишь дважды.
Старший автор исследования Мелани Уолш предложила объяснение: разработчики языковых моделей намеренно уходят от гендерной конкретики, чтобы не тиражировать стереотипы. Они обозначают персонажей местоимением it или вовсе избегают указания пола. Но на практике это приводит к тому, что женские персонажи просто исчезают, а мужские остаются нормой. Авторы исследования пришли к выводу: стремление к нейтральности не снижает предвзятость, а лишь смещает ее в неожиданную сторону.
Это важно не только в теории. ИИ-инструменты для создания детского контента активно применяют школы, библиотеки и родители. Если модели по умолчанию наделяют персонажей мужским полом, дети незаметно получают сигнал о том, кто считается «нормой», а кто — исключением.
Ранее мы сообщали о том, как ученые предупредили об опасности потери контроля над ИИ по мере развития мультиагентных экосистем.