Яндекс опубликовал в открытом доступе на платформе Hugging Face Alice AI Search Pretrain — языковую модель, которая лежит в основе быстрых ИИ-ответов в сервисе Поиск. Компания стала первой, кто раскрыл базовую (pretrain) версию модели, непосредственно задействованной в продукте.
Alice AI Search Pretrain построена на гибридной архитектуре, которая прежде существовала почти исключительно в научных работах. Модель объединяет два подхода: «энкодер-декодер» и MoE (Mixture of Experts — смесь экспертов). Первый позволяет одной части нейросети анализировать и отбирать информацию, а другой — формировать лаконичный ответ. Второй ускоряет работу: вместо всей нейросети целиком активируется только та ее часть, которая лучше всего разбирается в конкретной теме. В итоге модель содержит 35 млрд параметров, однако при обработке каждого фрагмента текста задействуется лишь около 600 млн из них — менее 2%.
Благодаря такой архитектуре Alice AI Search Pretrain требует заметно меньше вычислительных мощностей, чем сопоставимые по возможностям решения. По данным слепого тестирования, она превосходит компактные модели Qwen 3.5 2B, Qwen 3.5 4B и T5 Gemma 2 4B-4B Base на задачах по русскому языку, а по качеству ответов держится на уровне Qwen 3.5 35B-A3B — при значительно более скромных требованиях к вычислительным ресурсам.
С июля в Поиске Яндекса работает дообученная версия этой модели — Alice AI Search, входящая в семейство генеративных моделей Alice AI. Разработчики обучали ее на реальных сценариях взаимодействия людей с поиском: пользовательские сигналы помогли модели давать более емкие и понятные ответы. Сейчас быстрыми ответами в Поиске пользуются более 49 миллионов человек в месяц — это самый массовый генеративный продукт компании.
Открытая версия доступна на Hugging Face: разработчики и исследователи могут изучить архитектуру модели и дообучить ее под собственные задачи.
Ранее мы рассказывали о том, что «Яндекс Музыка» планирует маркировать треки, созданные с помощью искусственного интеллекта.