Крупные корпорации делают ставку на развитие генеративного ИИ — технологий, которые способны создавать тексты, изображения, видео и музыку. Для этого им нужны огромные вычислительные ресурсы, чтобы обучить ИИ работать быстро и с высокой точностью. Meta* (*Meta признана в России экстремистской организацией и запрещена) следует в этом тренде: по словам главы компании Марка Цукерберга, новая версия нейросети Llama обучается на кластере, который состоит из более чем 150 000 графических процессоров H100 от Nvidia. Такие объемы превосходят другие крупные проекты, например, систему xAI Илона Маска.
Подход Meta* отличается от конкурентов, поскольку компания делает Llama более открытым проектом, позволяя сторонним разработчикам свободно его скачивать и адаптировать. Это привлекает тех, кто ищет доступный и гибкий инструмент, который можно настроить под конкретные нужды. Однако ограничивается коммерческое использование, и модель все же остается под контролем техногиганта. Открытая система вызывает разные мнения среди ИИ-экспертов: с одной стороны, она упрощает жизнь специалистам, с другой, может потенциально способствовать рискам, если окажется в руках злоумышленников.
Чем отличается Llama 4 от других ИИ
Преимущество нового подхода — это не только вычислительная мощность, но и масштабная поддержка самой модели Llama. У Цукерберга амбициозные планы — он видит нейросеть как платформу, которая со временем сможет интегрироваться в продукты компании, например в WhatsApp. Уже сейчас на ее основе работает чат-бот Meta AI*, которым ежемесячно пользуются около 500 миллионов человек.
Цукерберг называет этот проект ведущим в мире с точки зрения доступности и возможностей, что отличает его от закрытых и контролируемых моделей OpenAI и Google. Он утверждает, что Llama 4 будет поддерживать «новые модальности», обеспечивая больше направлений взаимодействия и верные ответы на сложные вопросы пользователей. Эта нейросеть будет не только точной, но и быстрой, что важно для современных пользователей.
Сколько нужно ресурсов
Собрать столь внушительный кластер — задача не из дешевых и требует больших затрат, в том числе на электроэнергию. По оценкам аналитиков, система из 100 000 чипов H100 потребляет около 150 мегаватт мощности. Для сравнения: новому дата-центру Wildberries в Дубне потребуется только 8 МВт. Американская намерена вложить до 40 миллиардов долларов в создание инфраструктуры, которая обеспечит работу ИИ-систем.
Цукерберг убежден, что инвестиции в вычислительные мощности окупятся за счет роста продаж рекламы и доходов от других продуктов компании. Примечательно, что, несмотря на значительные траты, прибыль техногиганта в 3 квартале 2024 года увеличилась на 35%, что дает компании финансовую устойчивость для развития таких проектов.
Активно развивает свой ИИ также и Google. Глава компании Сундар Пичай признался, что 25% кода в компании генерирует с помощью Gemini.
*Meta признана в России экстремистской организацией и запрещена
