WSE-3 является одним из самых больших чипов на рынке и в 57 раз больше самого крупного GPU Nvidia H100. По-сути, процессор представляет собой целую кремниевую пластину с 84 чиплетами, выполненными по 5-нм техпроцессу TSMC. Производитель утверждает, что WSE-3 оснащается 4 триллионами транзисторов.
Такая монолитная конструкция обеспечивает невозможную для других систем пропускную способность памяти 21 петабайт (21000 терабайт) в секунду. Для вычислений WSE-3 использует 900 тысяч оптимизированных для задач ИИ ядер, а также 44 Гб системной памяти SRAM.
В ИИ-вычислениях пиковая производительность одного чипа достигает 125 петафлопс, что более чем в 31 раз выше, чем быстродействие ускорителя Nvidia H100. Cerebras планирует создать собственный суперкомпьютер на основе WSE-3, который будет обучать языковые модели в 10 раз больше существующих ChatGPT-4 и Gemini, обеспечивая лучшее соотношение производительности и энергоэффективности в своем классе.
Интересно, что использование WSE-3 с коммерческой точки зрения выгодно лишь в большом количестве, в то время как один чип будет потреблять неоправданно много энергии — вплоть до нескольких десятков киловатт.
Об устройстве самого мощного суперкомпьютера в мире читайте в нашем материале.