Intel Gaudi 3 были представлены 9 апреля 2024 года на мероприятии Intel Vision. Третье поколение ускорителей может похвастаться по-настоящему «волчьим аппетитом», в пиковых нагрузках потребляя более 900 Вт мощности.
Компания по-прежнему придерживается многочиплетной компоновки, повышая процент выхода годных кристаллов за счет сокращения их площади. Каждый ускоритель состоит из 16 чиплетов, вмещающих до 96 МБ кэш-памяти и до 128 ГБ DRAM стандарта HBM2e.
Gaudi 3 выполнены по передовому техпроцессу 5 нм (TSMC) и будут выпускаться в нескольких модификациях, предназначенных для систем как с воздушным, так и водяным охлаждением. Разумеется, подобные системы предназначены для совместной работы — Intel разработала базовую плату из восьми процессоров Gaudi 3, потребляющую порядка 7,6 кВт при производительности 14,6 Тфлопс в FP8.
Примечательно, что Gaudi 3 оказываются гораздо выгоднее систем Nvidia A100/H100, прежде удерживающих статус лидеров рынка. В задачах машинного обучения решения от Intel демонстрируют в среднем на 50% более высокую производительность и на 40% большую энергоэффективность по сравнению с Tesla H100.
Наконец, Intel планирует выпуск следующего поколения собственных ускорителей уже на 2025 год — интересно, как они будут конкурировать с недавно анонсированными чипами Nvidia Blackwell.
О следующем поколении ИИ-ускорителей Nvidia Blackwell читайте в нашем материале.