Компания Intel пытается закрепиться на рынке ускорителей для ИИ посредством своих адаптеров семейства Gaudi. И уже второе поколение вышло вполне удачным. В частности, по показателю производительности на доллар в новых тестах MLPerf v4.0, которые демонстрируют возможности GenAI в таких рабочих нагрузках, как Llama-70B и Stable Diffusion XL, модель Gaudi 2 конкурирует с лидером в виде Nvidia H100.
Правда, сравнивала сама Intel, но как минимум это не её собственные тесты. Сравнивались системы с восемью ускорителями Gaudi 2 и с восемью ускорителями H100. Чистая производительность ускорителя Nvidia, безусловно, выше. Причём выше в разы. Но продукт Intel намного дешевле. И в итоге по производительности на доллар Gaudi 2 порой даже обходит конкурента. Напомним, недавно глава Nvidia заявил, что, даже если конкуренты будут раздавать свои ускорители бесплатно, это будет слишком дорого.
Само собой, даже показатель производительности на доллар — это далеко не всё, что важно. Есть ещё стоимость обслуживания, энергопотребление, универсальность и оптимизация ПО и так далее. Но как минимум точно нельзя сказать, что у Nvidia вообще нет никаких конкурентов.