Об очень высокой стоимости ускорителя Nvidia H100 мы уже не раз говорили. Оказывается, что конкурирующее решение от AMD в разы дешевле.
Ни AMD, ни Nvidia публично не раскрывают цены на свои ускорители, тем более что цена для каждого клиента своя, но, согласно данным аналитиков Citi, AMD продаёт Microsoft ускорители Instinct MI300X примерно по 10 000 долларов за единицу. Другие клиенты покупают этот продукт примерно за 15 000 долларов. Для сравнения, за Nvidia H100 клиенты компании платят примерно от 35 000 до 70 000 долларов, а источник говорит, что можно купить и от 30 000 долларов. Но всё зависит от объёмов закупки и договорённостей конкретной компании с Nvidia.
Таким образом, Nvidia H100 примерно в три-семь раз дороже, чем Instinct MI300X. Сравнивать производительность этих решений весьма сложно, потому как мы можем сопоставить объём памяти, данные о производительности в TFLOPS, но в реальности очень важна оптимизация и производительность в конкретных задачах.