Нынешние монстры Nvidia H100 и H200 померкнут на его фоне. Компания дразнит мощью грядущего ускорителя B100

Компания Nvidia представила сегодня ускоритель H200, который впервые для такого решения получил память HBM3e. На фоне H100 новое решение в ряде задач может быть почти вдвое быстрее. Но и H200 померкнет на фоне B100, согласно обещаниям Nvidia. 

Нынешние монстры Nvidia H100 и H200 померкнут на его фоне. Компания дразнит мощью грядущего ускорителя B100

Компания решила, что уже вполне можно дразнить публику будущим продуктом. Напомним, B100 будет топовым решением архитектуры Blackwell и ожидается в следующем году.  

Нынешние монстры Nvidia H100 и H200 померкнут на его фоне. Компания дразнит мощью грядущего ускорителя B100

Судя по диаграмме, нас ждёт более чем двукратный прирост производительности относительно уже H200, а на самом деле разница может быть и ощутимо больше. 

Опять-таки, это результат в конкретной задаче: вывод модели GPT-3 со 178 млрд параметров. Но, само собой, стоит ожидать улучшений и в других сценариях. 

Нынешние монстры Nvidia H100 и H200 померкнут на его фоне. Компания дразнит мощью грядущего ускорителя B100

Никаких технических подробностей, конечно, нет, но новый ускоритель, вероятно, сохранит память HBM3e, как у анонсированного сегодня H200, так как нового типа памяти в следующем году не ожидается. 


Источник