Сегодня Nvidia анонсировала новый класс суперкомпьютеров на основе искусственного интеллекта с большом объёмом памяти — суперкомпьютер Nvidia DGX на базе суперчипов Nvidia GH200 Grace Hopper и системы переключения Nvidia NVLink — созданный для разработки новых генеративных ИИ-приложений, рекомендательных систем и обработки большоих объёмов данных.
Nvidia DGX GH200 использует технологию NVLink Switch System для объединения 256 суперчипов GH200, что позволяет им работать как один графический процессор. Это обеспечивает производительность на уровне 1 Эфлопс и 144 ТБ общей памяти — почти в 500 раз больше памяти, чем у предыдущего поколения Nvidia DGX A100, представленного в 2020 году.
«Генеративный ИИ, большие языковые модели и рекомендательные системы — это цифровые двигатели современной экономики, — сказал Дженсен Хуанг, основатель и генеральный директор Nvidia. — Суперкомпьютеры с искусственным интеллектом DGX GH200 объединяют самые передовые ускоренные вычисления и сетевые технологии Nvidia, чтобы расширить границы искусственного интеллекта».
Суперчипы GH200 устраняют необходимость в традиционном PCIe-подключении CPU-GPU за счет объединения ЦП Nvidia Grace на базе Arm с графическим процессором с тензорными ядрами Nvidia H100 в одном корпусе с использованием чипа Nvidia NVLink-C2C. Это увеличивает пропускную способность между GPU и CPU в 7 раз по сравнению с новейшей технологией PCIe, снижает энергопотребление межсоединений более чем в 5 раз и обеспечивает строительный блок GPU с архитектурой Hopper емкостью 600 ГБ для суперкомпьютеров DGX GH200.
DGX GH200 — это первый суперкомпьютер, в котором суперчипы Grace Hopper объединены с системой коммутации Nvidia NVLink, которая позволяет всем графическим процессорам в системе DGX GH200 работать вместе как единое целое. В системе предыдущего поколения было предусмотрено только восемь графических процессоров, которые можно было объединить с NVLink в один графический процессор без ущерба для производительности.
Архитектура DGX GH200 обеспечивает в 48 раз большую пропускную способность NVLink, чем предыдущее поколение, предоставляя мощность массивного суперкомпьютера ИИ с простотой программирования одного графического процессора.
Nvidia создает собственный суперкомпьютер с искусственным интеллектом на базе DGX GH200, чтобы обеспечить работу своих исследователей и команд разработчиков. Суперкомпьютер под названием Nvidia Helios будет оснащен четырьмя системами DGX GH200. Каждый из них будет соединен с сетью Nvidia Quantum-2 InfiniBand , чтобы повысить пропускную способность данных для обучения больших моделей ИИ. Helios будет включать 1024 суперчипа Grace Hopper и, как ожидается, будет запущен к концу года.