У компании Tesla есть собственные чипы как для автомобильных компьютеров, так и для суперкомпьютеров, однако мимо ускорителей Nvidia H100 компания пройти не смогла. Как сообщается, Tesla в понедельник запустила кластер, состоящий из 10 000 ускорителей H100.
Кластер будет использоваться для обучения автопилота машин Tesla.
Кластер Tesla AI 10k H100 заработает в понедельник. Благодаря реальному видеообучению у нас могут быть самые большие наборы обучающих данных в мире, емкость кэша превышает 200 ПБ — на порядки больше, чем у LLM
инженер Tesla Тим Заман (Tim Zaman)
Пиковая производительность такого суперкомпьютера составит 340 PFLOPS (PF64), а если говорить о вычислениях INT8, то речь идёт уже почти о 40 эксафлопс! Ориентируясь на вычисления с двойной точностью, можно говорить о том, что система Tesla является четвёртым по производительности суперкомпьютером в мире.
От планов по запуску системы Dojo компания отказываться не собирается, но такой суперкомпьютер заработает когда-то позже.