NVIDIA a annoncé hier sa nouvelle DGX Station A100 320G qui, comme son nom l’indique, est équipé de quatre cartes vidéo A100 de 80 Go, offrant plus de mémoire et de bande passante que le modèle original. En outre, le DGX Superpod a également été mis à jour avec des cartes vidéo A100 de 80 Go et des DPU Bluefield-2. NVIDIA a annoncé l’année dernière l’A100 de 80 Go, qui dispose d’une mémoire HBM2e plus rapide capable de fournir 2 To/s de bande passante par GPU (contre 1,6 To/s pour le modèle HBM2 de 40 Go). En novembre, nous savions que la DGX Station prendrait en charge les GPU mis à jour, mais ce n’est que maintenant qu’ils sont enfin disponibles, ou du moins commandables.

Pour rappel, la DGX Station n’est pas destinée aux jeux, mais plutôt à la recherche en IA et à la création de contenu. Il est doté d’un système de refroidissement liquide pour le processeur Epyc et les quatre cartes A100. Il est incroyablement silencieux (37 dB) tout en consommant jusqu’à 1500W d’énergie. Il offre également jusqu’à 2,5 PFLOPS de performance en virgule flottante et supporte jusqu’à 7MIG (GPU multi-instance) par A100, pour un total de 28MIG. L’achat d’un tel monstre ne sera pas bon marché, à tel point que 149 000 dollars par unité ou 9 000 dollars par mois sont nécessaires pour les louer.

20 systèmes DGX A100 pour un total de 100 PFLOPS de performance

Le DGX Superpod a également reçu quelques mises à jour. Outre les cartes A100 de 80 Go, le produit prend désormais en charge les DPU Bluefield-2, qui offrent une sécurité renforcée et une isolation complète entre les machines virtuelles. NVIDIA inclut également désormais Base Command, le logiciel que la société utilise en interne pour partager son supercalculateur Selene avec des milliers d’utilisateurs. Le DGX Superpod offre des performances différentes selon le nombre de modules qu’il contient. Il commence avec 20 systèmes DGX A100 pour un total de 100 PFLOPS de performance AI, tandis que le système complet atteint jusqu’à 140 systèmes DGX A100 et 700 PFLOPS de puissance de calcul AI. Chaque système A100 est équipé de deux CPU AMD EPYC 7742 de 64 cœurs chacun, supporte jusqu’à 2 To de mémoire et comporte huit A100.

Le prix du DGX Superpod débute à 7 millions de dollars et peut atteindre 60 millions de dollars pour un système complet. Quant à la période de lancement, nous parlons du deuxième trimestre de cette année.