NVIDIA a lancé son nouveau GPU H200Hopper, qui intègre désormais la mémoire HBM3e la plus rapide au monde de Micron. En plus de la nouvelle plate-forme d'intelligence artificielle, NVIDIA a également annoncé une victoire majeure en matière de calcul intensif avec sa superpuce GraceHopper, qui alimente désormais le supercalculateur ExaflopJupiter.

Le GPU H100 de NVIDIA est de loin la puce d'intelligence artificielle la plus demandée du secteur, mais NVIDIA souhaite offrir à ses clients des performances encore plus élevées. HGXH200 est la dernière plate-forme informatique haute performance d'intelligence artificielle, pilotée par H200TensorCoreGPU. Ces GPU intègrent la dernière technologie d'optimisation Hopper tant au niveau matériel que logiciel, tout en offrant la solution de mémoire la plus rapide au monde à ce jour.

NVIDIAH200GPU est équipé de la solution de mémoire vidéo HBM3e de Micron, avec une capacité allant jusqu'à 141 Go et une bande passante de 4,8 To/s. Par rapport à NVIDIAA100, la bande passante a augmenté de 2,4 fois et la capacité a doublé. Dans des applications telles que Llama2 (70 milliards de paramètres LLM), cette nouvelle solution de mémoire double presque les performances d'inférence IA de NVIDIA par rapport au GPU H100.

En termes de solutions, NVIDIAH200GPU sera largement utilisé dans les serveurs HGXH200 avec des configurations GPU à 4 et 8 voies. La configuration GPU H200 à 8 voies du système HGX fournit 32 PetaFLOP de performances informatiques FP8 et 1,1 To de capacité de mémoire.

Les GPU seront également compatibles avec les systèmes HGXH100 existants, ce qui permettra aux clients de mettre plus facilement à niveau leurs plates-formes. Partenaires NVIDIA, tels que ASUS, ASRockRack, Dell, Eviden, GIGABYTE, Hewlett Packard Enterprise, Inglas (Ingrasys), Lenovo (Lenovo), QCT, Wiwynn (Wiwynn), Supermicro (Supermicro) et Wistron (Wistron), ces fabricants fourniront des solutions mises à jour lors du lancement du H200GPU au deuxième trimestre 2024.

En plus d'annoncer le GPU H200, NVIDIA a également annoncé un projet de supercalculateur à grande échelle alimenté par sa superpuce GraceHopper (GH200). Ce supercalculateur s'appelle « Jupiter » et se trouve au Forschungszentrum Jülich en Allemagne. Il fait partie de l’entreprise commune européenne de calcul haute performance (entreprise commune EuroHPC) et est sous contrat avec Eviden et ParTec. Ce superordinateur sera utilisé dans la science des matériaux, la recherche climatique, la découverte de médicaments et d'autres domaines. Il s'agit également du deuxième supercalculateur lancé par Nvidia en novembre. Le précédent était Isambard-AI, qui peut fournir jusqu'à 21 exaflops de performances d'intelligence artificielle.

En termes de configuration, le supercalculateur Jupiter est basé sur le BullSequanaXH3000 d'Eviden et adopte une architecture entièrement refroidie par liquide. Il dispose d'un total de 24 000 super puces Nvidia GH200 GraceHopper, interconnectées via le Quantum-2 Infiniband de la société. Considérant que chaque processeur Grace contient 288 cœurs Neoverse, nous envisageons que Jupiter ait près de 7 millions de cœurs ARM côté processeur uniquement (6,912 millions pour être exact).

Les mesures de performances incluent 90 Exaflops pour la formation en IA et 1 Exaflop pour le calcul haute performance. Le supercalculateur devrait être installé en 2024. Dans l’ensemble, il s’agit de mises à jour majeures pour l’avenir, car Nvidia continue de dominer le monde de l’intelligence artificielle grâce à ses puissantes technologies matérielles et logicielles.