Mercredi, AMD a lancé sa très attendue nouvelle série MI300 de puces IA, comprenant les puces MI300A et MI300X, ciblant ce marché dominé par NVIDIA. La nouvelle puce lancée par AMD compte plus de 150 milliards de transistors. La mémoire de la nouvelle puce est 2,4 fois supérieure à celle du produit H100 de Nvidia et la bande passante mémoire est 1,6 fois supérieure à celle du H100. AMD a presque doublé ses prévisions concernant la taille du marché des accélérateurs d'IA en 2027 par rapport à août.
Mercredi, AMD a lancé sa très attendue nouvelle série MI300 de puces IA, comprenant les puces MI300A et MI300X, ciblant ce marché dominé par NVIDIA. Ces puces sont meilleures que les processeurs informatiques traditionnels pour traiter les grands ensembles de données impliqués dans la formation à l’IA.
Ce lancement de nouveau produit est l'un des plus importants des 50 ans d'histoire d'AMD et devrait remettre en question la position de Nvidia sur le marché en pleine effervescence des accélérateurs d'intelligence artificielle.
Les nouvelles puces lancées par AMD comportent plus de 150 milliards de transistors. L'accélérateur MI300X prend en charge jusqu'à 192 Go de mémoire HBM3.
La mémoire du MI300X est 2,4 fois supérieure à celle des produits NVIDIA H100 et la bande passante mémoire est 1,6 fois supérieure à celle du H100, améliorant encore les performances.
Les performances de la nouvelle puce MI300X peuvent être améliorées jusqu'à 60 % par rapport au H100 de Nvidia. Dans une comparaison individuelle avec le H100 (version Llama270B), les performances du MI300X se sont améliorées jusqu'à 20 %. Dans une comparaison individuelle avec le H100 (version FlashAttention2), les performances ont été améliorées jusqu'à 20 %. Dans une comparaison de 8 à 8 serveurs avec le H100 (version Llama270B), les performances ont augmenté jusqu'à 40 %. Dans une comparaison de serveur 8 contre 8 avec le H100 (Bloom176B), les performances ont augmenté jusqu'à 60 %.
Lisa Su, PDG d'AMD, a déclaré que la nouvelle puce est équivalente au H100 en termes de capacité à former des logiciels d'intelligence artificielle. En termes d'inférence, c'est-à-dire le processus d'exécution du logiciel après sa mise en service réelle, il est bien meilleur que les produits concurrents.
Avec la popularité de l’intelligence artificielle, le marché connaît une forte demande de puces haut de gamme. Cela permet aux fabricants de puces de cibler ce marché lucratif et d’accélérer le lancement de puces IA de haute qualité.
Bien que la concurrence sur l'ensemble du marché des puces IA soit assez féroce, AMD a donné mercredi une prévision audacieuse et choquante sur la taille future du marché, estimant que le marché des puces IA se développera rapidement. Plus précisément, le marché des puces d’intelligence artificielle (IA) devrait atteindre plus de 400 milliards de dollars d’ici 2027, soit près du double des 150 milliards de dollars prévus en août, soulignant l’évolution rapide des attentes en matière de matériel d’IA.
AMD est de plus en plus convaincu que sa série MI300 peut convaincre certains géants de la technologie, ce qui pourrait entraîner des milliards de dollars de dépenses de la part de ces sociétés en produits AMD. AMD a déclaré que Microsoft, Oracle et Meta sont tous ses clients.
Les informations du même jour ont montré que Microsoft évaluerait la demande pour les produits d'accélération d'IA d'AMD et évaluerait la faisabilité de l'adoption du nouveau produit. Meta utilisera les puces MI300X récemment lancées par AMD dans le centre de données. Oracle a déclaré qu'il utiliserait les nouvelles puces d'AMD dans ses services cloud.
Auparavant, le marché s'attendait à ce que la série MI300 d'AMD soit commercialisée entre 300 000 et 400 000 unités en 2024, ses plus gros clients étant Microsoft et Google. S'il n'y avait pas la pénurie limitée de capacité TSMC CoWoS et que Nvidia a déjà réservé plus de 40 % de sa capacité de production, les livraisons d'AMD devraient être révisées à la hausse.
Le cours de l'action NVIDIA a chuté de 1,5 % après la publication de la nouvelle de l'accélérateur MI300X d'AMD. Le cours de l’action Nvidia a grimpé en flèche cette année, portant sa valeur marchande à plus de 1 000 milliards de dollars, mais la plus grande question est de savoir combien de temps l’entreprise pourra monopoliser le marché des accélérateurs. AMD a vu sa propre opportunité : les grands modèles de langage nécessitent beaucoup de mémoire informatique, et c'est là qu'AMD voit son avantage.
Afin de consolider sa domination sur le marché, Nvidia développe également ses propres puces de nouvelle génération. Le H100 sera remplacé au premier semestre de l'année prochaine par le H200, lancé le mois dernier et offrant une nouvelle mémoire haute vitesse capable d'effectuer une inférence deux fois plus rapide que le H100 sur Llama2. De plus, Nvidia lancera une nouvelle architecture de processeur plus tard cette année.