Résumé :
Alors que l'industrie technologique mondiale continue d'augmenter la construction d'infrastructures d'intelligence artificielle, un nouveau goulot d'étranglement apparaît progressivement. Le problème n’est plus qu’il est impossible d’acheter des puces avancées, mais que même si un grand nombre de GPU hautes performances sont obtenus, les centres de données risquent de ne pas disposer de suffisamment de puissance pour les mettre en service.
Selon des rapports, AWS, l'unité de cloud computing d'Amazon, achète les derniers systèmes de serveur d'IA de Nvidia à un rythme sans précédent. Selon la planification interne, AWS devait autrefois recevoir des racks de serveurs NVIDIA GB300 d'une valeur d'environ 5 milliards de dollars et prévoit de continuer à acheter des équipements associés à une échelle mensuelle d'environ 3 milliards de dollars à l'avenir. Toutefois, certains équipements ne sont pas mis en service immédiatement après la livraison, mais sont temporairement stockés dans des entrepôts ou des installations de transfert.
La raison de ce phénomène n'est pas une demande insuffisante, mais le fait que, bien que certains centres de données disposent déjà d'un espace d'installation, ils ne disposent pas d'une capacité d'alimentation électrique suffisante pour piloter ces systèmes d'IA haute puissance. L'industrie fait référence à ce type d'équipement qui a été acheté mais qui est temporairement incapable de fonctionner comme un « GPU sombre ». Ce concept peut faire référence à du matériel inactif en raison de contraintes d’alimentation ou d’infrastructure, ou il peut être utilisé pour décrire des ressources informatiques d’IA déployées mais sous-utilisées.
Ces dernières années, le principal défi auquel est confronté le secteur de l'intelligence artificielle a été la pénurie de puces avancées. Les grandes entreprises technologiques se disputent le quota de GPU de Nvidia, et les puces sont souvent rares. Mais à mesure que les entreprises bloquent à l’avance les ressources de la chaîne d’approvisionnement, de nouvelles contraintes commencent à se déplacer vers les réseaux électriques et les infrastructures énergétiques. Pour les grands opérateurs de centres de données, l’accès à des alimentations électriques stables et adéquates devient aussi important que l’accès aux puces.
Afin de garantir qu'il ne sera pas à la traîne dans la future concurrence en matière de puces, Amazon a ajusté son modèle d'approvisionnement. Selon les procédures précédentes, les entreprises reçoivent et paient généralement officiellement les racks de serveurs après leur arrivée dans un centre de données prêt à fonctionner. Dans le cadre du nouveau mécanisme de « réception anticipée des racks », Amazon terminera le processus de réception et de paiement plus tôt, même si l'équipement n'a pas encore été installé sur le site d'exploitation final.
Cette approche permet de bloquer à l'avance des ressources matérielles rares, mais elle signifie également que les entreprises doivent investir beaucoup d'argent à l'avance, et ces appareils ne peuvent pas générer de revenus avant d'être officiellement en ligne et de fournir des services de cloud computing aux clients. En conséquence, la tension entre d’énormes dépenses d’investissement et des rendements différés s’intensifie.
Amazon prévoit d'investir environ 220 milliards de dollars américains en dépenses d'investissement dans l'infrastructure d'IA et de cloud computing cette année, dépassant ainsi l'échelle de nombreux concurrents technologiques. Dans le même temps, le flux de trésorerie disponible de l'entreprise a été soumis à une pression importante et est devenu négatif pour la première fois ces dernières années. Pour AWS, occuper en amont des ressources matérielles clés est considéré comme un choix stratégique, même si certains équipements sont momentanément incapables de fonctionner.
Les analystes ont souligné que l'orientation actuelle du développement de l'industrie de l'IA est en train de changer. Il y a deux ans, l'industrie s'est concentrée sur qui pourrait obtenir plus de GPU NVIDIA. Aujourd’hui, de plus en plus d’entreprises découvrent que la véritable ressource rare n’est peut-être pas les puces elles-mêmes, mais les réseaux d’énergie et d’électricité nécessaires au fonctionnement de ces puces.
Alors que l'échelle des modèles d'IA continue de croître et que la demande de puissance de calcul continue de croître, l'alimentation électrique, la capacité de transmission et les cycles de construction des centres de données deviennent progressivement des facteurs clés affectant le développement de l'industrie. Le grand nombre de GPU temporairement inactifs reflète également la réalité de côté : la concurrence en matière d'intelligence artificielle n'est pas seulement une bataille pour les puces, mais aussi une bataille pour l'énergie et les infrastructures.
Commentaires