Alors que les communautés du monde entier s'opposent de plus en plus à la consommation élevée d'énergie et d'eau des centres de données, Nvidia a récemment annoncé que sa conception de référence de centre de données refroidi par liquide de nouvelle génération pour l'architecture Rubin pouvait réduire considérablement la consommation d'eau et améliorer l'efficacité énergétique globale tout en fonctionnant à des températures plus élevées. L’entreprise espère répondre à la pression du public concernant les coûts environnementaux des centres de données d’IA, mais il a également été souligné que ce plan n’aborde pas des controverses plus larges telles que le choix du site, l’échelle de construction et les énormes besoins en énergie.

NVIDIA a déclaré dans son blog officiel que cette conception de référence de centre de données refroidi par liquide « élimine presque la dépendance à l'eau dans le processus de refroidissement tout en maintenant une puissance de calcul élevée » et l'a décrit comme une solution modèle à adopter lorsque les futurs fournisseurs de services cloud construiront des installations d'IA de génération Rubin. Cependant, les médias technologiques ont souligné que Nvidia n'avait pas mentionné dans le billet de blog la différence de coûts de construction entre les solutions de refroidissement liquide et les centres de données traditionnels refroidis par air, et n'avait pas non plus expliqué la faisabilité économique de cette conception dans un déploiement réel.

Contrairement aux solutions de refroidissement par air traditionnelles qui doivent maintenir une température plus basse dans la salle informatique, l'idée de NVIDIA est de permettre aux serveurs de fonctionner à des températures plus élevées, puis de coopérer avec un système de circulation de refroidissement liquide à haute efficacité pour concentrer la chaleur. Selon la société, cette conception permet au serveur IA de fonctionner de manière stable à des températures allant jusqu'à 45 degrés Celsius (environ 113 degrés Fahrenheit), similaire à l'annonce récente d'Amazon selon laquelle il optimise les centres de données refroidis par air avec des limites de dissipation thermique plus élevées. En augmentant la plage de températures tolérables, les opérateurs devraient réduire leur dépendance aux sources de froid externes selon les saisons et les conditions climatiques.

Nvidia a déclaré que dans cette solution, la chaleur générée par le serveur est directement captée par le composant de refroidissement liquide et transférée au dissipateur thermique via une boucle fermée à plus haute température. Étant donné que la boucle de refroidissement fonctionne à des températures plus élevées, une tour de refroidissement ou un refroidisseur à sec peut évacuer la chaleur vers l'environnement plus souvent tout au long de l'année sans avoir à recourir à de grandes quantités d'eau d'évaporation, ce qui rend le système moins sensible à la température de l'air ambiant. L'entreprise souligne que cette architecture offre une plus grande flexibilité d'ingénierie pour les centres de données situés dans différentes zones climatiques.

En termes de données spécifiques sur la consommation d'eau, Josh Parker, responsable du développement durable chez Nvidia, a déclaré que la conception de référence peut réduire la consommation d'eau d'environ 0,6 gallon par kilowattheure de charge informatique dans les systèmes de tour de refroidissement traditionnels à un niveau proche de zéro, permettant une réduction d'eau allant jusqu'à environ 95 %. En d’autres termes, tout en conservant la même puissance de calcul, la demande en eau douce consommée par les centres de données pour le refroidissement sera considérablement réduite, offrant ainsi un espace de secours aux installations situées dans les zones de stress hydrique.

Malgré cela, les observateurs de l’industrie et de l’environnement ont souligné que la déclaration de Nvidia se concentrait davantage sur les améliorations de la technologie de refroidissement et n’apportait pas de réponses substantielles à certains des problèmes centraux qui préoccupent le plus le monde extérieur, comme l’empreinte carbone des centres de données d’IA à très grande échelle pendant le processus de construction, l’énorme consommation d’énergie requise pour les opérations à long terme et la pression sur les réseaux électriques locaux et l’utilisation des terres. Ils ont souligné que même si la consommation d'eau utilisée dans le processus de refroidissement est proche de zéro, tant que la demande en puissance de calcul continue d'augmenter rapidement, la consommation globale d'énergie et de ressources restera à un niveau extrêmement élevé.

Le rapport mentionne également que le blog de Nvidia n'explique pas l'écart d'investissement dans les coûts de construction et de modification d'un centre de données utilisant une conception de référence refroidie par liquide par rapport à une installation utilisant un système de refroidissement par air moins efficace. Cela signifie que pour de nombreux fournisseurs de services cloud et opérateurs d'hébergement, le passage à grande échelle à l'architecture de refroidissement liquide préconisée par NVIDIA n'est pas seulement un choix technologique, mais aussi un jeu entre les fonds et les cycles de rendement. Certains analystes estiment que ce n’est que sous la pression conjointe des prix de l’énergie, des réglementations sur les émissions et des contraintes liées aux ressources en eau que de telles solutions efficaces et à haut niveau d’intrants pourront être plus largement mises en œuvre.

Alors que l'échelle des modèles d'IA et la demande d'inférence et de formation continuent de monter en flèche, les fournisseurs de puces et de systèmes tels que NVIDIA tentent d'influencer l'évolution des futures formes de centres de données grâce à des conceptions de référence et des solutions intégrées. Cette architecture de centre de données avec refroidissement liquide à haute température comme noyau est décrite par l'entreprise comme une « voie de migration » pour les fournisseurs de services cloud vers des clusters GPU de génération Rubin, visant à leur permettre de gérer des tâches informatiques plus intensives tout en utilisant moins d'eau pour soutenir les opérations d'infrastructure. Cependant, dans les discussions sociales et politiques plus larges, les exigences en matière de transparence, de participation communautaire, de plafonds de consommation d’électricité et d’évaluation de l’impact environnemental autour de la sélection de l’emplacement des centres de données IA sont encore loin d’être considérablement allégées par la proposition d’une solution technique unique.