Dans le contexte de l’expansion rapide des charges de travail des agents IA (Agentic AI), la demande de bande passante élevée, d’efficacité énergétique élevée et de mémoire de grande capacité dans les centres de données continue de monter en flèche. La mémoire LPDDR devient progressivement un élément clé de la nouvelle génération de serveurs IA. Les dernières tendances du secteur montrent que la norme LPDDR6 de nouvelle génération augmentera la capacité d'un module unique à 512 Go et prendra en charge la forme de conditionnement SOCAMM2, offrant ainsi une densité de mémoire plus élevée et une meilleure efficacité énergétique pour la formation et l'inférence futures de l'IA.

Selon les spécifications préliminaires de LPDDR6 publiées par JEDEC, LPDDR6 se positionne comme le standard de mémoire « principal » pour les centres de données et continuera d'augmenter la capacité et la bande passante tout en conservant les avantages en matière de consommation d'énergie. LPDDR6 adopte une conception d'interface à puce unique x6 plus étroite, complétée par une interface non binaire et des sous-canaux x6 supplémentaires, permettant d'empiler une seule puce DRAM pour obtenir une capacité plus élevée. La bande passante globale devrait augmenter d'environ 10 à 20 % par rapport au LPDDR5/LPDDR5X existant, mais la conception se concentre davantage sur l'expansion de la densité plutôt que sur la bande passante extrême.

JEDEC a déclaré que son objectif est d'augmenter la capacité du module LPDDR6 SOCAMM2 à 512 Go sur la base du module LPDDR5X SOCAMM2 existant jusqu'à 256 Go afin de répondre aux besoins croissants de mémoire pour la formation et l'inférence de l'IA. Aujourd’hui, alors que la puissance de calcul des centres de données continue d’augmenter, la capacité de mémoire est devenue l’un des principaux goulots d’étranglement affectant l’échelle de formation et le débit d’inférence des grands modèles. Les modules LPDDR6 à plus haute densité peuvent empiler un pool de mémoire efficace plus important dans un espace rack limité.

Du point de vue du rythme de mise en œuvre industrielle, les principaux fabricants de stockage tels que Samsung, SK Hynix et Micron ont précédemment fixé la fenêtre commerciale pour LPDDR6 à 2028-2029. Cependant, sous l’effet de la forte demande suscitée par l’IA basée sur les agents, le secteur s’attend généralement à ce que les produits et plates-formes associés soient lancés à l’avance. Les voies technologiques LPDDR6 et SOCAMM2 divulguées par JEDEC sont également considérées comme des signaux importants ouvrant la voie à une nouvelle génération de plates-formes de serveurs d'IA.

En termes d'écologie de la plate-forme de serveur, NVIDIA a adopté la solution LPDDR5X SOCAMM2 sur ses processeurs de la série Vera, tandis qu'AMD a introduit le LPDDR5X dans les processeurs de la série Verano optimisés pour les scénarios d'inférence afin d'améliorer les performances par watt au niveau du rack. Avec l'avancement du LPDDR6, l'industrie s'attend à ce que des fabricants tels que NVIDIA et AMD passent à des modules LPDDR6 SOCAMM2 plus denses et plus économes en énergie afin de fournir une plus grande bande passante mémoire et une plus grande redondance de capacité pour les futures usines d'IA et clusters d'inférence.

Il convient de noter que la technologie LPDDR6-PIM (Processing/Programming In Memory) promue en même temps par JEDEC élargira encore les limites d'application de LPDDR6 dans le domaine des centres de données. En intégrant le contrôleur PIM côté mémoire, le module LPDDR6 peut effectuer certaines tâches informatiques localement et décharger une partie du travail de traitement des données du CPU vers la mémoire, ce qui devrait réduire les frais de traitement des données et améliorer l'efficacité énergétique globale. Dans les scénarios où la formation et l'inférence de l'IA reposent fortement sur des opérations matricielles et tensorielles à grande échelle, ce type de technologie de « stockage et calcul intégrés » est considéré comme une direction de développement importante pour faire face à la consommation d'énergie et aux murs de bande passante.

Du point de vue des caractéristiques d'efficacité énergétique, la norme LPDDR a toujours été connue pour sa basse tension et sa faible consommation d'énergie. Par rapport à la mémoire DDR de serveur traditionnelle, elle peut réduire considérablement la consommation énergétique globale du centre de données lorsqu'elle est déployée à grande échelle. JEDEC a souligné qu'à mesure que les indicateurs de consommation électrique de l'IA et des centres de données sont de plus en plus appréciés, LPDDR6 et son package SOCAMM de soutien attirent rapidement l'attention des fournisseurs de services cloud et des clients des centres de données hyperscale.

Dans l’ensemble, LPDDR6 est considérée comme l’une des technologies de mémoire de base pour les centres de données d’IA de nouvelle génération et connaîtra un pic de demande entraîné par l’IA basée sur les agents. Avec une capacité de module maximale de 512 Go, de meilleures performances de consommation d'énergie et des fonctionnalités innovantes telles que PIM, LPDDR6 devrait devenir la norme de mémoire principale pour les plates-formes de serveur d'IA au cours des prochaines années, offrant une prise en charge d'infrastructure plus efficace pour la formation et l'inférence de grands modèles.