Samsung apporte des ajustements structurels majeurs au réseau d'alimentation de sa mémoire vidéo à large bande passante HBM4E de nouvelle génération pour faire face aux problèmes techniques de plus en plus importants d'alimentation électrique et de dissipation thermique dans la conception des puces IA de nouvelle génération. Cette décision intervient deux semaines seulement après que la société a annoncé que le premier lot mondial de HBM4 avait été expédié commercialement. À cette époque, le produit produit en série était capable de fonctionner de manière stable à 11,7 Gbit/s, avec une redondance de vitesse réservée au sprint jusqu'à 13 Gbit/s.

À mesure que l'architecture évolue du HBM4 au HBM4E, le nombre de soudures d'alimentation sur une seule puce passe de 13 682 à 14 457. Cependant, il est toujours compressé dans la même zone de boîtier et, associé à un câblage plus fin et de plus haute densité, la densité de courant et la résistance du fil augmentent simultanément. Le résultat est une chute de tension IR plus grave à l'intérieur de la puce (la tension s'atténue progressivement sur le chemin de transmission), formant une boucle de rétroaction négative sous la superposition de chaleur, ce qui affecte non seulement les performances, mais peut également provoquer une défaillance locale du circuit.

Afin de briser ce goulot d'étranglement en matière d'alimentation électrique, Samsung a choisi d'« opérer » sur la structure même du réseau électrique. Sur la puce de base HBM, le bloc d'alimentation MET4 centralisé en forme de nid d'abeille de grande surface situé à l'origine près de l'interposeur d'interconnexion a été divisé en quatre partitions plus petites, et la couche de câblage métallique supérieure a été davantage dispersée pour raccourcir le chemin critique et atténuer la congestion du câblage local. Une évaluation interne donnée par Samsung montre qu'après ce réseau électrique segmenté, l'incidence des défauts des circuits métalliques a diminué de 97 % par rapport au HBM4, et la chute de tension IR s'est améliorée de 41 %, libérant plus de marge de tension pour que la puce fonctionne de manière stable à des fréquences plus élevées, et contribuant également à améliorer la fiabilité globale.

Tout en "opérant" sur le réseau d'alimentation électrique, Samsung a également jeté son dévolu sur une voie d'évolution plus radicale au niveau du système - pour "désassembler" complètement physiquement le HBM et le GPU. L’une des voies techniques consiste à utiliser l’interconnexion photonique pour maintenir une bande passante extrêmement élevée sur de plus longues distances grâce à la transmission de signaux optiques. Selon les rapports, sa capacité de transmission théorique peut atteindre environ 1 000 fois celle de l'interconnexion en cuivre existante, ce qui est suffisant pour compenser la perte de délai et de bande passante après l'élargissement de la distance entre le HBM et le GPU. Samsung estime qu'avec l'amélioration continue des capacités de câblage des substrats d'emballage, la distance entre le HBM et le GPU devrait augmenter à plus de 5 centimètres, même sans compter entièrement sur l'interconnexion photonique. Cela réduira considérablement la densité thermique et la pression de dissipation thermique causées par l’emballage serré des puces informatiques de base et des piles HBM multicouches dans les cartes accélératrices d’IA haut de gamme actuelles.

Les analystes du secteur ont souligné que dans le contexte de la charge croissante de formation et d'inférence en IA, l'alimentation électrique et le refroidissement des HBM sont devenus des « points de blocage » clés qui limitent l'expansion linéaire continue de la puissance de calcul. La reconstruction du réseau électrique de Samsung sur le HBM4E et son exploration prospective de la solution de séparation HBM-GPU montrent son intention de prendre la tête du prochain tour de compétition en matière de technologie de mémoire graphique haut de gamme. Les détails techniques de cette époque ont été initialement divulgués par les médias coréens « Korea Economy » et l'agence d'études de marché TrendForce, et ont ensuite été confirmés par les supports d'affichage techniques pertinents de Samsung.