Les serveurs d'IA de Nvidia sont confrontés à de graves goulots d'étranglement en matière de croissance des données. Auparavant, ces serveurs hautes performances étaient capables de gérer efficacement des données contextuelles temporaires appelées caches clé-valeur (KV), mais à mesure que l'ampleur de ces données explosait, les architectures de traitement existantes étaient submergées. Afin de soulager la pression sur les puces, le marché a une demande de plus en plus urgente de mémoire contextuelle (CMX), ce qui offre également des opportunités de marché clés pour le géant du stockage Samsung.
Selon les derniers rapports, Samsung fournit actuellement une grande quantité de mémoire flash NAND de spécification V9 à Nvidia pour répondre à ses besoins de stockage. Dans le même temps, la prochaine génération de V10 NAND est également entrée dans la phase de production de masse. Même si la fourniture de ces puces mémoire hautes performances devrait briser les limitations du traitement des données contextuelles qui affectent actuellement les GPU, cette forte concentration de ressources pourrait conduire d'autres secteurs industriels et consommateurs à être confrontés à de graves pénuries d'approvisionnement, subissant ainsi les conséquences de la crise de l'offre.
Actuellement, Samsung a alloué environ 60 % de sa capacité de production V-NAND à la ligne de production V9. Afin de répondre à la demande de Nvidia, Samsung étend encore son échelle de production dans ce domaine. Il est rapporté que chaque module de stockage contextuel actuellement utilisé pour les serveurs AI peut accueillir 576 SSD, avec une capacité totale allant jusqu'à 9 600 To. Alors que la demande de stockage de Nvidia augmente de façon exponentielle, la demande de puces de mémoire utilisées dans CMX devrait passer de 35 millions de téraoctets à plus de 100 millions de téraoctets en 2026, et Samsung devrait devenir le principal fournisseur de Nvidia grâce à ses solides capacités de fabrication. Cela a également directement favorisé la croissance substantielle des performances commerciales de Samsung, et ses bénéfices en 2026 devraient dépasser le total des bénéfices cumulés des 40 dernières années.
Tout en augmentant sa capacité de production, Samsung intensifie également ses recherches et développements sur la technologie V11 NAND, capable d'obtenir un empilement vertical de 500 couches. Cette technologie ajoute 100 couches au nombre de couches d'empilement par rapport à la V10 et devrait fournir une densité de stockage plus élevée. Théoriquement, les progrès de cette technologie peuvent réduire le coût de fabrication des disques SSD (SSD) grand public de grande capacité. Cependant, étant donné que la capacité de production actuelle est fortement orientée vers le domaine de l’IA, il existe encore une grande incertitude quant à savoir si le marché en général peut en bénéficier. Pour l'ensemble du secteur du stockage, bien que les liens étroits entre Nvidia et Samsung aient résolu le besoin urgent dans le domaine de l'IA, ils ont également aggravé le déséquilibre du marché du stockage. À court terme, la pression sur l’offre industrielle devrait se poursuivre.