La banque d'investissement Bernstein a récemment publié un rapport indiquant qu'à mesure que la puce d'intelligence artificielle Vera Rubin de nouvelle génération de NVIDIA entrera dans un cycle d'expédition à grande échelle en 2027, le prix de la mémoire à large bande passante (HBM4) augmentera considérablement, faisant grimper le coût de l'ensemble du système d'armoires. L'agence prévoit que le prix global du boîtier Nvidia Vera Rubin NVL72 utilisé pour les clusters informatiques d'IA pourrait atteindre environ 9,1 millions de dollars, dont les parties stockage et mémoire à elles seules pourraient représenter environ 3,2 millions de dollars de dépenses. Cette dernière estimation est nettement supérieure à la précédente prévision du prix d'un conteneur unique d'environ 7,8 millions de dollars donnée par Morgan Stanley.
Plus tôt, Morgan Stanley avait souligné dans un rapport de recherche sur le boîtier Rubin NVL72 de Nvidia que le prix total du système était d'environ 7,8 millions de dollars, dont le stockage externe et les puces de mémoire installées dans le boîtier coûtaient environ 2 millions de dollars. Sur cette base, il a été estimé que les dépenses liées à la mémoire avaient augmenté d'environ 435 % d'une année sur l'autre. Il convient de noter que les données citées par Morgan Stanley couvrent principalement les composants de mémoire autres que les GPU et ne reflètent pas pleinement la structure des coûts de la mémoire à large bande passante dans l'ensemble du système Vera Rubin NVL72.
Bernstein estime que les attentes générales actuelles du marché concernant les prix des mémoires liées à Vera Rubin sont « dépassées », notamment en termes d'hypothèses de prix HBM. L'agence a calculé que s'il est toujours calculé sur la base du prix du HBM4 d'environ 16,6 $ US par Go, le prix total du boîtier NVL72 peut être à peu près proche de la fourchette précédemment donnée par Morgan Stanley. Bernstein a toutefois souligné que cette fourchette de prix ne reflète plus les dernières tendances du marché. Son estimation de base pour 2027 est que le prix du HBM4 atteindra environ 53 dollars américains par Go, soit une multiplication par plus de trois.
Sur cette base, Bernstein a réestimé le coût des éléments de stockage et de mémoire du coffret NVL72, estimant que les dépenses associées augmenteraient encore du niveau de 2 millions de dollars envisagé par Morgan Stanley à environ 3,2 millions de dollars, poussant ainsi le prix total de l'ensemble du coffret à environ 9,1 millions de dollars. L'agence a également souligné que les hypothèses de coûts implicites dans certains calculs précédents étaient davantage basées sur des données de prix historiques et ne reflétaient pas pleinement la dernière situation de l'offre et de la demande dans le cycle de construction à grande échelle de l'IA.
Bernstein prédit également que Nvidia aura tendance à répercuter la pression sur la hausse des prix directement sur les clients en aval face à la hausse des coûts de composants clés tels que le HBM4. Dans le contexte actuel d'intensification continue de la construction d'infrastructures d'IA et d'approvisionnement restreint en mémoire haut de gamme, les composants de mémoire et de stockage à large bande passante deviennent une autre contrainte clé après les capacités de production avancées d'emballages. Le jugement de la banque montre que le poids des coûts de mémoire augmentera considérablement dans le prix de l'ensemble du coffret entourant les plates-formes GPU IA de nouvelle génération telles que Vera Rubin, augmentant encore le seuil d'investissement global pour les clusters IA à grande échelle.