Le mini supercalculateur IA de NVIDIA, DGX Spark, a finalement été officiellement lancé il n'y a pas longtemps, avec un prix de départ de 3 999 dollars (environ 28 396 yuans).Cependant, John Carmack, co-fondateur d'id Software, a récemment déclaré sur les réseaux sociaux que la consommation électrique et les performances réelles du DGX Spark sont bien inférieures à la valeur promotionnelle officielle.
Lui et certains chercheurs ont observé que NVIDIA DGX Spark ne parvenait pas à atteindre ses objectifs de performances déclarés.Le DGX Spark est évalué pour une consommation électrique de 240 W, mais Carmack a constaté que la consommation électrique de l'appareil ne plafonnait qu'à environ 100 W, soit moins de la moitié de la valeur nominale.
Le système n’a atteint qu’environ 60 TFLOPS de performances sous la charge de travail BF16 et environ 480 TFLOPS sous la charge de travail FP4, bien en dessous du résultat attendu.
Non seulement cela, mais il ajoute que même à des niveaux de 100 W, l'appareil peut devenir très chaud et au moins un utilisateur a signalé des redémarrages automatiques lors de longues exécutions.
En réponse à Carmack, Hannun, le principal développeur du framework MLX d'Apple, a confirmé qu'il avait obtenu des résultats similaires dans ses propres tests.
Hannun a découvert qu'en utilisant PyTorch et MLX, les performances soutenues de DGX Spark dans BF16 n'étaient que d'environ 60 TFLOPS, ce qui était bien inférieur aux 1 PFLOPS des performances FP4 annoncées par NVDIA.
DGX Spark se positionne comme un système de « mini station de travail » basé sur la super puce GB10, combinant le processeur ARM de MediaTek et le GPU Blackwell de NVIDIA.