Résumé :
Framework a officiellement ouvert les précommandes pour le nouveau Framework Desktop équipé du processeur AMD Ryzen AI Max+ PRO 495 le 30 septembre. Bien que ce mini-ordinateur de bureau pour l'informatique d'IA locale soit d'un prix extrêmement élevé, avec la version DIY commençant à 6 799 USD, le premier lot de produits a été rapidement vendu quelques heures après sa mise en ligne, ce qui montre qu'il existe une forte demande de mémoire unifiée de grande capacité pour exécuter localement de grands modèles d'IA.
La configuration phare lancée par Framework utilise AMD Ryzen AI Max+ PRO 495, un processeur de nouvelle génération nommé « Gorgon Halo », et est équipée de 192 Go de mémoire unifiée LPDDR5X-8533. Par rapport à la configuration maximale de 128 Go du précédent Framework Desktop, la nouvelle version ajoute 64 Go de mémoire à la fois, ce qui lui permet de charger directement des modèles d'IA locaux à plus grande échelle sur une seule machine sans avoir besoin de placer fréquemment certains poids de modèle dans des SSD ou de former un cluster via plusieurs ordinateurs.
Le Ryzen AI Max+ PRO 495 utilise un processeur Zen 5 à 16 cœurs avec une fréquence d'accélération maximale de 5,2 GHz, équipé de 64 Mo de cache de niveau 3, d'un TDP par défaut de 55 W, d'un cTDP allant jusqu'à 120 W et d'un GPU Radeon 8065S intégré. Le CPU et le GPU partagent une mémoire unifiée, ce qui est l'une des raisons importantes pour lesquelles ce produit est particulièrement adapté à l'inférence d'IA locale. Framework a déclaré que 192 Go de mémoire permettent aux utilisateurs d'exécuter des modèles volumineux qui étaient auparavant difficiles à charger entièrement en mémoire sur des PC grand public ordinaires.
Par rapport au précédent Ryzen AI Max+ 395, le PRO 495 augmente non seulement la capacité de mémoire, mais possède également des fréquences d'horloge CPU et GPU plus élevées et augmente le taux de mémoire unifié à 8 533 MT/s. Framework a déclaré que ces changements peuvent encore améliorer la vitesse d’inférence de l’IA.
La version 192 Go fournie par Framework inclut cette fois l'édition DIY et la version hôte complète du système préinstallé. L'édition DIY commence à 6 799 $ et comprend 192 Go de mémoire unifiée mais aucun stockage préinstallé. Pour les utilisateurs disposant déjà d'un SSD ou souhaitant choisir leur propre solution de stockage, cette configuration peut réduire certains coûts.
Si vous choisissez la version complète préinstallée, le prix atteint 7 449 $. Cette version ajoute un SSD NVMe PCIe 4.0 de 2 To et est préinstallée avec le système d'exploitation Fedora 44 KDE Plasma Edition. En d’autres termes, en ajoutant simplement un SSD de 2 To et un système préinstallé, le prix de l’ensemble de la machine est 650 $ plus élevé que la version DIY.
À titre de comparaison, le Framework Desktop actuel avec Ryzen AI Max+ 395 et 128 Go de mémoire coûte environ 3 449 $ US. La nouvelle version de 192 Go dispose de 50 % de mémoire en plus et d'un processeur amélioré, mais la version DIY est presque deux fois plus chère que la version originale de 128 Go.
Un prix aussi élevé est directement lié à la récente tension continue sur le marché de la mémoire. Framework a déclaré à plusieurs reprises auparavant que le coût de la mémoire LPDDR5X haute capacité augmentait considérablement, en particulier l'offre limitée de particules de mémoire haute densité de 128 Gbit, ce qui a un impact très évident sur le coût des dispositifs de mémoire unifiée de grande capacité. Le prix de cette version 192 Go est donc bien supérieur à la précédente configuration régulière de Framework Desktop.
En fait, Framework a déclaré avant l'ouverture officielle du produit en précommande qu'en raison d'un inventaire de mémoire limité, il ne serait en mesure de fournir initialement qu'un lot de systèmes Gorgon Halo de 192 Go. Après le début des précommandes le 30 septembre, le premier lot de produits s'est rapidement vendu. Framework a déclaré plus tard que la société avait réussi à obtenir un lot supplémentaire de mémoire et a donc ouvert un deuxième lot limité de précommandes.
Le deuxième lot de produits devrait être expédié à partir de novembre. Cependant, Framework rappelle également aux consommateurs que le prix et le délai de commercialisation des prochains lots de produits dépendront du coût et de l'approvisionnement des fournisseurs de mémoire. La société a même clairement indiqué que le prix de Framework Desktop pourrait continuer à augmenter dans les mois à venir.
Pour les utilisateurs locaux d'IA, la mémoire unifiée de 192 Go constitue le plus grand attrait de cette machine. Les PC traditionnels s'appuient généralement sur une mémoire de carte graphique indépendante pour exécuter de grands modèles d'IA, tandis que la capacité de mémoire des GPU haut de gamme est généralement limitée par une seule carte. Si le modèle ne peut pas être complètement placé dans la mémoire vidéo, la mémoire système ou même le SSD doivent être utilisés pour l'échange de données, et les performances peuvent être considérablement affectées.
Framework Desktop adopte une architecture dans laquelle le CPU, le GPU et l'IA partagent une mémoire unifiée, qui peut allouer directement une grande quantité de mémoire au GPU. La capacité de 192 Go signifie que les utilisateurs peuvent exécuter de très gros modèles locaux dans un petit ordinateur d'environ 4,5 litres. Framework a déclaré que les 64 Go de mémoire supplémentaires peuvent non seulement charger un modèle unique plus grand, mais également enregistrer deux modèles plus petits en mémoire en même temps, permettant à un modèle plus rapide d'être responsable des interactions principales et de laisser un autre modèle plus performant mais plus lent prendre en charge des problèmes complexes.
Framework souligne également spécifiquement que cette configuration est intéressante pour les utilisateurs qui souhaitent exécuter l'IA entièrement localement. Le modèle peut rester sur l'appareil local sans télécharger les données sur le cloud. Pour les scénarios impliquant la confidentialité, le code source ou les données commerciales sensibles, l’opération locale peut réduire la dépendance aux services d’IA cloud.
Cependant, 192 Go de mémoire unifiée ne signifie pas que les 300 milliards de modèles au niveau des paramètres peuvent fonctionner à grande vitesse. La taille du modèle, la méthode de quantification, la longueur du contexte et l'empreinte mémoire réelle affectent tous les performances finales. La mémoire de grande capacité résout le problème de « le modèle peut-il être installé », et la vitesse d'inférence du modèle dépend également de la puissance de calcul du GPU, de la bande passante mémoire et de l'optimisation logicielle.
Le volume global de Framework Desktop n'est que d'environ 4,5 litres, cette machine est donc plus proche d'un très petit poste de travail d'IA local que d'un mini PC ordinaire au sens traditionnel du terme. En plus de l'IA informatique, il peut également entreprendre des tâches telles que les jeux, le développement et le travail sur ordinateur de bureau Linux, et Framework continue de mettre l'accent sur son concept de conception modulaire.
Actuellement, Framework Desktop propose déjà différentes configurations de mémoire telles que 32 Go, 64 Go et 128 Go, et la version 192 Go est devenue le modèle phare de toute la gamme de produits pour les utilisateurs locaux d'IA. Alors qu'AMD continue d'améliorer sa capacité de mémoire unifiée et ses capacités de calcul de l'IA, cette architecture « CPU + GPU + mémoire partagée de grande capacité » devient également une voie importante pour exécuter localement de grands modèles de langage.
Le premier lot de Framework Desktop de 192 Go a été rapidement épuisé malgré le prix de départ de 6 799 USD, ce qui indique que certains développeurs d'IA et passionnés de modèles locaux ont une très forte demande pour des périphériques de mémoire unifiée de grande capacité. Cependant, le premier lot de produits est lui-même limité par l'offre de mémoire, de sorte que les ruptures de stock ne représentent pas directement l'ampleur générale de la demande sur l'ensemble du marché. La véritable clé pour déterminer si ce produit peut être davantage popularisé reste les futurs prix de la mémoire, l’offre et la demande de matériel local pour les modèles d’IA à plus grande échelle.
Commentaires