Résumé :
Meta a publié le modèle d'intelligence artificielle ouvert Muse Spark Open le 15 octobre et a coopéré avec Apple pour optimiser la solution d'exécution locale du modèle pour Mac Studio.
Meta a déclaré que le modèle comporte 816 milliards de paramètres au total, dont environ 42 milliards sont réellement activés pour chaque inférence, prend en charge une fenêtre contextuelle allant jusqu'à 1 million de jetons et se concentre sur la programmation, le raisonnement complexe et les tâches des agents d'IA. Avec deux Mac Studio équipés de puces M5 Ultra et chacun équipé de 512 Go de mémoire unifiée, les utilisateurs peuvent exécuter ce modèle à grande échelle dans un environnement de bureau sans avoir à s'appuyer entièrement sur les services d'IA cloud.
Cette collaboration est assez accrocheuse. Apple et Meta avaient des différences significatives dans le passé en termes de politiques de confidentialité, de règles de plate-forme et d'écologie des applications, mais cette fois, les deux parties ont promu conjointement le fonctionnement du modèle de poids ouvert sur le matériel Apple. Le PDG de Meta, Mark Zuckerberg, a remercié le PDG d'Apple, John Ternus, pour sa participation à la coopération. Ternus a également déclaré publiquement que Muse Spark Open peut fonctionner efficacement sur des appareils de bureau, démontrant ainsi le potentiel de Mac Studio dans l'informatique locale de l'IA.
Muse Spark Open est la version ouverte de la famille de modèles Meta Muse. Contrairement aux modèles fermés accessibles uniquement via des services à distance, les modèles de pondération ouverts permettent aux utilisateurs d'obtenir des pondérations de modèles et de les déployer eux-mêmes, sous réserve des conditions de licence. Cela donne aux développeurs, aux chercheurs et aux entreprises un plus grand contrôle sur l'environnement d'exploitation et la possibilité d'adapter leurs processus d'inférence à leurs besoins.
Le modèle comporte 816 milliards de paramètres au total, mais utilise une conception d'activation clairsemée, avec seulement 42 milliards de paramètres environ activés pour chaque inférence. En d'autres termes, le modèle n'a pas besoin d'impliquer tous les paramètres dans le calcul lors du traitement de chaque jeton, mais appelle la partie correspondante en fonction de la tâche et du contenu d'entrée. Cette conception permet de réduire la quantité de calculs d'inférence, mais cela ne signifie pas que le modèle peut être exécuté en utilisant uniquement la mémoire requise pour 42 milliards de paramètres, car les poids du modèle complet doivent toujours être stockés ou gérés d'une autre manière.
La fenêtre contextuelle est un autre indicateur important de Muse Spark Open. Ce modèle prend en charge 1 million de contextes de jetons et peut théoriquement traiter des textes très longs, des bases de code ou plusieurs documents en une seule tâche. Pour les tâches de génie logiciel, cela signifie que les modèles ont la possibilité de référencer simultanément de grandes quantités de code source et de documents associés, réduisant ainsi le risque de manquer des informations critiques en raison d'un contexte insuffisant. Cependant, la longueur réelle du contexte disponible, la vitesse de traitement et l'empreinte mémoire dépendent toujours de la configuration d'exécution spécifique et du cadre d'inférence.
Meta a déclaré que Muse Spark Open a été optimisé pour Mac Studio et peut fonctionner en utilisant l'architecture de mémoire unifiée des puces Apple. Les systèmes graphiques discrets traditionnels nécessitent généralement que les poids des modèles soient placés dans la mémoire vidéo, tandis que l'architecture de mémoire unifiée d'Apple permet au CPU et au GPU de partager le même pool de mémoire. Sur Mac Studio qui prend en charge la mémoire unifiée de grande capacité, le GPU peut accéder jusqu'à 512 Go de mémoire unifiée, fournissant ainsi une base matérielle pour exécuter de grands modèles à poids ouvert.
Selon Meta, deux Mac Studio peuvent exécuter le modèle de manière collaborative via le cadre logiciel correspondant, de sorte que le système dispose d'environ 1 To de mémoire unifiée. La puce M5 Ultra équipée sur chaque appareil dispose d'une bande passante mémoire allant jusqu'à 1,2 To/s. Meta estime que cette configuration peut exécuter Muse Spark Open localement tout en utilisant le mécanisme d'activation clairsemé pour lire uniquement certains des paramètres requis pour chaque inférence de jeton.
La clé de cette solution n'est pas simplement de connecter deux ordinateurs, mais de travailler ensemble via une architecture de mémoire unifiée, un partage de modèles et un cadre d'inférence, afin que les modèles qui nécessitent à l'origine une infrastructure informatique à plus grande échelle puissent être exécutés sur des appareils de bureau. Le cadre d’apprentissage automatique MLX d’Apple permet l’exécution de modèles sur Apple Silicon, et Meta est optimisé en conséquence pour Muse Spark Open.
Cependant, il est nécessaire de faire la distinction entre les deux concepts du modèle capable de se charger et de s'exécuter et du modèle capable de fonctionner à grande vitesse. Disposer de suffisamment de mémoire ne résout qu’un obstacle majeur dans le déploiement de très gros modèles. Le partitionnement du modèle, la communication entre appareils, la bande passante mémoire, l'utilisation de l'unité de calcul et la longueur du contexte affectent tous la vitesse d'inférence finale. Les informations publiées par Meta ont cette fois mis l'accent sur l'exécution et la configuration matérielle du modèle, mais n'ont pas fourni de données de test de référence complètes, suffisantes pour juger pleinement des performances réelles.
Le prix est également une limitation importante de ce plan. Apple n'a pas encore officiellement lancé le Mac Studio équipé de 512 Go de mémoire unifiée, qui devrait être disponible fin octobre. Les modèles Mac Studio haut de gamme existants dotés de 256 Go de mémoire unifiée coûtent déjà plus de 10 000 dollars. Un système composé de deux versions de 512 Go devrait donc représenter un investissement coûteux. Pour les utilisateurs individuels ordinaires, il ne s'agit évidemment pas d'une solution d'IA locale à faible coût, mais pour les équipes de développement et les instituts de recherche qui doivent exécuter de grands modèles et valoriser le contrôle des données, il constitue une alternative aux serveurs traditionnels.
Meta a déclaré que Muse Spark Open peut non seulement fonctionner sur Mac Studio, mais peut également être appelé via plusieurs plates-formes d'IA cloud, notamment Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter et Together AI. Pour les utilisateurs qui souhaitent télécharger eux-mêmes les poids des modèles, les fichiers pertinents peuvent être obtenus via Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face et Microsoft Foundry Models.
Ce modèle utilise une licence qui permet une utilisation commerciale limitée, plutôt qu'une licence open source générale sans restrictions. Par conséquent, avant de l'utiliser dans des produits commerciaux, les développeurs et les entreprises doivent toujours lire attentivement les termes spécifiques de la licence et confirmer si leur méthode de déploiement, leur échelle d'utilisation et leurs scénarios d'application répondent aux exigences.
Cette coopération reflète également la nouvelle direction émergente du développement de l'informatique locale en matière d'IA. Dans le passé, l’exécution de grands modèles comportant des centaines de milliards de paramètres nécessitait généralement plusieurs GPU professionnels, de grandes quantités de mémoire vidéo et des clusters de serveurs complexes. Apple tente d'utiliser une architecture de mémoire unifiée et des puces à large bande passante pour permettre aux ordinateurs de bureau haut de gamme d'héberger des modèles à plus grande échelle. Même si cette approche reste encore limitée en termes de coût et de performances d’inférence, elle ouvre de nouvelles possibilités aux utilisateurs qui ne souhaitent pas envoyer toutes leurs données vers le cloud.
Pour Apple, Muse Spark Open permet également de démontrer le positionnement de Mac Studio dans le domaine du développement de l'IA. Alors que de plus en plus de développeurs tentent d'exécuter des modèles localement, la capacité de mémoire unifiée et la bande passante sont progressivement devenues des indicateurs importants pour mesurer les capacités d'IA des ordinateurs haut de gamme. Apple espère que grâce aux écosystèmes M5 Ultra et MLX, Mac sera non seulement adapté au montage vidéo, à la conception 3D et à la production musicale, mais deviendra également une plate-forme locale de développement et de raisonnement de l'IA.
Pour Meta, la publication d'un modèle de poids ouvert et la prise en charge de l'exécution sur le matériel Apple contribueront à étendre la couverture des développeurs de la série Muse. Les utilisateurs peuvent choisir l'API cloud ou le déploiement local en fonction de leurs besoins, et Meta peut également attirer davantage de développeurs pour créer des applications et des outils autour du modèle.
Dans l'ensemble, l'importance de Muse Spark Open ne réside pas seulement dans le nombre de 816 milliards de paramètres, mais également dans le fait qu'il démontre la possibilité de combiner des modèles de poids ouverts à grande échelle avec du matériel de bureau haut de gamme. Deux Mac Studio équipés de 512 Go de mémoire unifiée peuvent fournir environ 1 To d'espace mémoire pour le modèle, ce qui le rend adapté à une exécution locale, mais l'expérience réelle dépend toujours de la vitesse d'inférence, du coût matériel et de l'optimisation logicielle.
Cette coopération ne suffit pas à prouver que les ordinateurs personnels ordinaires peuvent facilement exécuter des modèles à très grande échelle, mais elle montre que le matériel d'IA local évolue vers une capacité de mémoire plus élevée et des capacités informatiques collaboratives plus fortes. À mesure que l’architecture des modèles et les logiciels d’inférence continuent d’être optimisés, certains modèles d’IA qui ne pouvaient être déployés que dans de grands centres de données dans le passé pourraient progressivement entrer dans les studios, les laboratoires et les environnements de bureau des développeurs à l’avenir.
Commentaires