Le modèle open source xAI d’Elon Musk est désormais disponible. Dimanche 24 août, xAI a annoncé qu'elle ouvrirait son modèle d'intelligence artificielle Grok 2.5 et le publierait sur la plateforme open source Hugging Face. Musk a écrit sur le réseau social X. "Le modèle Grok 2.5, le modèle xAI le plus impressionnant de l'année dernière, est désormais open source. Quant à Grok 3, il le sera dans environ 6 mois. "
Musk a également posté : « xAI dépassera bientôt n'importe quelle entreprise à l'exception de Google, et elle dépassera ensuite également Google. Mais les entreprises chinoises seront les concurrents les plus puissants car elles ont beaucoup plus de pouvoir que les États-Unis et sont extrêmement fortes dans la construction de matériel informatique. »
Le Grok 2.5 open source peut être considéré comme la réalisation par Musk de sa promesse initiale. Lors de la sortie de Grok 2.5 en août de l'année dernière, Musk a déclaré publiquement que chaque fois qu'une nouvelle version de Grok serait créée, la version précédente serait open source.
Avec le dernier modèle Grok-4 sorti en juillet, il est temps pour Musk d’ouvrir une version open source du modèle plus grand de l’année dernière. En juillet de cette année, xAI a publié le dernier modèle d'inférence de la série Grok 4, divisée en Grok 4 et Grok 4 Heavy, prenant en charge une fenêtre contextuelle allant jusqu'à 256 000 jetons.
À en juger par le niveau de Grok 2.5, son volume total de paramètres s'élève à 905 milliards, dont 136 milliards de paramètres sont activés à chaque fois lors de l'inférence, ce qui en fait l'un des modèles open source les plus puissants actuellement ; il prend également en charge une longueur de contexte allant jusqu'à 131 100 jetons, ce qui permet de traiter simultanément de longs documents et l'historique des conversations ; il utilise également une architecture experte mixte (MoE), qui peut considérablement étendre l'échelle du modèle sans augmenter le coût informatique énorme.
Concernant les autorisations open source, xAI a déclaré que seule une utilisation commerciale non commerciale et conforme est autorisée, mais que son utilisation pour former d'autres modèles de base est interdite. xAI précise que l'utilisation commerciale ne peut être utilisée que si le chiffre d'affaires annuel de la société affiliée est inférieur à un million de dollars américains. L'utilisation commerciale dépassant ce seuil nécessite une licence distincte de xAI.
En réponse, l'ingénieur en intelligence artificielle Tim Kellogg a décrit la licence de Grok comme une « version personnalisée » car elle contient certaines dispositions anticoncurrentielles.