Résumé :
Anthropic a révélé lors de sa tournée d'introduction en bourse qu'elle utilisait Claude Mythos Preview pour aider à adapter les accélérateurs AMD AI. Une société a déclaré que Claude AI n'avait mis que 3 jours pour que le modèle interne termine le traitement de texte rapide sur AMD MI355X et atteigne des niveaux de performances utilisables.
Claude a porté ou écrit presque tout le code du noyau GPU dans cet effort avec une intervention humaine minimale. Cette affaire a déclenché des discussions sur l'écosystème logiciel CUDA de NVIDIA et la concurrence avec les puces IA. CUDA est le fossé de NVIDIA, mais il reste à voir combien de temps ce fossé pourra durer à l'ère de l'IA.
Lorsque les modèles d'IA s'exécutent sur différentes architectures de puces, ils doivent s'adapter au code informatique sous-jacent, à la pile logicielle et aux fonctionnalités matérielles. Pour obtenir des performances pratiques, les ingénieurs optimisent souvent également les opérations matricielles, l'accès à la mémoire et les communications multipuces.
Une entreprise a déclaré que, sur la base de son expérience passée, l'utilisation de méthodes d'ingénierie traditionnelles pour intégrer de nouvelles plates-formes de puces prend généralement plusieurs mois à des dizaines d'ingénieurs (en réalité 6 à 12 mois), mais avec la participation de l'IA, ce processus peut être raccourci à seulement 3 jours.
Le CUDA de Nvidia, qui rassemble un grand nombre d'outils de développement, de bibliothèques informatiques et de logiciels optimisés pour le GPU, constitue depuis longtemps une base importante pour le développement de l'IA, car l'adaptation du code initialement optimisé pour un matériel spécifique à d'autres puces nécessite l'investissement d'une grande quantité de ressources d'ingénierie.
Une fois que l'IA participe à la transplantation du code sous-jacent, elle peut aider les ingénieurs à écrire et à ajuster les noyaux GPU plus rapidement, et le coût et le temps nécessaires aux entreprises pour accéder aux différentes plates-formes de puces auront la possibilité de diminuer. À ce stade, les puces réellement adaptées par la société A incluent, sans s'y limiter, NVIDIA, AMD, Google TPU et Amazon Trainium.
AMD et Anthropic ont précédemment annoncé qu'ils déploieraient jusqu'à 2 GW de puissance de calcul GPU basée sur la série AMD MI450. Le premier déploiement de 1 GW devrait commencer au premier semestre 2027. Les deux parties utiliseront également Claude pour optimiser les charges de travail des GPU AMD et accélérer le développement du logiciel ROCm.
Commentaires