Selon trois personnes familières avec le projet et profondément impliquées dans le projet, à la suite de la puce auto-développée du concurrent OpenAI, afin de prendre l'initiative du système informatique coûteux derrière le grand modèle, le développeur Claude Anthropic a commencé les travaux préparatoires pour les puces IA auto-développées et a entamé des négociations avec Samsung Electronics, dans l'intention d'utiliser Samsung comme partenaire potentiel de fonderie de puces.
Si cette société d'IA fait officiellement progresser son projet de puce auto-développée, Anthropic ne peut être considérée que comme un retardataire dans le domaine des puces d'IA auto-développées au niveau serveur. Google et Amazon AWS travaillent dur depuis de nombreuses années et ont lancé avec succès des puces auto-développées ; Meta et Microsoft ont également lancé des processeurs auto-développés. OpenAI s'est associé à Broadcom pour commencer la conception de puces auto-développées dès 2024. Le mois dernier, le premier produit de la coopération entre les deux parties, la puce d'inférence Jalapeño, a été officiellement lancé. Cette puce peut considérablement améliorer l'efficacité opérationnelle des grands modèles linguistiques.
Trois personnes proches du dossier ont déclaré qu'Anthropic est encore en phase de planification : elle n'a pas déterminé le positionnement fonctionnel et les spécifications de puissance de calcul de ce processeur, ni finalisé le plan de déploiement de la puce dans les serveurs et les clusters de serveurs. Bien que l’entreprise ait entamé des échanges avec un certain nombre de sociétés de conception de puces, elle n’est pas encore entrée dans les étapes de conception détaillée, de tests et de production en série.
La recherche et le développement de processeurs d’IA sont extrêmement difficiles. Les ingénieurs doivent prendre en compte les cinq dimensions que sont la vitesse de calcul, la consommation électrique, la mémoire, la transmission réseau et la dissipation thermique. Il est deux fois plus difficile de parvenir à une production de masse stable et à grande échelle.
Ce projet d'auto-recherche reflète la tendance générale du secteur : les sociétés d'IA représentées par Anthropic tentent de contrôler fermement l'infrastructure sous-jacente des grands modèles, couvrant les ressources de la chaîne complète telles que les puces, les contrats de services cloud, l'alimentation électrique et les centres de données. Pour fonctionner, les modèles d’IA à très grande échelle doivent s’appuyer sur d’énormes clusters de processeurs. À cette échelle, même une légère amélioration de l’efficacité informatique peut réduire considérablement les coûts d’exploitation et libérer des ressources informatiques limitées. Les puces d'IA auto-développées peuvent également donner aux entreprises d'IA plus de pouvoir de négociation dans la concurrence industrielle pour les processeurs, les salles informatiques et les ressources énergétiques.
Bien qu'Anthropic ait commencé à recruter des ingénieurs en puces, le projet d'auto-recherche pourrait éventuellement être abandonné. Au début de ce mois, la société a recruté avec succès Clive Chen, un membre principal de l’équipe de puces auto-développées de première génération d’OpenAI.
En réponse aux interviews et aux questions des médias, Anthropic a répondu que les puces Trainium d'Amazon AWS, les TPU du processeur Tensor de Google et les GPU Nvidia sont toujours les choix matériels de base de la stratégie d'expansion de la puissance de calcul de l'entreprise, et n'a pas divulgué plus de détails sur l'itinéraire des puces auto-développées ; Samsung a refusé de commenter cette négociation de coopération.
Samsung et Anthropic entretiennent depuis longtemps des liens capitalistiques. En tant que premier fabricant mondial de puces mémoire, en mai de cette année, Samsung s'est associé à deux autres géants du stockage, SK Hynix et Micron Technology, pour participer au financement total d'Anthropic de 65 milliards de dollars. À cette époque, l’offre mondiale de puces mémoire dépassait la demande et les sociétés d’électronique grand public comme Apple augmentaient les prix de leurs produits. Cet investissement stratégique a permis à Anthropic de lier les principaux fournisseurs de puces mémoire nécessaires à sa propre expansion commerciale.
La Corée du Sud a récemment annoncé un plan d'investissement industriel sur 10 ans d'une valeur de plusieurs centaines de milliards, dirigé par Samsung Group et SK Group (respectivement les sociétés mères de Samsung Electronics et SK Hynix). Les deux sociétés ont investi un total de 518 milliards de dollars pour construire quatre nouvelles usines de puces mémoire en Corée du Sud.
Si les deux parties finalisent la coopération en matière de fonderie, celle-ci deviendra une commande à succès avec une grande influence industrielle pour l'activité de fonderie de plaquettes de Samsung. Bien que Samsung soit le leader mondial des puces mémoire, la société a tenté d'étendre son activité de fonderie de puces IA et de réduire l'écart avec TSMC - les lignes de production de processus avancés de ce dernier ont toujours été la référence industrielle pour la fabrication de processeurs IA de pointe au monde. Actuellement, les commandes de puces IA sont pleines et la capacité de production de TSMC est limitée. Samsung est entré dans une période fenêtre pour promouvoir son procédé 2 nanomètres auprès d'un plus grand nombre de clients. Les médias ont déjà rapporté que Google envisageait d'utiliser Samsung pour fabriquer certains de ses processeurs tenseurs TPU de nouvelle génération.
Deux des trois personnes proches du dossier ont révélé qu'Anthropic prévoyait d'utiliser la technologie de traitement 2 nm et la technologie d'emballage avancée de Samsung. 2 nm est une désignation de processus industriel, pas une taille physique. Il s'agit de l'une des technologies de fabrication de puces les plus avancées, permettant aux processeurs d'obtenir une intégration plus élevée et une consommation d'énergie réduite. La technologie d'emballage avancée peut réduire la distance physique entre le processeur principal et la mémoire haute vitesse, augmentant ainsi considérablement la vitesse de transmission des données à l'intérieur de la puce.
Pendant longtemps, la stratégie concurrentielle différenciée d'Anthropic a consisté à diversifier l'achat de puces pour serveurs afin d'éviter d'être fortement dépendant du matériel Nvidia comme OpenAI et xAI. La société utilise actuellement des puces de serveur IA d'Amazon, Google et NVIDIA, et négocie également pour accéder aux solutions de puces auto-développées par Microsoft et la start-up britannique Fractile.
Bien que le secteur actuel des puces d'inférence soit en plein essor en termes de financement et que diverses entreprises se réunissent pour la recherche et le développement, les calculs des médias montrent que la part de marché de Nvidia a augmenté au lieu de diminuer ces dernières années, pour atteindre 74 %. Le PDG de NVIDIA, Jensen Huang, insiste sur le fait que les performances globales de ses propres puces dans les scénarios d'inférence sont toujours en avance sur celles de tous les produits concurrents.