Résumé :
En plus d'améliorer les capacités des modèles, le dernier Claude Opus 5.5 d'Anthropic a également ajouté un mécanisme de restriction spécial pour les scénarios de développement de modèles de langage à grande échelle de pointe. Lorsque les utilisateurs utilisent Opus 5.5 pour développer le noyau sous-jacent pour une nouvelle génération de modèles d'IA, le système peut ne pas utiliser directement le dernier Opus 5.5, mais revenir automatiquement à Opus 5 avec des capacités inférieures. Ce qui est plus remarquable, c’est qu’on découvre actuellement que cet ensemble de restrictions semble cibler certains accélérateurs d’IA de Huawei et d’Amazon.
Anthropic a expliqué dans le document de support Opus 5.5 que le modèle dispose d'un classificateur dédié pour le « développement LLM de pointe » et couvre une gamme limitée de tâches, telles que le développement du noyau pour certains accélérateurs d'apprentissage automatique. Le but de ce type de classificateur est de déterminer si la demande actuelle de l'utilisateur implique le développement du grand modèle de langage de pointe lui-même. Une fois les conditions requises déclenchées, Claude retombera automatiquement de l'Opus 5.5 vers l'Opus 5.
Le soi-disant cœur d'IA fait référence à une série d'opérations informatiques au niveau le plus bas lors de l'exécution d'un modèle d'intelligence artificielle. Le noyau est chargé de décider comment le modèle utilise les ressources informatiques et la mémoire de la puce et comment effectuer diverses opérations mathématiques. Étant donné que ces opérations déterminent directement la manière dont les calculs mathématiques sont mappés sur le processeur réel, la conception du noyau affecte directement la vitesse d'exécution, l'utilisation de la mémoire, la précision et le coût d'inférence des grands modèles de langage. Pour former et exécuter les modèles d’IA les plus avancés, l’optimisation du noyau pour des accélérateurs d’IA spécifiques est souvent une étape critique.
Cette limitation a été découverte pour la première fois par les utilisateurs dans la documentation de support après la sortie officielle d'Opus 5.5. Anthropic a déjà utilisé des classificateurs dans certains modèles pour identifier les demandes potentiellement risquées, et cette fois, il a appliqué des mécanismes similaires au développement de modèles d'IA de pointe.
Anthropic a clairement indiqué que ces restrictions n'affecteront pas la grande majorité des tâches traditionnelles d'intelligence artificielle, d'apprentissage automatique et de programmation ordinaire. Ce n'est que lorsqu'un petit nombre de capacités de développement LLM de pointe sont impliquées que le système peut déclencher le mécanisme de restauration. Par conséquent, pour les développeurs ordinaires, l'utilisation de l'Opus 5.5 dans la programmation quotidienne, le développement d'applications d'IA et la recherche sur l'apprentissage automatique ne sera fondamentalement pas affectée.
Mais après des tests plus approfondis, certains utilisateurs ont découvert que l'Opus 5.5 semble reconnaître spécifiquement certaines puces IA. Selon les résultats des tests publics actuels, cet ensemble de classificateurs implique au moins l'Ascend 950DT de Huawei et la puce AI Trainium3 auto-développée par Amazon. Cela dit, si les développeurs utilisent Opus 5.5 pour développer des noyaux sous-jacents pour des modèles de langage volumineux de pointe pour ces puces, les modèles peuvent automatiquement passer à Opus 5.
Il n'est pas surprenant que les puces Huawei soient incluses dans cette restriction. Anthropic a, ces dernières années, renforcé sa garde contre la capacité des entités chinoises à obtenir ses modèles et considère la distillation de modèles comme un problème important de sécurité et de sécurité nationale. La distillation de modèle consiste à appeler un modèle plus performant en grande quantité, à extraire ses caractéristiques de comportement et de capacité, puis à utiliser ces données pour entraîner un autre modèle. Le récent rapport de renseignement sur les menaces d'Anthropic a révélé que la société avait découvert que plusieurs organisations liées à la Chine menaient des activités de distillation non autorisées contre les modèles de la série Opus de Claude, et a donc renforcé davantage les mécanismes de protection des processus d'identification des comptes, d'interception des demandes et d'inférence.
Anthropic a également ajouté des mesures anti-distillation plus strictes dans l'Opus 5.5, notamment en interdisant aux utilisateurs de l'API de modifier le contexte de conversation précédent du modèle pour éviter d'extraire les informations de raisonnement internes du modèle en manipulant le contexte à plusieurs reprises. La société a déclaré que ces mesures visent principalement les activités d'extraction de capacité industrielle à grande échelle, plutôt que l'utilisation normale par les utilisateurs ordinaires.
Par conséquent, lorsque l'Opus 5.5 détecte des demandes de développement de modèles de pointe impliquant l'accélérateur d'IA de Huawei, le mécanisme de restriction peut avoir des origines techniques et géographiques évidentes. Cependant, il n'existe actuellement pas suffisamment de preuves pour démontrer si Anthropic a conçu cet ensemble de règles spécifiquement pour Huawei, ou s'il inclut des types spécifiques d'accélérateurs d'IA dans leur ensemble dans le cadre des restrictions.
Ce qui est vraiment surprenant, c'est qu'Amazon Trainium 3 semble également être affecté de la même manière.
Amazon n'est pas seulement une grande société mondiale de cloud computing, mais également un partenaire et un investisseur important d'Anthropic. Le modèle Claude d'Anthropic lui-même est fourni aux entreprises clientes via Amazon Web Services, tandis que la série Trainium est une puce de formation et d'inférence d'IA développée indépendamment par Amazon pour réduire la dépendance de l'intelligence artificielle cloud aux GPU Nvidia. Par conséquent, si Opus 5.5 restreint Trainium3 pour le développement de noyaux de modèles de pointe, Amazon pourrait plutôt être affecté par le même ensemble de restrictions techniques que Huawei.
Il n'est pas clair si cette situation était intentionnelle par Anthropic, ou si le classificateur a fait une erreur de jugement inattendue lors de l'identification d'une puce d'IA spécifique. Des tests pertinents montrent que l'Opus 5.5 semble être capable d'identifier différentes plates-formes matérielles et de décider d'autoriser ou non le dernier modèle en fonction du contenu de la demande, mais Anthropic n'a pas expliqué publiquement pourquoi Trainium3 déclencherait des restrictions en même temps que Huawei 950DT.
Cette situation est particulièrement remarquable car Anthropic a déjà souligné que ses modèles peuvent être largement fournis via des plateformes cloud telles qu'AWS, et Opus 5.5 a officiellement atterri sur des plateformes telles qu'Amazon Web Services, Google Cloud et Microsoft Azure. Si cette limitation s’étend à l’avenir à davantage d’accélérateurs d’IA pour former des modèles avancés, alors les partenariats entre les sociétés de cloud computing et les sociétés de modèles d’IA pourraient nécessiter une coordination plus complexe entre les capacités des modèles, la prise en charge matérielle et les contraintes de sécurité.
D'un point de vue technique, l'approche d'Anthropic reflète cette fois également une nouvelle tendance : alors que le modèle d'IA lui-même commence à aider les humains à concevoir et à optimiser la prochaine génération de modèles d'IA, les fabricants de modèles doivent commencer à faire la distinction entre les deux types de tâches : "utiliser l'IA pour développer des applications" et "utiliser l'IA pour développer une IA plus forte".
Pour les programmeurs ordinaires, laisser Opus 5.5 aider à écrire des applications, déboguer du code ou mener des expériences d'apprentissage automatique ne déclenche généralement pas de restrictions particulières. Mais si le même modèle est utilisé pour développer le cœur informatique sous-jacent de la prochaine génération de grands modèles de langage de pointe, Anthropic peut considérer que cela est entré dans un autre niveau de risque et que la demande revienne automatiquement à l'ancien modèle.
Cela signifie que le modèle d'IA lui-même devient progressivement une partie de l'infrastructure de R&D en IA. Autrefois, restreindre l’utilisation des modèles signifiait principalement restreindre certains contenus dangereux ou zones sensibles ; Aujourd'hui, les fabricants de modèles commencent à réfléchir davantage à des questions telles que « qui peut utiliser les derniers modèles pour fabriquer des modèles de nouvelle génération » et « si les derniers modèles devraient aider les concurrents à optimiser leur propre infrastructure informatique d'IA ».
Actuellement, Anthropic n'a pas expliqué publiquement pourquoi Trainium3 déclenche des restrictions en même temps que Huawei 950DT, et il n'a pas non plus été précisé si ce mécanisme continuera d'exister dans les versions futures. Alors que de plus en plus d'entreprises commencent à développer leurs propres accélérateurs d'IA, cette limitation du matériel spécifique et des tâches de développement de modèles de pointe est susceptible de devenir un nouveau problème auquel les fabricants de modèles d'IA devront faire face lorsqu'ils feront des compromis entre la sécurité, la prévention de la distillation des capacités et l'écologie matérielle.
Commentaires