Tôt ce matin, selon plusieurs médias étrangers, Anthropic a annoncé qu'elle mettrait fin à l'accès aux modèles Fable 5 et Mythos 5. Cela peut être le déclencheur.Le PDG d'Amazon est Andy Jassy. Le Wall Street Journal rapporte qu’en menant des recherches à l’aide de Claude Fable 5 d’Anthropic, les chercheurs d’Amazon ont obtenu des informations qui pourraient être utilisées dans des cyberattaques. Par la suite, le gouvernement américain a imposé une interdiction de contrôle des exportations sur Fable 5 et Mythos 5.

David Sacks, ancien commissaire à l'IA de Trump et actuel coprésident du Conseil présidentiel des conseillers en science et technologie, publié sur la plateforme socialeLe PDG d'Anthropic, Dario Amodei, refuse de réparer, et revendiqué dans des annonces officielles ultérieuresCette vulnérabilité n'est pas grave et peut être retrouvée dans des modèles d'autres sociétés..

Sacks estime que cette minimisation des risques est incompatible avec le positionnement de la marque Anthropic en tant qu'entreprise de sécurité IA. Il a également révélé que le gouvernement américain espéraitAnthropic pourrait résoudre rapidement les problèmes de sécurité pour lever les contrôles à l'exportation, et rééditez le modèle Fable 5.


Pour compenser les droits des utilisateurs, Anthropic proposeCanal de remboursement, certains internautes ont posté le mail de remboursement qu'ils ont reçu de Claude. L'e-mail mentionnait qu'Anthropic avait fermé l'accès au modèle Claude Fable 5 ; tous les autres modèles d'Opus, Sonnet et Haiku peuvent être utilisés normalement ; et le quota d'utilisation de l'utilisateur a été réinitialisé.

Si l'utilisateur estime que cet ajustement ne répond pas à ses besoins, il peut choisir d'annuler l'abonnement et recevoir automatiquement un remboursement en fonction du temps restant. La date limite de remboursement est le 20 juin, heure locale. Ce remboursement ne prend pas en charge les opérations sur l'application mobile Claude.


▲E-mail de remboursement reçu par les internautes (Source : X)

1. Claude a commencé à rembourser, les internautes ont déclaré : il n'y a pas de retour en arrière

De nombreux internautes ont mentionné que le plan de traitement des remboursements d'Anthropic visant à interdire Fable 5, publié à la hâte, comporte de nombreux bugs. L'un des internautes a déclaré qu'Anthropic avait directement fermé tous les services d'abonnement des utilisateurs. Ses précédents droits de souscription, cinq fois plus longs et valables jusqu'au 19 juin, ont disparu, ce qui est scandaleux.


Certains internautes ont directement affirmé que Claude avait été éliminé et qu'il n'y avait pas de retour en arrière.



Certains internautes ont analysé que l'opération de remboursement d'Anthropic prouve également que Fable 5 ne reviendra pas de sitôt.


Certains internautes ont déclaré qu'ils annuleraient leur abonnement et attendraient le nouveau modèle de ChatGPT.


2. Le gouvernement américain a affirmé qu'Anthropic évitait des problèmes importants et affaiblissait les vulnérabilités de sécurité des nouveaux modèles.

Un porte-parole d'Amazon a déclaré à The Information qu'en tant que fournisseur leader de services cloud au service d'un grand nombre de clients des secteurs privé et public, il n'est pas rare que le gouvernement américain demande conseil à Amazon sur les risques de sécurité potentiels. Même si une communication pertinente est effectuée, nous ne divulguerons pas le contenu spécifique de la négociation.

Le porte-parole a également révélé que la technologie Amazon Cloud a également été affectée par le modèle d'interdiction d'Anthropic. Le matin du 13 juin, Amazon Cloud Technology a révoqué l'accès à Fable 5 et Mythos 5 dans toutes les régions.

The Information cite des personnes proches du dossier qui ont déclaré qu'après des entretiens avec Jassy et d'autres dirigeants d'entreprises technologiques, le directeur national des cyber-affaires des États-Unis, Sean Cairncross, a convoqué vendredi une réunion de hauts responsables du gouvernement américain, au cours de laquelle la décision a été prise.Les contrôles à l'exportation constituent le moyen le plus direct de lutter contre les maladies anthropiques..

Après la réunion, le PDG d'Anthropic, Dario Amodei, s'est entretenu avec des responsables du gouvernement américain. Au cours de la réunion, Anthropic a expliqué que la vulnérabilité dite du jailbreak exposaitLe seuil des risques pour la sécurité n'est pas trop élevé, d'autres grands modèles peuvent également rencontrer des problèmes similaires. Cependant, le gouvernement américain a informé Anthropic que la décision de mettre en œuvre des contrôles à l'exportation avait été finalisée.

David Sacks, ancien commissaire à l’IA de Trump et actuel coprésident du Conseil présidentiel des conseillers en science et technologie, a publié quelques détails sur la plateforme sociale X.

Il a déclaré qu'un partenaire fiable, bénéficiant de la grande confiance à la fois d'Anthropic et du gouvernement américain, avait pris l'initiative d'exposer une vulnérabilité modèle de jailbreak. Et lorsque le gouvernement américain a demandé à Amodei de corriger la vulnérabilité de jailbreak, sinon le modèle serait retiré du marché, Amodei a refusé de corriger la vulnérabilité.

Sacks a également mentionné qu'Anthropic avait affirmé sur son blog officiel que la vulnérabilité au jailbreak n'était pas grave. Cependant, ni le partenaire fiable ni le gouvernement américain n’étaient d’accord avec cette déclaration. Cette déclaration de minimisation des risques contredit également le positionnement de marque d'Anthropic en tant qu'entreprise de sécurité IA.Actuellement, le gouvernement américain espère qu'Anthropic pourra résoudre les problèmes de sécurité le plus rapidement possible afin de lever les contrôles à l'exportation et de rééditer le modèle Fable 5..

En outre, Anthropic a également mentionné dans le blog annonçant le modèle interdit que des vulnérabilités similaires sont apparues dans d'autres modèles publics. Cependant, un responsable proche du gouvernement américain a déclaré à The Information qu’il est peu probable que le gouvernement américain étende les restrictions à l’exportation sur les modèles avancés d’Anthropic à d’autres sociétés d’IA.

Amazon est un investisseur majeur dans Anthropic. Amazon a déclaré publiquement en avril de cette année qu'il avait investi 13 milliards de dollars américains (environ 87,9 milliards de RMB) dans Anthropic depuis 2023 et qu'il prévoyait d'investir 20 milliards de dollars supplémentaires (environ 135,3 milliards de RMB) à l'avenir. Les puces Trainium d'Amazon aident à former et à piloter les grands modèles d'Anthropic, qui fonctionnent également sur les services cloud d'Amazon.

Il convient de mentionner que cette année, Amazon a également réalisé un investissement important dans le principal concurrent d'Anthropic, OpenAI, en promettant d'y investir jusqu'à 50 milliards de dollars, et pour la première fois, il connectera le dernier modèle d'OpenAI à la technologie Amazon Cloud pour des ventes externes.

Un autre contexte majeur de l’interdiction du modèle anthropique par le gouvernement américain est que le gouvernement américain a publié il y a deux semaines un décret pour lancer un mécanisme de conformité volontaire : les entreprises d’IA peuvent soumettre des modèles au gouvernement pour vérification avant de les diffuser aux partenaires et au public. En effet, il y a eu un débat au sein du gouvernement américain sur l'opportunité d'établir un système de licence avec des seuils plus élevés et un examen plus strict pour les entreprises d'IA qui envisagent de lancer de grands modèles haut de gamme. Ce décret est le produit de ce jeu.

Conclusion : le modèle le plus performant d’Anthropic a été arrêté et le seuil de sécurité de l’industrie a été contraint de relever ?

Le 10 juin, Anthropic a officiellement publié deux modèles majeurs, Claude Fable 5 et Mythos 5. Ils appartiennent tous deux au niveau Mythe (mythe) et partagent le même modèle sous-jacent. Leurs capacités sont supérieures au niveau Opus. Il s'agit également du niveau de grand modèle Anthropic le plus puissant et le plus performant à ce jour.

Au cours de la même période de sortie, Anthropic a délibérément conçu une ouverture hiérarchique et un routage de rétrogradation de sécurité intégré. À l'origine, il souhaitait équilibrer des capacités solides et une gestion et un contrôle des risques, mais il n'a toujours pas réussi à résister à l'impact en chaîne causé par des vulnérabilités de sécurité cachées. En quelques jours seulement, deux modèles phares ont été arrêtés. Cela peut signifier qu'avant le lancement de nouveaux modèles à l'avenir, les tests de sécurité liés à la vérification approfondie des attaques et de la défense par une équipe rouge tierce indépendante pourraient devenir un seuil strict.