Le secrétaire américain au Trésor Bessent et le président de la Réserve fédérale Powell ont convoqué le 7 une réunion d'urgence des dirigeants de Wall Street pour discuter des risques de sécurité du modèle. Le jour où la société américaine d’IA Anthropic a publié son dernier modèle d’IA, le secrétaire américain au Trésor Bessant et le président de la Réserve fédérale Powell ont convoqué une réunion d’urgence des dirigeants de Wall Street pour discuter des risques de sécurité du modèle.
La réunion, qui s'est tenue le 7, heure locale au siège du Trésor à Washington, visait à garantir que les banques soient conscientes des risques potentiels du dernier modèle d'Anthropic, Mythos, et d'autres modèles similaires, et prennent des mesures préventives pour protéger le système bancaire.
Il est rapporté que les dirigeants de Wall Street convoqués pour participer à la réunion comprennent Jane Fraser, PDG de Citigroup, Ted Peak, PDG de Morgan Stanley, Brian Moynihan, PDG de Bank of America, Charlie Scharf, PDG de Wells Fargo, et David Solomon, PDG de Goldman Sachs Group. Des personnes proches du dossier ont également déclaré que le PDG de JPMorgan, Jamie Dimon, n'avait pas pu assister à la réunion.
Pour l’instant, aucune des parties participant à la réunion n’a fait de commentaires sur la question.
De quoi Bessant et Powell s’inquiètent-ils ?
Ce qui rend le gouvernement américain si nerveux, c’est le modèle actuel le plus solide d’Anthropic dans le domaine du codage et du raisonnement, « Claude Mythos Preview » (ci-après dénommé « Mythos »). Ce modèle, annoncé officiellement le 7 seulement, n'est pas encore ouvert au public et n'est accessible qu'à des partenaires spécifiques.
Bien que Mythos soit un modèle à usage général et non spécifiquement conçu à des fins de cybersécurité, il a été prouvé qu'il identifie facilement les vulnérabilités des principaux systèmes d'exploitation et navigateurs Web. Anthropic avait précédemment révélé que le modèle avait découvert une vulnérabilité vieille de 27 ans dans OpenBSD, un système de type Unix connu pour sa sécurité et sa rigueur, qui a maintenant été corrigée.
La puissance de Mythos signifie également qu’il peut être exploité par des pirates informatiques pour lancer des cyberattaques. À cette fin, Anthropic a lancé un projet appelé « Project Glasswing » (Glass Wings) pour donner accès au modèle à un petit nombre d'entreprises afin de détecter les vulnérabilités de leurs produits respectifs qui peuvent être piratées et développer des mécanismes de défense le plus tôt possible. Le premier groupe de partenaires du projet « Wings of Glass » comprend 12 sociétés, dont Amazon Web Services, Google et Microsoft, parmi lesquelles JPMorgan Chase est la seule institution financière. Anthropic a désormais étendu l'accès aux modèles à plus de 40 organisations, mais n'a pas fourni de liste spécifique.
La gestion d’Anthropic rend à nouveau les régulateurs nerveux
La réunion d’urgence signifie également que les régulateurs américains considèrent la possibilité de nouvelles cyberattaques comme l’un des plus grands risques auxquels est confronté le secteur financier.
Anthropic a déclaré avoir communiqué avec le gouvernement américain au sujet des « cyber-capacités offensives et défensives » du modèle avant de lancer Mythos. La société a également déclaré qu'elle était prête à travailler avec des représentants locaux, étatiques et fédéraux aux États-Unis pour aider à évaluer et atténuer les risques pour la sécurité nationale associés aux modèles d'intelligence artificielle.
Actuellement, le procès d’Anthropic avec le gouvernement américain est en cours. Le ministère américain de la Défense a annoncé au début du mois dernier qu'il avait officiellement désigné Anthropic comme une cible de « risque de chaîne d'approvisionnement », interdisant au ministère de la Défense et aux sous-traitants de la défense d'utiliser la technologie d'intelligence artificielle de l'entreprise dans des projets connexes. La société a ensuite poursuivi le gouvernement fédéral américain, affirmant qu'en raison de divergences entre les deux parties sur l'utilisation de ses produits, l'autre partie avait riposté et avait été mise sur liste noire. Le 8 de ce mois, un tribunal fédéral américain a rejeté la demande d’Anthropic d’empêcher temporairement le ministère de la Défense de l’inscrire sur une liste noire.
Il y a quelques jours à peine, Anthropic a annoncé que le chiffre d'affaires annualisé (ARR) de l'entreprise avait dépassé 30 milliards de dollars, soit une augmentation significative par rapport aux 9 milliards de dollars d'ici la fin de 2025. La société prévoit d'entrer en bourse dès le quatrième trimestre de cette année.