Le 24 juin, le New York Times rapportait que la National Security Agency (NSA) avait perdu l’accès à un puissant modèle d’intelligence artificielle développé par Anthropic alors que l’administration Trump était impliquée dans un conflit avec Anthropic, privant l’agence de renseignement d’un outil qui a à la fois impressionné et alarmé ses analystes. Le modèle fonctionne extrêmement bien pour découvrir les vulnérabilités logicielles.
Le modèle du mythe anthropique
Ce mois-ci, l’administration Trump a imposé des contrôles à l’exportation sur Anthropic, invoquant des problèmes de sécurité nationale. Cette action a contraint Anthropic à retirer la sortie de ses modèles les plus avancés, les Mythos 5 et Fable 5.
Alors que ces derniers modèles sont mis hors ligne, les analystes en cybersécurité de la NSA testent différentes versions de l'outil Anthropic.
Même au sein de la NSA, les résultats de ce test contrôlé ont été impressionnants. La NSA est un bastion secret à l’extérieur de Washington, spécialisé dans le développement de technologies d’espionnage numérique contre des adversaires étrangers et dans la protection des réseaux américains contre les cyberattaques.
La puissance des outils d'Anthropic et leur importance pour la NSA ont été soulignées lors d'une audience au Congrès ce mois-ci. L’audience montre comment l’administration s’appuie de plus en plus sur des systèmes d’intelligence artificielle de pointe pour la cybersécurité, même si elle est en conflit avec un développeur américain de premier plan.
Au cours de l'audience, le sénateur Mark Warner, membre démocrate de premier plan de la commission du renseignement de la Chambre des représentants, a déclaré que le directeur général de la NSA, Joshua Rudd, lui avait déclaré que Mythos "avait compromis presque tous nos systèmes classifiés en quelques heures, et non en quelques semaines". Cette déclaration a attiré une large attention après avoir été citée et rapportée par The Economist.
Anthropic a eu son premier conflit majeur avec l'administration Trump cette année au sujet d'un contrat de 200 millions de dollars du ministère de la Défense visant à déployer l'intelligence artificielle dans des systèmes classifiés. Dans ce différend très médiatisé, les deux parties sont en désaccord sur les limites de l’utilisation de la technologie de l’intelligence artificielle dans la guerre. La question centrale est de savoir comment établir des règles et des restrictions pour réglementer l’application de l’intelligence artificielle dans les opérations militaires. Anthropic a ensuite été classé comme un « risque pour la chaîne d'approvisionnement » par l'armée américaine.
La NSA a été l’une des premières agences à avoir accès à Mythos, la plaçant dans la position inhabituelle de tester un produit que le Pentagone considérait comme un risque pour la sécurité nationale. L'agence a continué à tester les derniers produits d'Anthropic jusqu'à l'ordonnance de contrôle des exportations ce mois-ci.
Ces dernières semaines, certains responsables de l’administration ont cherché à désamorcer le différend au Pentagone tout en s’efforçant de résoudre les problèmes de contrôle des exportations, selon des responsables américains et d’autres personnes proches du dossier.
La Maison Blanche et les responsables du renseignement avaient poussé Anthropic à conclure un contrat classifié avec la NSA qui aurait permis à la NSA d'utiliser la technologie de l'entreprise à diverses fins, notamment l'analyse du renseignement et la détection de nouvelles vulnérabilités informatiques.
Cependant, le contrat n'est pas encore finalisé. Pendant ce temps, certains responsables du Pentagone espèrent que la NSA passera à d’autres modèles d’IA.