L'Agence américaine de cybersécurité et de sécurité des infrastructures (CISA) utilise le modèle Mythos développé par la startup d'intelligence artificielle Anthropic pour auditer le code logiciel du gouvernement américain, selon trois personnes proches du dossier.
La CISA utilise le modèle Myth pour analyser les référentiels de codes gouvernementaux à la recherche de failles logicielles et de vulnérabilités de sécurité qui pourraient être exploitées par des agences de renseignement étrangères ou des cybercriminels, ont indiqué des sources. Ce travail est géré par l'équipe interne « Attack Surface Evaluation » de CISA, spécialisée dans la réalisation d'évaluations de sécurité numérique et d'exercices simulés d'attaque et de défense pour diverses agences gouvernementales. Deux des sources ont déclaré que les audits avaient révélé un grand nombre de vulnérabilités, mais n'en ont pas divulgué le nombre ni les détails ; on ne sait pas exactement quelle quantité de code gouvernemental l'équipe avait couverte ni la nature et la gravité des vulnérabilités trouvées.
Concernant les questions connexes, Anthropic n’a pas répondu aux demandes de commentaires des journalistes. Un porte-parole de la CISA a déclaré le mois dernier qu'il confirmerait si le contenu pouvait être rendu public, mais n'a pas répondu à d'autres demandes par courrier électronique.
Anthropic entretient des relations tumultueuses avec le gouvernement américain. En février, l’entreprise basée à San Francisco s’est heurtée au Pentagone au sujet de son refus de supprimer les garanties de ses produits interdisant les armes autonomes et la surveillance nationale. Le ministère américain de la Défense a par la suite désigné Anthropic comme un « risque formel pour la chaîne d’approvisionnement », une étiquette habituellement réservée aux sociétés étrangères soupçonnées de contribuer à l’espionnage étranger. Cette mesure inédite de « liste noire » a été stoppée par un juge en mars, et les relations entre les deux parties se sont depuis apaisées.
Un élément clé du relâchement a été le lancement privé par Anthropic du modèle « Mythe » auprès du gouvernement. Ce système d'intelligence artificielle a été décrit comme « extrêmement capable » de découvrir et d'exploiter les vulnérabilités de sécurité des réseaux. Selon des médias précédents, l'Agence de sécurité nationale américaine (NSA) a commencé à utiliser « Myth » dans son travail dès avril, même si Anthropic était encore sur la liste noire à cette époque. Le New York Times a cité des sources affirmant que certains analystes de la NSA qui avaient testé le Mythe dans un environnement top secret avaient été impressionnés par ses capacités.
Dans le même temps, Anthropic a également lancé une version publique de « Myth » appelée « Fable ». Ce modèle public intègre une protection de sécurité réseau dans sa conception, empêchant les utilisateurs de l'utiliser directement pour mener de véritables attaques. Mais peu de temps après la mise en ligne de « Fable », la Maison Blanche a soudainement demandé à Anthropic d'interdire aux utilisateurs étrangers d'accéder au modèle. La demande a déclenché un blocage mondial de l’accès au modèle Fable, et ce n’est que la semaine dernière que le gouvernement américain a officiellement levé les restrictions de contrôle des exportations sur le modèle. Actuellement, le gouvernement américain continue de tester et d’évaluer la technologie d’Anthropic au sein de ses agences de sécurité nationale, tout en maintenant un jeu délicat avec l’entreprise sur les limites réglementaires et de sécurité.