Résumé :
Anthropic refuse de soumettre son dernier modèle à l'Institut britannique de sécurité de l'intelligence artificielle (AISI) pour des tests avant la sortie du nouveau produit. Cette décision a suscité des inquiétudes au sein du gouvernement britannique quant au fait que les entreprises technologiques suivent la ligne protectionniste de l'administration Trump en matière d'IA.
La société valant 1 000 milliards de dollars, qui se prépare à une introduction en bourse majeure dans les semaines à venir, a lancé la semaine dernière son dernier modèle, Claude Mythos 5.1, le qualifiant de modèle le plus performant en matière de sciences de la vie et de cybersécurité.
Mais c'est la première fois que le modèle est ouvert uniquement aux institutions américaines accréditées, et l'Artificial Intelligence Security Institute (AISI) du Royaume-Uni n'a pas pu y accéder. AISI est la principale organisation mondiale dans le domaine de l'évaluation de pointe de grands modèles.
Plusieurs responsables du gouvernement britannique ont déclaré que l'AISI n'avait pas pu obtenir les droits d'accès avant la publication du modèle, ce qui a déclenché l'alarme au sein de Whitehall (le gouvernement central britannique) et de l'institut. L’AISI est la monnaie d’échange la plus importante du Royaume-Uni dans la course mondiale à l’intelligence artificielle.
Un membre du gouvernement a déclaré : "Les responsables de la sécurité nationale sont préoccupés par cela. Ils ne testent vraiment pas Mythos 5.1. Il y a beaucoup d'anxiété de tous les côtés... Ils craignent que cela crée un précédent et que l'AISI n'ait plus accès aux derniers modèles à l'avenir."
Ces derniers mois, l'administration Trump a adopté une position de plus en plus stricte à l'égard de l'industrie de l'IA, en introduisant des contrôles étendus à l'exportation et en interdisant temporairement à tous les étrangers (y compris les employés des sociétés américaines d'IA) d'accéder aux meilleurs modèles d'Anthropic.
Des sources ont révélé que certaines personnes au sein de Whitehall pensent qu'Anthropic a refusé d'ouvrir la nouvelle version du modèle Mythos à l'AISI sous la direction du gouvernement américain, mais cette spéculation n'a pas été confirmée. AISI, qui a été créée il y a trois ans, a déjà obtenu le nouveau modèle OpenAI Astra pour évaluation avant sa sortie officielle ce mois-ci.
Anthropic a refusé de commenter. La société a déclaré la semaine dernière qu'elle "coordonnait avec le gouvernement américain pour étendre dès que possible l'ouverture du modèle à davantage de partenaires nationaux et étrangers".
En juin de cette année, le gouvernement américain a mis en place des contrôles à l'exportation sur Fable et Mythos, deux modèles d'Anthropic axés sur la sécurité des réseaux, interdisant aux étrangers d'utiliser cette technologie. Cet incident s'est produit après la mise en place des contrôles mentionnés ci-dessus.
Les États-Unis ont découvert que le modèle présentait une vulnérabilité de « jailbreak », qui est une méthode permettant de contourner les garde-fous de sécurité intégrés du logiciel, et ont immédiatement mis en œuvre ce contrôle. À la suite de cette découverte, Anthropic a retiré son modèle de pointe des marchés mondiaux pendant plusieurs semaines.
Cet incident a intensifié le conflit entre la Maison Blanche et la Silicon Valley. La Silicon Valley a critiqué le gouvernement américain pour avoir adopté des réglementations d’urgence temporaires sur l’IA de pointe.
Cette décision a également suscité l'opposition de nombreux gouvernements, et les pays concernés ont accusé les États-Unis de punir leurs alliés par des interdictions. La Commission européenne, l'organe exécutif de l'UE, avait alors averti que les risques pour la sécurité constituaient un « défi commun » et que les mesures prises « ne devraient pas constituer une discrimination à l'égard des pays partenaires ».
Les responsables du gouvernement britannique sont clairement conscients que si le Royaume-Uni n'est pas en mesure d'obtenir les modèles d'IA les plus avancés, le pays sera non seulement confronté à des implications en matière de sécurité, mais que son économie pourrait également en souffrir.
Les médias ont rapporté le mois dernier que le Cabinet Office, responsable de la coordination des affaires gouvernementales, avait ordonné une évaluation urgente du risque que les consommateurs ordinaires et les entreprises ne soient plus en mesure d'utiliser la dernière version des modèles d'IA.
Les relations entre Anthropic et le gouvernement américain sont tendues depuis le début de cette année. L'entreprise était auparavant dans une impasse avec le ministère américain de la Défense concernant les conditions contractuelles, et les États-Unis l'ont ensuite identifiée comme une entité à risque pour la chaîne d'approvisionnement.
Ces derniers mois, les relations entre le principal laboratoire américain d'IA et certaines parties de l'administration Trump semblent s'être détendues, les deux parties travaillant en étroite collaboration sur la publication des modèles Mythos et Fable.
Le Cabinet Office britannique a déclaré : "L'Artificial Intelligence Safety Institute (AISI) continue de travailler en étroite collaboration avec des partenaires industriels, dont Anthropic, pour améliorer la sécurité des modèles."
Commentaires