Les États-Unis ont interdit aux utilisateurs étrangers d'accéder aux modèles d'IA les plus avancés d'Anthropic, a rapporté Bloomberg, une décision inhabituelle qui met en évidence la volonté actuelle de l'administration Trump d'exercer un contrôle sur cette industrie critique. Dans le même temps, cela rappelle à la Silicon Valley qu’elle développe et utilise une technologie qui n’est pas encore entièrement comprise et dont l’impact est très variable.
Anthropique
Vendredi, le gouvernement américain a pris une mesure sans précédent en ordonnant à Anthropic d'interdire à tous les étrangers d'utiliser sa plateforme d'IA la plus avancée. Le gouvernement américain a émis cette ordonnance après avoir découvert que le modèle Fable 5 lancé par Anthropic il y a quelques jours pouvait être « jailbreaké ». Le soi-disant « jailbreak » fait référence au contournement du mécanisme de protection de sécurité défini par le modèle.
L’introduction rapide de cette mesure a suscité une inquiétude généralisée. Anthropic a qualifié cette décision de « réaction excessive » et a averti que l'adoption d'une telle approche réglementaire pourrait « avoir pour conséquence que tous les développeurs de modèles de pointe ne soient pas en mesure de déployer de nouveaux modèles ».
Les dirigeants d'Anthropic sont actuellement en discussions avec des responsables à Washington au sujet des préoccupations spécifiques en matière de sécurité soulevées par ces derniers, ont indiqué des sources proches du dossier. L’un des principaux responsables impliqués dans les négociations était le secrétaire américain au Trésor, Bessent. Il a déjà lancé des avertissements à Wall Street sur les risques posés par les modèles d'IA de pointe, tels que Mythos d'Anthropic. En théorie, Mythos peut trouver et exploiter les vulnérabilités des logiciels plus rapidement que les humains.
Intervenir dans les opérations des entreprises d’IA
La réponse du gouvernement américain constitue à ce jour l’intervention la plus importante de la part de responsables gouvernementaux dans les opérations d’une entreprise d’IA. Cette décision intervient alors que les principales startups de l’IA telles qu’Anthropic cherchent à entrer en bourse. Anthropic est évalué à plus de 900 milliards de dollars. Cette mesure de contrôle inattendue pourrait créer un précédent pour les principaux développeurs de modèles d’IA tels qu’OpenAI, Google et Meta.
Aujourd’hui, le gouvernement américain est prêt à utiliser des pouvoirs extraordinaires pour forcer les développeurs d’IA à faire face aux menaces potentielles pour la sécurité conformément aux exigences du gouvernement, bien que l’administration Trump ait déclaré dans un décret publié en juin de cette année qu’elle n’obligerait pas les entreprises de la Silicon Valley à obéir aux ordres du gouvernement.
"Les modèles de pointe des États-Unis sont de plus en plus considérés comme des actifs stratégiques, et leur utilisation est strictement contrôlée et influencée par des considérations de sécurité nationale", a déclaré Gary Tan, gestionnaire de portefeuille chez la société de gestion d'actifs Allspring Global Investments. "Cette tendance va probablement se poursuivre car les États-Unis sont en tête en termes de puissance de calcul."
Modèle mythe
Anthropic a publié la semaine dernière Fable 5, la première version publique de son modèle de classe Mythos. La société a mis en garde à plusieurs reprises contre les cybercapacités de Mythos, et les responsables de la Maison Blanche ont pris ces préoccupations au sérieux, ouvrant la voie à des décrets volontaires permettant aux agences américaines d'utiliser Mythos et d'autres modèles cyber-capables pour corriger les vulnérabilités de leurs systèmes.
Les préoccupations de Washington pourraient aller au-delà du « jailbreak » ou de la capacité à affecter une plateforme particulière. La préoccupation plus large est que des adversaires pourraient tenter de voler les poids d’un modèle d’IA, un fichier numérique de grande valeur qui détient la clé des capacités d’un modèle. La décision d'interdire l'accès à Fable et Mythos intervient dans un contexte d'inquiétudes croissantes à Washington concernant la protection des secrets commerciaux par les sociétés d'IA. Le gouvernement américain estime que ces entreprises doivent se prémunir contre les menaces potentielles provenant de l’intérieur afin d’empêcher la fuite de technologies de base.
Après des décennies passées à diffuser la technologie américaine de pointe à travers le monde comme outil diplomatique et économique, Washington évolue désormais dans la direction opposée. Aujourd’hui, les États-Unis sont de plus en plus enclins à conserver la technologie pour un usage domestique pour des raisons de sécurité nationale.
"Cela montre que les États-Unis utilisent rapidement les contrôles à l'exportation pour réduire les risques posés par l'IA de pointe." a déclaré Stefanie Kam, professeure adjointe à l'Institut de défense et d'études stratégiques de l'Université technologique de Nanyang à Singapour.
Boycotter la Silicon Valley ?
Au-delà des objectifs politiques, la Silicon Valley résistera probablement aux tentatives de Washington de renforcer son contrôle. De Meta à OpenAI, les principaux développeurs d’IA rivalisent pour s’emparer des sommets de cette technologie, car cette technologie est susceptible de remodeler l’ensemble de l’économie et de nombreux secteurs.
Cependant, il est impossible de tester toutes les combinaisons de capacités potentielles d’un modèle d’IA, ce qui suscite de vagues inquiétudes quant aux menaces qui continuent d’être surveillées à mesure que les modèles continuent de s’améliorer.
"Il peut y avoir des seuils de capacité importants. Par exemple, les systèmes d'IA peuvent automatiser de grandes quantités de travaux de recherche et de développement en matière d'IA en peu de temps. De tels systèmes peuvent introduire des risques entièrement nouveaux." Le sénateur américain Jim Banks a écrit ce mois-ci dans une lettre à Bessant, au directeur national de la cybersécurité Sean Cairncross et au secrétaire à la Défense Pete Hegseth. "Les experts du secteur ont également exprimé de sérieuses inquiétudes quant à la difficulté de mettre de tels systèmes sous contrôle humain."