La société d'intelligence artificielle Anthropic a accepté de signaler aux principaux ministères des Finances et banques centrales de divers pays les vulnérabilités de cybersécurité du système financier mondial découvertes par son dernier modèle d'intelligence artificielle. Deux personnes proches du dossier ont déclaré que cet arrangement découlait d'une demande du gouverneur de la Banque d'Angleterre, Andrew Bailey. Bailey, qui est également président du Conseil de stabilité financière, espère qu'Anthropic présentera les capacités de son nouveau modèle d'intelligence artificielle ClaudeMythos aux membres du comité.

Le Conseil de stabilité financière est une agence mondiale de réglementation financière qui rassemble des responsables des ministères des Finances, des banquiers centraux et des régulateurs des valeurs mobilières des pays du G20. Ses membres comprennent des responsables concernés des États-Unis, du Royaume-Uni, du Canada, de la France, de l'Allemagne, du Japon, de l'Arabie saoudite, de l'Australie et d'autres pays.

De nombreux membres du comité s'inquiètent de plus en plus du fait que des modèles d'intelligence artificielle similaires développés par Mythos et d'autres sociétés technologiques américaines puissent exploiter les faiblesses des systèmes de défense des réseaux des institutions financières, posant ainsi des risques potentiels pour le système bancaire mondial.

Anthropic a déclaré le mois dernier que Mythos avait découvert des milliers de vulnérabilités de sécurité à haut risque dans tous les principaux systèmes d'exploitation et navigateurs Web. L'entreprise a également déclaré que si de telles vulnérabilités causaient des problèmes, elles auraient de graves conséquences sur le développement économique, la sécurité publique et la sécurité nationale.

En raison des inquiétudes concernant le risque énorme que la technologie tombe entre de mauvaises mains, Mythos n'est actuellement ouvert qu'à quelques institutions, et la plupart des utilisateurs sont des institutions aux États-Unis. Mais cela inquiète également de nombreuses entreprises et agences de régulation dans d'autres régions, et il existe un déséquilibre dans le niveau de protection de la sécurité des réseaux dans les différentes régions.

À l'heure actuelle, un grand nombre d'institutions à travers le monde ont demandé l'autorisation d'utiliser Mythos ou de se renseigner sur les fonctions associées du modèle. Anthropic a accepté de fournir des séances d'information de haut niveau à certaines agences non américaines, dont la Commission européenne.

Actuellement, seules une quarantaine d’institutions sont autorisées à utiliser Mythos, dont Amazon, Microsoft et JPMorgan Chase. Ces institutions peuvent utiliser le modèle pour dépanner et corriger les vulnérabilités du système. A la demande de la Maison Blanche, Anthropic a promis de ne pas promouvoir ce modèle à grande échelle.

Le Conseil de stabilité financière rédige un rapport pour trier les lignes directrices normatives et pratiques pour l'application de l'intelligence artificielle dans le secteur financier, et prévoit de publier un projet le mois prochain pour commentaires du public. Le Conseil de stabilité financière et Anthropic ont refusé de commenter les récentes communications entre les deux parties.

Les agences de réglementation de divers pays ont exhorté les banques et diverses institutions financières à enquêter de manière approfondie sur les systèmes de sécurité des réseaux, à diffuser et à installer des correctifs système dès que possible et à réparer diverses vulnérabilités de sécurité exposées par les nouveaux modèles d'intelligence artificielle.

Le Trésor britannique et les autorités de régulation financière ont également récemment exhorté diverses institutions financières de la City de Londres à prendre des mesures proactives pour empêcher les cyberattaques plus rapides et plus destructrices engendrées par la technologie d'intelligence artificielle de pointe, afin de réduire les risques de sécurité des réseaux.

Cependant, en raison des tensions géopolitiques actuelles, certaines agences de régulation estiment qu’il est difficile pour le monde de formuler une réponse unifiée et coordonnée aux menaces de sécurité posées par l’intelligence artificielle.

Plus tôt ce mois-ci, le Fonds monétaire international a appelé les décideurs politiques de divers pays à renforcer la coopération internationale pour remédier conjointement aux vulnérabilités de cybersécurité révélées par la nouvelle génération de modèles d'intelligence artificielle.

Le FMI a averti que les nouveaux modèles d’intelligence artificielle ont transformé les risques de cybersécurité en dangers cachés majeurs susceptibles de déclencher des chocs macro-financiers.

Les services du FMI ont écrit dans un article de blog : Les risques liés à la cybersécurité ne respectent pas de frontières. Les économies émergentes et les pays en développement disposent généralement de ressources limitées et de faibles capacités de défense des réseaux. Ils sont plus susceptibles d’être ciblés par des cyberattaquants et subiront des impacts plus graves.