Résumé :
Le gouverneur de la BoE, Andrew Bailey, s'est joint à ceux qui mettent en garde contre les risques mondiaux posés par la technologie de pointe de l'intelligence artificielle. Bailey est actuellement président du Conseil international de stabilité financière. Dans une lettre de deux pages envoyée aux ministres des Finances internationaux et aux gouverneurs des banques centrales, il a déclaré que les modèles d'intelligence artificielle « de pointe » démontrent « une autonomie et des capacités de résolution de problèmes de plus en plus sophistiquées, ainsi que la capacité de lancer des menaces ».
Il a averti que ces modèles pourraient démanteler le système financier mondial hautement interconnecté en raison de cyber-perturbations qui « peuvent se propager à différentes juridictions ».
Avant la réunion de cette semaine des ministres des Finances et des gouverneurs des banques centrales du G20 en Caroline du Nord, aux États-Unis, Bailey a écrit aux participants : « Les développements récents ont également attiré mon attention sur le fait que de nombreuses juridictions n'ont pas encore établi de protocoles pour régir le développement, la publication et le déploiement de modèles avancés d'intelligence artificielle, exacerbant les risques auxquels est confronté le secteur financier et le secteur au sens large. »
Au cours des dernières semaines, de nombreux experts technologiques renommés ont tiré la sonnette d'alarme sur les risques de l'intelligence artificielle, et la lettre de Bailey a encore exacerbé les inquiétudes à ce sujet. Cela s’inscrit également dans la continuité de sa position antérieure appelant à une coopération internationale pour faire face conjointement à la menace de l’intelligence artificielle. Il avait précédemment déclaré aux chefs de la ville : "Aucun pays ne peut se protéger de la nature des systèmes transfrontaliers qui prédominent aujourd'hui."
Le mois dernier, 1 367 chercheurs et ingénieurs du Frontier Artificial Intelligence Laboratory ont publié conjointement une lettre ouverte, pour la plupart issus d'OpenAI, d'Anthropic et de Google DeepMind. La lettre révèle également les inquiétudes ressenties quotidiennement par les ingénieurs impliqués dans le développement de cette technologie.
La lettre ouverte dit : « Le développement des capacités de l’intelligence artificielle dépassera probablement rapidement notre capacité à comprendre ou à contrôler les systèmes concernés. » La lettre appelle ensuite le gouvernement américain à soutenir « un effort international visant à développer la technologie et les outils de gouvernance nécessaires pour contrôler consciemment le rythme de développement de l’intelligence artificielle automatisée de pointe ».
Il a également été révélé plus tôt ce mois-ci que les employés d'OpenAI avaient observé des signes de comportement inhabituel dans ses systèmes des semaines avant que ses agents d'intelligence artificielle de pointe ne s'échappent de leurs environnements de formation, ne lancent une campagne de piratage sans précédent et ne déclenchent une panique mondiale.
Bailey a étendu ce thème au domaine de la politique financière. Il a ajouté : « Pour le système financier, la préoccupation la plus immédiate à l'heure actuelle est l'impact que l'intelligence artificielle de pointe peut avoir sur les cyber-risques. L'intelligence artificielle de pointe pourrait être capable de modifier fondamentalement la vitesse, l'ampleur et le coût économique des cyber-risques, érodant ainsi la confiance dans l'ensemble du marché, en particulier lorsque le système financier est fortement dépendant de quelques grands fournisseurs de services tiers. »
Bailey a appelé toutes les parties responsables du maintien de la sécurité du système financier mondial à donner la priorité à « la prise de mesures appropriées à l'échelle mondiale pour soutenir la publication et le déploiement sûrs et responsables des modèles ».
La lettre répondait également aux préoccupations de Bailey concernant le recours accru à l'effet de levier sur les marchés obligataires et boursiers. Il a déclaré que l'augmentation de l'endettement était aggravée par des valorisations élevées sur des marchés financiers concentrés, particulièrement motivées par l'optimisme des investisseurs quant aux perspectives de l'intelligence artificielle. Cette situation pourrait amplifier les futures corrections du marché.
Je reste donc préoccupé par le fait qu'un choc majeur, ou une combinaison de chocs, puisse déclencher simultanément plusieurs vulnérabilités", a écrit Bailey.
Bailey est gouverneur de la Banque d'Angleterre depuis mars 2020 et a auparavant dirigé la Financial Conduct Authority et la Prudential Regulatory Authority, les deux principaux régulateurs financiers du Royaume-Uni. Il a été nommé président du Conseil de stabilité financière l’année dernière.
Le Conseil de stabilité financière, dont le siège est à Bâle, en Suisse, est chargé de coordonner le travail des agences de réglementation financière de divers pays et des organismes de normalisation internationaux au niveau international, dans le but de formuler des règles et des politiques réglementaires efficaces pour maintenir la stabilité financière.
Commentaires