Résumé :
Le président de Microsoft, Brad Smith, a récemment appelé une fois de plus les pays à accélérer la réglementation de l'intelligence artificielle et a souligné que la surveillance actuelle des sociétés d'intelligence artificielle n'est même pas aussi stricte que celle des produits de consommation tels que le lait et les machines à laver. Il estime qu'avec le développement rapide des capacités de l'intelligence artificielle, le monde a atteint un moment critique pour formuler des règles de sécurité unifiées.
Dans une interview accordée au BBC Podcast, Smith a décrit l'intelligence artificielle comme « à la fois un outil et une arme ». Il a déclaré que l'intelligence artificielle apporte de nouveaux risques à l'environnement mondial de sécurité des réseaux, et qu'il est donc nécessaire d'établir un cadre réglementaire de sécurité international et de limiter le développement de l'industrie par des règles claires.
Smith a spécifiquement souligné que le Royaume-Uni est plus apte à jouer un rôle de premier plan que les États-Unis et l'Union européenne dans le futur système mondial de gouvernance de la sécurité de l'intelligence artificielle. Il estime que l'Institut britannique de sécurité de l'intelligence artificielle (AISI) s'est développé rapidement depuis sa création en 2023 et est devenu une force importante dans le domaine des tests mondiaux de sécurité de l'intelligence artificielle. L’agence a pu accéder à de nouveaux modèles dans des laboratoires américains de pointe et mener des évaluations indépendantes de sécurité avant leur déploiement officiel.
Cependant, ce statut a récemment été confronté à des défis. Le président américain Donald Trump a déjà critiqué les institutions dites « mondialistes », arguant qu'elles interfèrent avec les entreprises américaines. Selon les médias, Trump a demandé le mois dernier à Anthropic et OpenAI de suspendre la fourniture de nouveaux modèles aux institutions de test britanniques jusqu'à ce que les États-Unis terminent leur examen. Mais l'AI Safety Institute du Royaume-Uni a confirmé cette semaine qu'il était toujours en mesure d'accéder et de tester la dernière génération de modèles d'IA.
Malgré le scepticisme du gouvernement américain, Smith continue de croire que la Grande-Bretagne possède un avantage unique. Il a déclaré qu'aux yeux des cercles décisionnels de Washington, le Royaume-Uni et Londres ne seront pas considérés comme des forces de régulation puissantes comme le siège de l'UE à Bruxelles, mais que cela aidera le Royaume-Uni à jouer un rôle de coordination au sein de la communauté internationale et à promouvoir le consensus entre toutes les parties.
Les commentaires de Smith interviennent alors que de plus en plus de leaders de l'industrie technologique appellent à ralentir le rythme du développement de l'intelligence artificielle. Le PDG d'Anthropic, Dario Amodei, et le PDG d'OpenAI, Sam Altman, entre autres, ont récemment exprimé publiquement leurs inquiétudes quant aux risques de l'intelligence artificielle avancée. De multiples incidents de comportement anormal dans les systèmes d'agents d'intelligence artificielle ont encore intensifié les inquiétudes du monde extérieur concernant les problèmes de sécurité.
En octobre de cette année, Trump a également convoqué des dirigeants d'OpenAI, Anthropic, NVIDIA, AMD, SpaceX, Meta et Google à la Maison Blanche pour discuter des questions de sécurité de l'intelligence artificielle. Les entreprises participant à la conférence ont signé ce qui a été décrit comme un accord « éthiquement contraignant », s'engageant à coopérer avec des auditeurs indépendants pour évaluer les capacités et la sécurité des modèles d'intelligence artificielle.
Pour cet accord, Smith estime qu'il s'agit d'une étape positive, mais il existe encore un écart entre une supervision véritablement efficace. Il a souligné que l'autoréglementation volontaire de l'industrie ne fait souvent que restreindre les entreprises responsables, et que la véritable préoccupation concerne les entreprises qui ne veulent pas respecter les règles.
Smith a également proposé une série de mesures de sécurité qu'il aimerait voir. Par exemple, lorsque les systèmes d’entreprise sont envahis par des agents d’intelligence artificielle incontrôlables, les agences compétentes devraient assumer l’obligation légale d’émettre des alertes en temps opportun ; les laboratoires d'intelligence artificielle devraient être examinés par des agences d'évaluation externes indépendantes avant de lancer de nouveaux produits ; dans le même temps, l'industrie devrait également étudier des mécanismes tels que des « interrupteurs d'arrêt d'urgence » pour suspendre ou ralentir le fonctionnement des systèmes d'intelligence artificielle lorsque les humains perdent le contrôle.
En parlant de l'orientation future de la gouvernance, Smith a appelé toutes les parties à promouvoir la coopération avec une attitude plus rationnelle et pragmatique. Il a exprimé l'espoir que Microsoft puisse faire partie du consensus mondial et que le Royaume-Uni puisse jouer un rôle de transition et de leadership dans le système international de gouvernance de la sécurité de l'intelligence artificielle.
Articles connexes :
Brad Smith, président de Microsoft : L'IA est encore moins réglementée que le lait
Commentaires