Résumé :
Le président de Microsoft, Brad Smith, a déclaré que la supervision actuelle de l'intelligence artificielle est loin d'être suffisante, encore moins que celle des produits de consommation ordinaires tels que le lait et les machines à laver. Il a appelé les pays à établir dès que possible des règles mondiales de sécurité en matière d'intelligence artificielle, notamment en exigeant que les entreprises informent les victimes lorsque les systèmes d'intelligence artificielle deviennent incontrôlables et causent des dommages, soumettent des rapports d'accident et acceptent les examens par des agences d'évaluation indépendantes avant que certains produits d'intelligence artificielle ne soient officiellement commercialisés.
Cette position de Smith contraste clairement avec les affirmations du président américain Donald Trump. Trump estime que l’industrie de l’intelligence artificielle devrait principalement s’appuyer sur sa propre réglementation pour éviter une intervention gouvernementale excessive qui affaiblirait la capacité des entreprises américaines à rivaliser avec leurs concurrents chinois. Smith estime que l’intelligence artificielle possède à la fois la double caractéristique d’un outil et d’une arme, et qu’elle ne peut pas continuer à s’appuyer uniquement sur l’autodiscipline des entreprises pour contrôler les risques.
"Votre machine à laver est désormais soumise à davantage de règles de sécurité que l'intelligence artificielle", a déclaré Smith au podcast Big Boss Interview de la BBC. "Chaque brique de lait que vous voyez à l'épicerie est soumise à des règles de sécurité et à des inspections."
Il estime que le développement de l’intelligence artificielle a atteint un stade où il faut agir. Les pays devraient s'inspirer de l'expérience réglementaire d'autres secteurs et établir des systèmes de sécurité adaptés à la technologie de l'intelligence artificielle, au lieu d'attendre que des accidents graves se produisent pour discuter de la manière d'y réagir.
À mesure que les capacités des modèles d'intelligence artificielle se sont rapidement améliorées ces dernières années, les appels à une réglementation plus stricte du secteur se sont multipliés. Certains experts dans le domaine de l’intelligence artificielle ont même averti que cette technologie pourrait constituer une menace pour la sécurité à long terme de la société humaine. En se concentrant sur les risques de cybersécurité, les comportements incontrôlables et autres dommages potentiels que l’intelligence artificielle peut entraîner, des discussions au sein du secteur ont également commencé sur la question de savoir si le développement technologique devrait être ralenti.
Les dirigeants des sociétés américaines d'intelligence artificielle Anthropic, OpenAI et Google DeepMind ont tous soutenu une approche plus prudente en matière de développement de l'intelligence artificielle, et certains sont également favorables au ralentissement de la recherche et du développement technologique dans certaines circonstances. Cependant, Trump s’est toujours opposé aux mesures susceptibles de restreindre le développement de l’industrie américaine de l’intelligence artificielle et a souligné à plusieurs reprises que les États-Unis devaient rester en tête dans cette compétition technologique.
Smith estime que l'intelligence artificielle ne doit pas être simplement considérée comme un produit logiciel ordinaire. À mesure que les systèmes d’agents d’intelligence artificielle acquièrent des capacités d’exécution autonomes plus fortes et que les modèles avancés ont une influence croissante dans le domaine de la cybersécurité, les risques associés nécessitent que les gouvernements, les entreprises et les agences d’évaluation indépendantes réagissent conjointement.
Il a appelé les entreprises à mettre en place des mécanismes de freinage d'urgence pour les systèmes d'intelligence artificielle, ce qui est souvent appelé « kill switch » dans l'industrie. Si un système d'intelligence artificielle se comporte de manière incontrôlable ou commence à effectuer des opérations susceptibles d'entraîner de graves conséquences, les entreprises devraient être en mesure de suspendre le fonctionnement du système en temps opportun, ou de réduire sa vitesse de fonctionnement et son autorité pour empêcher une nouvelle expansion des risques.
Smith plaide également en faveur d'un système de déclaration obligatoire des accidents. Si un agent d'intelligence artificielle perd le contrôle et envahit d'autres systèmes, ou cause des dommages aux utilisateurs en raison d'un comportement anormal, les entreprises concernées doivent signaler l'incident conformément à la loi et informer les personnes ou organisations concernées.
Il estime que ces mesures devraient faire partie du système de réglementation de la sécurité de l'intelligence artificielle et ne peuvent pas simplement compter sur les entreprises pour prendre des mesures volontaires.
En outre, Smith a suggéré qu'avant la commercialisation de certains produits d'intelligence artificielle à haut risque, ils devraient être examinés par des évaluateurs indépendants reconnus par le gouvernement afin de déterminer si le système répond aux exigences de sécurité pertinentes. Cela ne signifie pas que tous les produits d’intelligence artificielle doivent être soumis au même niveau de surveillance, mais que la nécessité ou non d’une évaluation indépendante avant leur lancement doit être déterminée en fonction des capacités du produit, des scénarios d’utilisation et des risques potentiels.
Smith a déclaré que d'autres secteurs ont mis en place des mécanismes de gestion de la sécurité similaires et que la supervision de l'intelligence artificielle peut tirer des leçons de ces expériences matures. Il estime que la clé est d'appliquer rationnellement les systèmes existants d'évaluation des risques, de déclaration d'accidents et de sécurité des produits au domaine de l'intelligence artificielle.
Dans la promotion des règles internationales en matière d'intelligence artificielle, Smith est particulièrement optimiste quant au rôle du Royaume-Uni.
Il a souligné que le Royaume-Uni avait créé une agence spécialisée dans les questions de sécurité de l'intelligence artificielle. L'agence a été initialement lancée sous le nom d'Institut de recherche sur la sécurité de l'intelligence artificielle sous l'administration de l'ancien Premier ministre Rishi Sunak et a ensuite été rebaptisée Institut d'intelligence artificielle (AI Security Institute), chargé d'étudier les capacités et les risques potentiels des systèmes avancés d'intelligence artificielle.
Smith estime que le Royaume-Uni dispose d'une solide force technique en matière d'évaluation de la sécurité de l'intelligence artificielle et dispose également des conditions nécessaires pour promouvoir la coopération internationale. Il a déclaré que si vous demandez aux gens du secteur technologique quel pays est leader en matière de capacités technologiques de sécurité de l'intelligence artificielle, de nombreuses personnes choisiront le Royaume-Uni sans hésitation.
Il estime que le Royaume-Uni a la possibilité d'utiliser ses capacités de recherche et son influence internationale pour encourager les pays à établir des règles plus unifiées en matière de sécurité de l'intelligence artificielle.
Le point de vue de Smith est différent de l’orientation politique de l’administration Trump qui met l’accent sur l’accélération du développement de l’intelligence artificielle. Trump a répété à plusieurs reprises que celui qui remporterait le concours d’intelligence artificielle gagnerait l’avenir. Cette position reflète la volonté du gouvernement américain de consolider la position de leader des États-Unis dans le domaine de l’intelligence artificielle en réduisant les barrières réglementaires, en encourageant les investissements des entreprises et en développant les applications technologiques.
Cependant, Smith ne croit pas que le gouvernement américain rejettera définitivement l'initiative britannique de réglementation de l'intelligence artificielle.
Il a souligné qu'il existe des différences dans les attitudes des cercles politiques américains à l'égard du Royaume-Uni et de l'UE. À Washington, au Royaume-Uni et à Londres ne suscitent généralement pas le même niveau de réaction politique qu’à Bruxelles et dans les institutions européennes. Smith estime que cette différence dans les relations pourrait constituer un avantage dans la démarche du Royaume-Uni en faveur de normes internationales de sécurité en matière d’IA.
Il a souligné qu'il existe suffisamment de signaux de risque dignes d'attention, notamment des agents d'intelligence artificielle qui peuvent échapper au contrôle humain et des modèles suffisamment puissants pour constituer une menace pour la sécurité des réseaux mondiaux.
Quand vous voyez des agents d'intelligence artificielle qui échappent au contrôle humain, quand vous voyez des modèles suffisamment puissants pour compromettre la cybersécurité mondiale, je dirais que le moment est venu", a déclaré Smith.
Il a appelé toutes les parties à adopter une attitude calme mais ferme, à entamer le dialogue dès que possible et à encourager le gouvernement, les entreprises et les instituts de recherche à formuler conjointement des règles pertinentes. Il a également exprimé l'espoir que Microsoft puisse jouer un rôle dans ce processus et que le Royaume-Uni puisse assumer le rôle de promotion de la coopération internationale.
Il convient de noter que Smith n’a pas complètement nié la valeur de l’autoréglementation de l’industrie. À la fin du mois dernier, Trump a rencontré à la Maison Blanche les dirigeants de géants de la technologie tels que OpenAI, Anthropic, NVIDIA, SpaceX, Meta et Google. Les dirigeants d'entreprise présents à la réunion ont signé un document éthique acceptant de coopérer avec des auditeurs indépendants pour évaluer si les systèmes d'intelligence artificielle fonctionnent comme prévu et pour garantir que les systèmes n'empiètent pas sur les systèmes techniques ou n'y accèdent pas de manière involontaire.
Ce document vise à encourager les sociétés d'intelligence artificielle à renforcer les examens de sécurité et à identifier les problèmes potentiels grâce à des évaluations indépendantes. Bien que sa force contraignante soit différente des lois et réglementations formelles, elle est toujours considérée comme une mesure prise par l’industrie technologique en termes de gouvernance de la sécurité.
Smith a exprimé son appréciation pour cette déclaration et a déclaré que Microsoft était prêt à signer les documents pertinents. Il estime que c'est un bon début et une étape nécessaire.
Mais selon lui, s’appuyer uniquement sur ce type d’engagement volontaire ne suffit plus.
Smith a souligné que tout système d'autoréglementation sera confronté à un problème fondamental : les entreprises responsables sont généralement disposées à se conformer aux exigences de sécurité, mais les véritables préoccupations concernent les entreprises qui manquent de sens des responsabilités et ne sont pas disposées à prendre des mesures de sécurité de manière proactive.
Il estime que si l'ensemble du secteur s'appuie uniquement sur des engagements volontaires, les entreprises qui respectent les règles pourraient supporter des coûts plus élevés, tandis que les concurrents qui ne sont pas disposés à investir des ressources pour assurer la sécurité pourraient continuer à se développer rapidement. Par conséquent, l’établissement de normes de sécurité minimales juridiquement contraignantes contribue à garantir que toutes les entreprises doivent répondre aux exigences de base.
C'est également le problème central souligné par Smith : la réglementation de l'intelligence artificielle ne devrait pas seulement dépendre de la volonté des entreprises d'assumer leurs responsabilités, mais devrait également établir un système clair pour stipuler quelles obligations de sécurité les entreprises doivent remplir et quelles mesures doivent être prises lorsque de graves problèmes surviennent dans le système.
À mesure que les agents d'IA acquièrent la capacité d'effectuer des tâches complexes, d'invoquer des outils externes et d'accéder à des systèmes techniques, les approches traditionnelles de gestion de la sécurité logicielle devront peut-être s'adapter. Le futur système de régulation devra non seulement prêter attention à l'existence éventuelle de défauts dans le modèle lui-même, mais également déterminer quelles autorisations l'intelligence artificielle peut obtenir en fonctionnement réel, à quelles ressources elle peut accéder et si le fonctionnement peut être suspendu à temps en cas de comportement anormal.
Pour Microsoft, le problème a également une signification commerciale directe. Microsoft est à la fois un acteur important dans le domaine des infrastructures d'intelligence artificielle et des applications de modélisation, ainsi qu'un fournisseur majeur de services de cloud computing et de logiciels au niveau des entreprises. La sécurité, la fiabilité et la contrôlabilité des systèmes d’intelligence artificielle affecteront directement la volonté des entreprises clientes de déployer largement les technologies associées dans leurs processus métiers.
La déclaration de Smith montre que même au sein de l’industrie technologique américaine, il n’existe pas de consensus complet sur la manière dont l’intelligence artificielle devrait être réglementée. Certaines entreprises et décideurs politiques espèrent réduire autant que possible les restrictions pour accélérer l’innovation et la commercialisation ; d’autres estiment qu’à mesure que les capacités technologiques augmentent, des responsabilités plus claires en matière de sécurité et des mécanismes de contrôle des risques doivent être établis simultanément.
La clé de ce débat n'est pas seulement de savoir s'il faut soutenir le développement de l'intelligence artificielle, mais aussi comment encourager l'innovation tout en garantissant que les applications technologiques n'entraînent pas de risques inacceptables pour les individus, les entreprises et la société.
Des exemples de machines à lait et de machines à laver, aux mécanismes de freinage d'urgence, aux rapports d'accidents et aux évaluations indépendantes, le message que Smith tente de transmettre est clair : le développement technologique de l'intelligence artificielle est plus rapide que la vitesse d'ajustement du système réglementaire existant. Si les pays espèrent continuer à tirer profit des avantages économiques et sociaux de l’intelligence artificielle, ils doivent établir dès que possible des règles de sécurité adaptées à leurs capacités et à leurs risques.
Selon lui, s'appuyer simplement sur l'autodiscipline des entreprises ne suffit pas pour résoudre ce problème. Un système de réglementation véritablement efficace doit non seulement encourager les entreprises responsables à continuer d’innover, mais également restreindre les acteurs qui ne sont pas disposés à contrôler les risques de manière proactive.
Commentaires