Résumé :
Bien que les États-Unis et la Chine soient en concurrence stratégique dans de nombreux domaines, selon les médias technologiques, les États-Unis cherchent à établir un mécanisme de notification de sécurité avec la Chine pour s'avertir mutuellement en cas d'incidents dangereux liés à l'intelligence artificielle pouvant constituer de graves menaces pour la sécurité nationale.
Cette idée a été proposée conjointement par l’Atlantic Council et Security Exploration International. L'objectif principal de ce mécanisme est de garantir que les deux pays puissent se contacter en temps opportun avant que de graves incidents de sécurité liés à l'intelligence artificielle ne se transforment en crises géopolitiques ou en conflits militaires, en établissant des canaux spéciaux d'alerte précoce. Le rapport souligne qu'en raison de l'évolution rapide de la technologie de l'intelligence artificielle, les systèmes automatisés sont très susceptibles d'entraîner des conséquences inattendues et graves sans contrôle humain direct. Il est donc crucial d'établir de tels ponts de communication.
Selon la proposition, le mécanisme de notification se concentre sur quatre grandes catégories de scénarios à haut risque :
Premièrement, le système d'IA autonome perd le contrôle et cause de graves dommages réels ;
Deuxièmement, les accidents de sécurité liés à l'IA impliquant des armes de destruction massive telles que des armes nucléaires, des armes chimiques ou des armes biologiques ;
Troisièmement, la fuite accidentelle de modèles d'IA à haut risque ou de technologies de base associées ;
Quatrièmement, les attaques de réseaux d'IA à grande échelle ciblent les infrastructures critiques et provoquent des coups dévastateurs.
Une analyse d'experts a souligné que l'idée d'établir ce mécanisme est très similaire à la « ligne rouge » d'appel téléphonique direct établie par les États-Unis et l'Union soviétique pendant la guerre froide pour empêcher le déclenchement d'une guerre nucléaire. Bien que les entreprises technologiques et les instituts de recherche en Chine et aux États-Unis aient déjà tenu un dialogue préliminaire sur les normes de sécurité de l’IA et la gestion des risques, si cette coopération peut être formellement élevée au rang de mécanisme de sécurité au niveau gouvernemental, elle réduira sans aucun doute de manière significative le risque de crises internationales majeures causées par des erreurs de jugement techniques et apportera un soutien important à la gouvernance mondiale de l’IA.
Commentaires