Résumé :
Alors que la concurrence dans le domaine de l'intelligence artificielle continue de s'intensifier, la Chine et les États-Unis tentent d'établir un nouveau mécanisme de coordination en matière de sécurité. Selon le dernier accord conclu entre les deux parties, la Chine et les États-Unis ont convenu d'établir un canal de communication bilatéral ciblant spécifiquement les risques de « super intelligence » (SI) afin de renforcer les futurs échanges d'informations et la gestion des risques dans le domaine de l'intelligence artificielle de pointe.
Cet arrangement est considéré comme l'un des résultats importants du récent dialogue sino-américain sur l'intelligence artificielle. Selon des informations publiées par les États-Unis, les deux parties continueront à promouvoir la construction de mécanismes pertinents au cours des prochains mois et prévoient de tenir une réunion de suivi du nouveau « Dialogue sur le super renseignement sino-américain » avant novembre.
La création de ce mécanisme s'explique par le fait que les capacités de l'intelligence artificielle évoluent à une vitesse sans précédent. Alors que de grands modèles de plus en plus puissants et des agents d’IA autonomes continuent d’émerger, les gouvernements sont de plus en plus préoccupés par la cybersécurité, la protection des infrastructures critiques et les risques que pourraient poser les futurs systèmes superintelligents.
En fait, la Chine et les États-Unis sont en contact depuis plusieurs mois sur les questions de sécurité de l’intelligence artificielle. Dès cet été, les deux parties ont commencé à préparer un mécanisme de dialogue spécial sur l'IA et à discuter de sujets tels que les risques de pointe liés aux modèles, la prévention des cyberattaques et la future coopération réglementaire.
Selon des informations précédemment divulguées, les États-Unis ont toujours espéré établir un système de communication et d'alerte précoce pour les cyberattaques basées sur l'IA et encourager les grands laboratoires d'IA à assumer davantage de responsabilités en matière de sécurité. Dans le même temps, la Chine considère également la coopération en matière d'intelligence artificielle comme une question importante dans les relations bilatérales et espère maintenir les canaux de dialogue dans le domaine technique.
Les professionnels du secteur ont souligné que contrairement aux négociations précédentes sur le commerce, les tarifs douaniers ou les domaines technologiques traditionnels, cette discussion s'est tournée vers l'émergence possible de systèmes super-intelligents dans le futur. La soi-disant super intelligence fait généralement référence à un système d’intelligence artificielle dont les capacités dépassent le niveau des experts humains dans plusieurs domaines. Elle est considérée par de nombreux instituts de recherche comme l’une des orientations technologiques les plus remarquables au cours des dix ou décennies à venir.
Alors que les capacités des modèles de pointe continuent de s'améliorer, les pays craignent de plus en plus que les systèmes pertinents puissent être utilisés pour lancer des cyberattaques complexes, manipuler des infrastructures critiques, automatiser des activités de renseignement ou produire d'autres impacts imprévisibles sur la sécurité. Par conséquent, le renforcement des mécanismes de communication est considéré comme une mesure importante pour réduire les erreurs d’appréciation et améliorer les capacités de gestion des risques.
Les États-Unis ont déclaré que le nouveau mécanisme fournirait un canal dédié à l'échange d'informations entre les deux parties et aiderait les deux pays à maintenir la communication face à des incidents potentiellement majeurs liés à l'IA. Les analystes estiment que cet arrangement est dans une certaine mesure similaire au mécanisme de communication de crise mis en place dans le passé dans le domaine de la sécurité nucléaire, sauf que l'attention s'est déplacée des risques militaires traditionnels vers les nouveaux défis posés par l'intelligence artificielle.
Dans le même temps, cette évolution est également considérée comme le signe d’un relâchement limité dans les relations en matière d’intelligence artificielle entre la Chine et les États-Unis. Au cours des dernières années, la concurrence entre les deux parties s'est intensifiée sur des questions telles que le contrôle des exportations de puces, les capacités informatiques avancées et le développement de la technologie de l'intelligence artificielle. La mise en place d'un mécanisme de dialogue formel montre cette fois que les deux parties croient toujours que la communication dans certains domaines est réalistement nécessaire.
Cependant, les mécanismes pertinents ne signifient pas que les deux pays ralentiront sur les questions de concurrence technologique. L’industrie estime généralement que la Chine et les États-Unis continueront à l’avenir à se livrer une concurrence féroce dans les domaines de la recherche et du développement de l’intelligence artificielle, des puces avancées, des centres de données et de l’infrastructure informatique. Mais dans le même temps, les deux parties ont commencé à se rendre compte qu’à mesure que l’intelligence artificielle approche progressivement du seuil des capacités critiques, il est dans l’intérêt commun d’établir un canal de communication à risque minimal.
Pour l'industrie mondiale de l'intelligence artificielle, cet arrangement a une certaine signification symbolique. Alors que de plus en plus de pays commencent à discuter de la manière de gérer des systèmes d'IA plus puissants à l'avenir, la Chine et les États-Unis, les deux principales puissances en matière d'IA, ont établi pour la première fois un mécanisme de communication formel autour de la « superintelligence », marquant ainsi le fait que la gouvernance de la sécurité de l'intelligence artificielle commence à passer des discussions théoriques au stade de la coordination internationale.
Même s'il reste à voir comment le futur mécanisme fonctionnera, alors que la concurrence mondiale en matière d'IA continue de s'accélérer, la Chine et les États-Unis ont envoyé un signal clair : même si la concurrence se poursuit, il est nécessaire de maintenir les canaux de dialogue autour des risques de la superintelligence.
Commentaires