Résumé :
Des experts dans les domaines de la sécurité nationale, de la politique scientifique et technologique et de l'intelligence artificielle des États-Unis et de la Chine ont récemment proposé conjointement une proposition intéressante, préconisant de s'appuyer sur l'expérience de gestion de la sécurité nucléaire de la guerre froide pour établir un mécanisme de sécurité similaire à celui dans le domaine des armes nucléaires pour les systèmes avancés d'intelligence artificielle qui pourraient apparaître à l'avenir, afin de réduire les risques causés par la perte de contrôle technologique, les erreurs de jugement et l'escalade de la concurrence internationale.
Cette suggestion apparaît dans un résultat de recherche formé après des discussions entre des experts des deux pays. Le rapport estime qu'à mesure que les capacités d'intelligence artificielle continuent de s'améliorer rapidement, les pays ont commencé à être confrontés à des problèmes similaires à ceux du début de l'ère nucléaire, c'est-à-dire qu'une technologie avec un impact potentiel énorme se développe rapidement, mais les règles internationales, les canaux de communication et les systèmes de contrôle des risques correspondants ne sont pas encore pleinement établis.
Les experts participant à l'étude ont souligné qu'à l'avenir, des systèmes d'intelligence artificielle plus puissants pourraient jouer un rôle de plus en plus important dans des domaines tels que la sécurité des réseaux, le commandement militaire, l'analyse du renseignement, la recherche en biotechnologie et la gestion des infrastructures critiques. Une fois que ces systèmes se comportent de manière inattendue, sont exploités de manière malveillante ou sont déployés de manière incorrecte, leur impact peut dépasser les frontières nationales et avoir un impact sur l’environnement de sécurité mondial.
À cette fin, le rapport recommande à la Chine et aux États-Unis de se référer à leur expérience historique en matière de gestion des risques nucléaires et d'établir progressivement un mécanisme de sécurité à plusieurs niveaux. Il s’agit notamment du renforcement de l’échange d’informations, de l’établissement de canaux de communication de crise, de la collaboration sur les évaluations des risques technologiques et de l’exploration de régimes de test de transparence et de sécurité pour les systèmes d’intelligence artificielle de pointe.
Les experts estiment que même si l'intelligence artificielle et les armes nucléaires ne sont pas identiques, elles ont toutes deux une grande importance stratégique et impliquent des problèmes de concurrence internationale et de sécurité mondiale. Par conséquent, il est souvent plus efficace d’établir un cadre de protection à l’avance lorsque la technologie est en phase de développement rapide que d’attendre que les risques soient pleinement exposés avant d’agir.
Le rapport souligne également particulièrement que le plus grand danger à l'avenir ne viendra peut-être pas de l'intelligence artificielle elle-même, mais plutôt d'erreurs d'appréciation causées par la méfiance entre les pays. Par exemple, lorsqu’une partie ne peut pas déterminer avec précision quelles capacités l’autre partie développe et à quel niveau, elle est plus susceptible de réagir de manière excessive, de mal comprendre, voire d’intensifier la concurrence.
Certains experts ont donc proposé d'explorer des canaux de communication similaires au « mécanisme de hotline » pendant la guerre froide pour permettre aux pays de maintenir un contact immédiat lorsque des événements majeurs impliquant l'intelligence artificielle se produisent et d'éviter des crises de sécurité inutiles causées par l'asymétrie de l'information.
Dans le même temps, les chercheurs estiment qu'un mécanisme d'examen de la sécurité plus strict devrait être établi pour la formation et le déploiement des modèles d'intelligence artificielle les plus avancés. À l'avenir, certains systèmes dotés de capacités extrêmement élevées devront peut-être être soumis à des tests indépendants et à une surveillance continue, ainsi qu'à la mise en place d'un système de signalement des comportements anormaux afin de détecter les risques potentiels le plus tôt possible.
Le rapport souligne que le système mondial actuel de gouvernance de l'intelligence artificielle en est encore à ses débuts. Bien que les pays aient introduit des politiques réglementaires et des normes industrielles différentes, il existe encore des lacunes évidentes au niveau de la collaboration transfrontalière. Le rythme de développement de la technologie de l’intelligence artificielle s’accélère, ce qui signifie que la fenêtre de coopération internationale pourrait ne pas exister avant longtemps.
Les experts participant à la discussion estiment généralement que la Chine et les États-Unis, en tant que deux acteurs les plus importants dans le domaine mondial de l'intelligence artificielle, ont des responsabilités particulières en matière de gouvernance des risques. Si les deux parties parviennent à parvenir à un plus grand consensus sur les normes de sécurité, l'évaluation des risques et la communication de crise, cela contribuera à réduire la possibilité d'incidents techniques de sécurité majeurs à l'avenir.
Cependant, les experts admettent également que promouvoir une telle coopération n'est pas facile dans l'environnement international actuel. La concurrence technologique, les considérations de sécurité nationale et les intérêts industriels influenceront tous le processus de discussion concerné. Ils préfèrent donc commencer par des domaines relativement pragmatiques tels que la gestion des risques et la protection de la sécurité, plutôt que de rechercher dès le départ des accords réglementaires complets.
Les analystes ont souligné que ce rapport reflète l'évolution du débat sur la gouvernance de l'intelligence artificielle. Dans le passé, toutes les parties se concentraient davantage sur les impacts sur la vie privée, le droit d’auteur et l’emploi, mais aujourd’hui, de plus en plus d’experts commencent à tourner leur attention vers les questions de sécurité à long terme et de stabilité stratégique mondiale.
À mesure que les capacités de l'intelligence artificielle continuent de s'améliorer, la manière d'établir un mécanisme de sécurité efficace tout en maintenant la vitalité de l'innovation devient un nouveau sujet auquel sont confrontés la communauté scientifique et technologique mondiale et les cercles politiques. S’appuyer sur l’expérience en matière de gestion des risques accumulée à l’ère nucléaire pourrait devenir une orientation de référence importante pour le futur cadre de gouvernance de l’intelligence artificielle.
Commentaires