Dix lauréats du prix Nobel et deux anciens chefs d'État ont récemment appelé conjointement tous les pays à fixer des « lignes rouges » pour le développement de l'intelligence artificielle (IA) d'ici fin 2026 afin de promouvoir la gestion et le contrôle des risques au niveau international. La déclaration a été publiée conjointement par plus de 200 signataires, dont des cadres supérieurs d'OpenAI, Google DeepMind et Anthropic.

La déclaration souligne que des problèmes tels que les pandémies d’ingénierie et les risques de chômage pouvant être causés par l’IA ont attiré une large attention mondiale, et de nombreux experts ont averti qu’il pourrait être difficile de mettre en œuvre un contrôle humain efficace des systèmes d’IA dans les prochaines années.

Cet appel coïncide avec la convocation de l’Assemblée générale des Nations Unies et revêt une grande importance dans la promotion d’un consensus mondial. Cependant, en raison de l’opposition des États-Unis, il sera vraisemblablement difficile de promouvoir des mesures spécifiques de gouvernance à court terme. Parmi les signataires figurent Hinton, Bengio, « l'économiste » Stiglitz, un spécialiste bien connu dans le domaine de l'IA, l'ancien président colombien Santos, l'ancienne présidente irlandaise Mary Robinson, l'ancienne Première ministre italienne Letta, ainsi que de nombreux anciens ministres, scientifiques et diplomates. Il convient de mentionner que l'acteur Stephen Fry figure également sur la liste. Le cofondateur d'OpenAI, Wojciech Zaremba, le scientifique en chef de DeepMind, Ian Goodfellow, et d'autres dirigeants d'entreprises technologiques ont également participé à la signature, mais aucun PDG des trois sociétés n'a été vu se joindre à eux.

Le communiqué souligne que certains systèmes d'IA avancés ont démontré des comportements trompeurs et nuisibles, mais que ces systèmes gagnent en autonomie et sont capables d'agir et de prendre des décisions dans le monde réel. Par conséquent, l’établissement d’accords internationaux clairement définis et vérifiables sur des « lignes rouges » est devenu une mesure nécessaire pour prévenir les risques inacceptables. Les signataires espèrent que ces lignes rouges seront mises en œuvre d’ici fin 2026 et seront accompagnées d’un mécanisme d’application.

Bien que la déclaration n'énumère pas spécifiquement les lignes rouges pour la gouvernance de l'IA, un autre document de l'année dernière recommandait d'interdire à l'IA de se répliquer de manière autonome, de rechercher le pouvoir, de lancer automatiquement des cyberattaques et de « commettre des sacs de sable ». La proposition est également soutenue par de nombreux scientifiques chinois, tels que Zhang Yaqin, ancien président de Baidu, et Huang Tiejun, président de la Société d'intelligence artificielle de Pékin.

En outre, les Nations Unies ont récemment annoncé qu’elles créeraient un Comité consultatif scientifique international sur l’IA (similaire au Groupe d’experts intergouvernemental sur l’évolution du climat, GIEC) ainsi qu’un mécanisme de dialogue sur la gouvernance mondiale de l’IA, franchissant ainsi une étape importante vers une gouvernance mondiale de l’IA. Cependant, en raison de l’attitude négative du gouvernement américain, la progression des actions pertinentes se heurte encore à des résistances. Selon le « Plan d'action américain pour l'IA » publié par l'administration Trump en juillet de cette année, bien que les États-Unis expriment leur soutien à la coopération avec des pays partageant les mêmes idées pour développer l'IA, ils s'opposent clairement à la « surréglementation », aux règles de comportement vagues basées sur des agendas culturels et aux plans de gouvernance auxquels participent les entreprises chinoises. Plus tôt ce mois-ci, le sénateur américain Ted Cruz a déclaré que l’un des « piliers » sur lesquels le Congrès doit promulguer une réglementation sur l’IA était de « lutter contre les réglementations étrangères excessives ».

Néanmoins, la déclaration montre que l’inquiétude mondiale concernant le potentiel et les risques de l’IA continue de croître. Korosi, ancien président de l'Assemblée générale des Nations Unies, a souligné dans ses commentaires : « L'humanité n'a jamais rencontré une intelligence plus élevée qu'elle dans l'histoire, et dans les prochaines années, l'humanité sera confrontée à un tel défi. »