Le premier groupe d'experts scientifiques indépendants sur l'intelligence artificielle établi par les Nations Unies a publié un rapport d'évaluation préliminaire indiquant que le développement rapide de l'intelligence artificielle (IA) a apporté d'énormes avantages potentiels aux pays et aux populations du monde entier, mais qu'il comporte également des risques majeurs. Ce rapport sera soumis aux gouvernements lors du premier Dialogue mondial des Nations Unies sur la gouvernance de l'intelligence artificielle à Genève les 6 et 7 juillet. Il s'agit de la première évaluation scientifique indépendante de l'intelligence artificielle à l'échelle mondiale. Une version complète et complète devrait être publiée l'année prochaine.
Le rapport a été co-écrit par 40 scientifiques et experts de premier plan de toutes les régions du monde, qui ont participé à titre individuel pour un mandat de trois ans et n'étaient directement liés par aucun gouvernement, agence ou entreprise, et visaient à fournir des preuves scientifiques indépendantes aux décideurs. Le rapport souligne que dans le contexte de l’évolution rapide des capacités de l’intelligence artificielle, les décideurs politiques ont besoin de toute urgence d’une base scientifique fiable pour formuler des cadres réglementaires. Cependant, la compréhension actuelle de certains systèmes hautement autonomes par la communauté scientifique est encore à la traîne, et la capacité d'adaptation de la société et du gouvernement est manifestement insuffisante. Les outils efficaces pour freiner ce type d’intelligence artificielle hautement autonome sont encore limités.
Le coprésident du groupe d'experts, Yoshua Bengio, a souligné dans le rapport que les preuves scientifiques de « comportements trompeurs » dans le domaine de l'intelligence artificielle se multiplient. Il a souligné qu’à mesure que les capacités du système s’améliorent, la recherche scientifique ne peut garantir que l’intelligence artificielle n’entraînera pas de dommages catastrophiques : ces dommages peuvent provenir du comportement du système lui-même ou d’utilisateurs ayant des motivations malveillantes. Le rapport conclut que « les avantages potentiels de l'intelligence artificielle sont énormes », mais prévient que les effets négatifs de la technologie ne peuvent être ignorés en l'absence de contraintes adéquates et d'une planification minutieuse lors d'un déploiement rapide à grande échelle.
Le rapport souligne que la promotion rapide de l'intelligence artificielle modifie profondément les systèmes sociaux, économiques et environnementaux, et pose également des défis pour la santé mentale des utilisateurs. Du côté positif, les applications de l’intelligence artificielle ont démontré leur capacité à améliorer l’efficacité et à créer une nouvelle valeur dans de nombreux domaines tels que l’éducation, les soins médicaux, la recherche scientifique et la production industrielle. Mais du côté négatif, le rapport prévient que l’IA pourrait être utilisée comme un outil destructeur ou pour saper la confiance du public, la cohésion sociale et la délibération démocratique (discussion délibérative) en manipulant l’information et les émotions.
Selon cette évaluation préliminaire, plus d’un milliard de personnes dans le monde utilisent l’IA conversationnelle chaque semaine, mais le niveau d’application est très inégal selon les pays et les secteurs, les pays en développement étant généralement à la traîne en termes d’accès et d’utilisation. En termes de concentration de la puissance de calcul, les données citées dans le rapport indiquent que parmi les 500 meilleurs supercalculateurs d'intelligence artificielle au monde, les États-Unis représentent environ 75 % de la puissance de calcul et la Chine environ 15 %, soulignant que l'infrastructure actuelle de l'intelligence artificielle est fortement concentrée dans quelques économies.
Le rapport a également attiré l'attention sur le grave déséquilibre au niveau linguistique. Il existe plus de 7 000 langues dans le monde, mais les modèles actuels d’intelligence artificielle n’en couvrent qu’un très petit nombre dans la formation. Pour de nombreuses langues, les problèmes de qualité de la traduction automatique sont importants, et les erreurs affectent non seulement la communication quotidienne, mais peuvent également avoir de graves conséquences dans des scénarios hautement sensibles à la sécurité personnelle, tels que le diagnostic médical et la prise de décision en matière de traitement.
Le groupe d'experts a souligné que les risques liés à la prolifération de l'intelligence artificielle commencent à apparaître dans de nombreux domaines. Il s’agit notamment des impacts négatifs potentiels sur les droits de l’homme, les systèmes sociaux et l’environnement naturel, tels que la fréquence croissante de matériels d’abus sexuels sur des enfants générés par l’intelligence artificielle et les contenus de violence sexuelle mis en œuvre à l’aide de la technologie deepfake sur Internet. Le rapport estime que des phénomènes connexes ont mis en évidence des lacunes évidentes en matière de contrôle des contenus, de justice pénale et de coopération transnationale, et qu'il est urgent de renforcer simultanément les réponses aux niveaux technique et institutionnel.
En ce qui concerne l'environnement de l'information, le rapport prévient que l'intelligence artificielle a considérablement abaissé le seuil de production à grande échelle et de diffusion ciblée et précise de « contenus persuasifs ». Cette tendance pourrait conduire à une érosion progressive de l’intégrité de l’information, érodant ainsi la confiance du public dans les médias et les institutions, sapant la cohésion sociale et interférant avec les mécanismes délibératifs des processus démocratiques qui s’appuient sur des faits et un débat raisonné. Les experts estiment que face à de tels changements, les cadres traditionnels de sécurité de l'information et de réglementation des médias sont devenus insuffisants et qu'il est nécessaire d'actualiser les idées de gouvernance et de renforcer la coordination internationale.
Le rapport souligne également que la plupart des pays – y compris certaines économies avancées – n'ont pas la capacité de mener des évaluations techniques des modèles d'intelligence artificielle les plus récents et les plus puissants, et qu'il est difficile d'avoir une participation technique substantielle pour influencer la gouvernance mondiale de ces systèmes. Ce déficit de capacités et de ressources techniques a encore exacerbé les inégalités internationales dans la formulation de normes de sécurité en matière d’intelligence artificielle ainsi que dans la prévention et le contrôle des risques. Le groupe d'experts a appelé à aider un plus grand nombre de pays à améliorer leurs capacités d'évaluation et de réglementation par le biais de mécanismes de coopération multilatérale et de projets de renforcement des capacités, formant ainsi une voix plus représentative dans la gouvernance mondiale.
Ce rapport préliminaire servira de document de référence de base lors du Dialogue mondial sur la gouvernance de l'intelligence artificielle des Nations Unies pour les gouvernements et les organisations internationales compétentes afin de discuter des futurs cadres réglementaires et des voies de coopération. Le groupe d'experts a déclaré qu'il prévoyait de continuer à collecter et à évaluer les derniers résultats de la recherche scientifique et les cas d'application pratique au cours de l'année prochaine afin de fournir une base de preuves plus détaillée et systématique pour le rapport complet proposé afin d'aider toutes les parties à rechercher un équilibre plus stable entre la prévention et le contrôle des risques et l'innovation technologique.