Résumé :
Avec le bond exponentiel des capacités des systèmes d'intelligence artificielle de pointe et les progrès accélérés de la technologie de l'intelligence artificielle générale (AGI), l'équipe de recherche de Google et son institut de recherche et de développement en intelligence artificielle, Google DeepMind, ont récemment officiellement annoncé la création du « DeepMind Institute ». L'organisation vise à construire une plate-forme de dialogue mondiale qui rassemble des forces interdisciplinaires et diverses perspectives pour élargir la dimension des débats publics sur les limites de sécurité de l'AGI, les mécanismes de gouvernance sociale et la distribution inclusive des dividendes.
Dans le contexte de l'évolution rapide de l'IA générative et des agents autonomes (agents IA), les discussions sur le moment où l'AGI sera réalisée et sur la manière de contrôler les risques ont évolué des déductions académiques vers des questions centrales de la politique scientifique et technologique mondiale. Cependant, pendant longtemps, les grandes discussions autour de l’intelligence artificielle générale ont souvent été monopolisées par une poignée d’ingénieurs, d’investisseurs et de décideurs à huis clos dans les principaux laboratoires de la Silicon Valley. La participation extérieure à l’impact social à long terme de l’évolution technologique, des changements dans les structures du travail et de l’équilibre des intérêts interrégionaux est encore limitée. La création du DeepMind Research Institute vise précisément à briser ce contexte fermé d’élite technique et à introduire des voix mondiales plus diverses.
Il semblerait que l'institut nouvellement créé soit dirigé conjointement par un certain nombre de hauts dirigeants et d'éminents universitaires, dont le co-fondateur de DeepMind et scientifique en chef de l'AGI, Shane Legg. En tant que l’un des pionniers technologiques clés qui ont défini le concept d’AGI, Legg préconise depuis longtemps la mise en place d’évaluations de sécurité et de cadres éthiques prospectifs tout en promouvant des percées en matière de puissance de calcul et d’algorithmes. Le nouvel institut s'appuiera sur une recherche interdisciplinaire, absorbant non seulement les connaissances d'informaticiens et d'experts en cognition, mais reliant également largement des économistes, des spécialistes des sciences sociales, des experts juridiques, des décideurs politiques et des représentants d'organisations de la société civile pour étudier et juger conjointement l'impact systémique que la superintelligence peut avoir.
En ce qui concerne le programme de recherche et d'action spécifique, le DeepMind Research Institute prévoit de se concentrer sur trois domaines principaux : premièrement, la théorie de la vérification et du contrôle de sécurité AGI du point de vue technique, explorant les mécanismes permettant de faire face à des scénarios de sécurité extrêmes tels que le déraillement d'un agent autonome et l'échec de l'alignement ; deuxièmement, une gouvernance inclusive et équitable des technologies de pointe, en étudiant comment assurer l'avenir de l'AGI. L'énorme productivité et la valeur économique créée peuvent être largement partagées par toute l'humanité, plutôt que d'exacerber les écarts géographiques et de classe ; troisièmement, promouvoir le dialogue réglementaire mondial et aider les agences de décision publique de divers pays à construire une base de gouvernance qui prend en compte l’innovation technologique et la prévention des risques.
Les analystes du secteur ont souligné qu'à une époque où les plus grands géants de l'IA accélèrent généralement la commercialisation de grands modèles de pointe et la course aux armements en matière de puissance de calcul, Google DeepMind a choisi de prendre les devants en créant une plateforme de discussion universitaire et politique indépendante, démontrant un réexamen de la responsabilité sociale à long terme de l'IA de pointe. En faisant passer le débat sur l’AGI d’un simple engouement technologique à un dialogue inclusif, rationnel et multidimensionnel à travers la société, l’agence devrait fournir d’importants modèles idéologiques et un soutien de groupe de réflexion pour la mise en œuvre de la conformité et la gouvernance mondiale des futures technologies super-intelligentes.
Commentaires