Résumé :
Des poids lourds de l'industrie de l'intelligence artificielle (IA) se sont réunis en Écosse, où le roi les a exhortés à veiller à ne pas perdre le contrôle de la technologie. Le roi Charles III a convoqué un sommet avec des dirigeants de l’industrie technologique et d’autres personnalités influentes pour se concentrer sur les risques croissants de l’IA. Le sujet est devenu une préoccupation mondiale cette semaine. Les dirigeants présents à la réunion ne se sont publiquement engagés à aucun changement, mais certains ont répondu directement aux préoccupations en matière de sécurité.
"Ceux d'entre nous qui développent l'IA doivent tester rigoureusement les systèmes", a déclaré brièvement le PDG de Nvidia, Jensen Huang, lors de l'événement royal de jeudi. "Si le produit n'est pas suffisamment sûr, nous devrions attendre avant de le commercialiser."
Au sommet écossais avec Jen-Hsun Huang étaient également présents Sarah Friar, directrice financière d'OpenAI, et Demis Hassabis, co-fondateur de Google DeepMind. Tino Cuéllar, directeur des affaires publiques chez Anthropic PBC, a également participé au forum sur l'IA organisé à Dumfries Estate. Parmi les autres participants figuraient des dirigeants d’entreprises technologiques, d’organisations à but non lucratif et d’établissements d’enseignement, dont l’Université Tsinghua.
«Ceux d'entre nous dans ce monde qui valorisent l'humanité et ses valeurs morales vitales recherchent anxieusement vos assurances – l'assurance que nous ne perdrons pas le contrôle de notre propre destin», a déclaré Charles III dans son discours d'ouverture. Le palais de Buckingham a déclaré dans un communiqué que l'événement visait à discuter de la manière dont la technologie pourrait être utilisée au profit de la société et du monde naturel.
Britannique Le roi Charles III (à gauche), Google DeepMind (au centre) et le PDG de Nvidia, Jensen Huang, au domaine Dumfries à Cumnock, en Écosse, le 17 septembre.
Ce sommet arrive au bon moment. Le PDG d'Anthropic, Dario Amodei, a publié le week-end dernier un article appelant à ralentir le développement de modèles de pointe, ce qui a déclenché un débat mondial sur les risques croissants de l'IA.
« Il y a eu récemment de nombreux débats houleux autour des risques catastrophiques de cette technologie », a déclaré Hassabis lors du sommet. Le scientifique britannique a récemment démissionné de ses fonctions de direction de l'activité IA de Google. Il a déclaré qu'il avait deux principales préoccupations concernant la puissance de l'IA : l'une est que le système autonome est hors de contrôle, et l'autre est que des « acteurs malveillants » utilisent l'IA pour faire le mal. Il estime toutefois que l’industrie peut résoudre ces problèmes. "J'ai pleinement confiance dans l'ingéniosité humaine", a-t-il déclaré.
Charles III a soulevé deux questions clés lors du sommet : « Premièrement, comment pouvons-nous tirer pleinement parti des avantages de l'IA tout en garantissant la sécurité ? Deuxièmement, comment pouvons-nous construire une coopération et un consensus internationaux pour atteindre cet objectif, en veillant à ce qu'aucun pays ne soit laissé pour compte et en protégeant l'avenir de l'humanité ?
Selon le programme distribué lors de l'événement, pendant le sommet, Charles III a également eu des entretiens à huis clos avec Huang Jen-Hsun, Hassabis, Cuéllar, Friar et cinq autres invités.
Commentaires