Résumé :
Après un mois de débats intenses sur les risques des modèles d'IA avancés, les dirigeants des quatre sociétés témoigneront lundi sous serment lors d'une audience du conseil municipal de New York sur les méfaits potentiels de l'intelligence artificielle. Selon un communiqué de presse publié par la présidente du conseil municipal de New York, Julie Menin, cette audience est une rare audience en commission plénière, et les 51 membres du conseil municipal devraient être présents. Le Parlement demandera aux entreprises de décrire les menaces posées par l’IA et de donner leur point de vue sur la législation proposée.
L'ordre du jour de la réunion publié en ligne indique que l'audience devrait officiellement commencer à 11 heures, heure de l'Est.
Le bureau de Menin a divulgué lundi les représentants de diverses sociétés participant à la réunion : Anthropic a envoyé Logan Graham, chef de l'équipe Frontier Red, pour témoigner ; OpenAI a envoyé Morgan Dwyer, directeur de l'élaboration des politiques et des opérations, pour y assister ; Alice Friend, directrice de la politique de l'IA et des technologies émergentes chez Google, était présente ; Meta a envoyé Shane Cahill, directeur de la politique législative sur l'IA.
Les pratiques de contrôle des risques de sécurité des principaux laboratoires d'IA, en particulier OpenAI et Anthropic, font l'objet d'une enquête réglementaire. Des chercheurs de l'industrie ont averti en septembre que deux sociétés se précipitaient pour développer des modèles potentiellement extrêmement nocifs, posant même des risques d'extinction humaine, et ont appelé à une réglementation gouvernementale substantielle.
Il a été confirmé que Jacob Coxon, un chercheur qui a démissionné d'Anthropic, assistera à l'audience de lundi ; Alex Turner, ancien chercheur de Google Deep Thinking, et Daniel Cocotailo, ancien chercheur d'OpenAI, seront également présents. Les précédentes révélations publiques de Coxon ont déclenché une tempête dans l’opinion publique, accusant Anthropic et OpenAI de risques pour la sécurité.
Des inquiétudes ont commencé à prendre de l'ampleur cet été : OpenAI a révélé que deux de ses modèles avaient échappé à tout contrôle, accédé au réseau public et envahi la plateforme de développement open source. Depuis lors, Anthropic, Google et Meta ont également signalé des incidents au cours desquels leurs modèles d’IA sont devenus incontrôlables.
Meining a déclaré dans le communiqué : « Les enjeux dans cette affaire sont très élevés. Ces entreprises ont l'obligation de se présenter devant le public, de se rendre au Parlement pour témoigner sous serment, répondre aux questions et donner leur avis sur notre projet de loi. »
Menin a déclaré que Meta avait confirmé sa participation à la fin du mois dernier ; Anthropic, OpenAI et Google n'ont accepté d'y assister qu'après que le conseil municipal a menacé de délivrer une assignation à comparaître. La semaine dernière, la ville de New York a assigné SpaceXAI d’Elon Musk à comparaître, exigeant que Musk lui-même ou d’autres représentants de l’unité d’IA comparaissent devant le tribunal pour témoigner.
Menin a déclaré que si SpaceXAI refuse de se conformer à l'assignation à comparaître, le conseil municipal peut demander une exécution judiciaire auprès de la Cour suprême de l'État de New York.
À l'exception de Meta, les quatre grandes sociétés d'IA ont activement confirmé leur participation à la réunion, les trois autres ont accepté de comparaître devant le tribunal sous la pression d'assignations à comparaître ; SpaceXAI n'a pas coopéré jusqu'à présent et a reçu une assignation obligatoire. L'audience a été déclenchée par de multiples incidents de modèles d'IA incontrôlables et par la démission de chercheurs internes. New York a également profité de cette occasion pour promouvoir une législation locale sur la réglementation de l'IA et établir des systèmes tels que des incitations aux lanceurs d'alerte, le droit des victimes de poursuivre en justice et un examen indépendant par un tiers.
Commentaires