Résumé :
OpenAI a récemment appelé publiquement le gouvernement britannique à formuler un cadre réglementaire juridiquement contraignant en matière d'intelligence artificielle et à exiger la mise en œuvre de règles de sécurité obligatoires pour les modèles d'intelligence artificielle de pointe les plus avancés. Cette déclaration marque un nouveau changement dans l'attitude des principales sociétés mondiales d'IA à l'égard de la supervision et a également réchauffé le débat sur la gouvernance de l'intelligence artificielle au Royaume-Uni.
Tom Duff Gordon, responsable de la politique pour l'Europe, le Moyen-Orient et l'Afrique chez OpenAI, a déclaré dans une interview que le gouvernement britannique devrait prendre des mesures immédiates pour établir un système de réglementation de la sécurité de l'intelligence artificielle plus solide. Il estime qu'il existe actuellement une rare « période de fenêtre politique » et que le Royaume-Uni devrait saisir cette opportunité pour établir par voie législative des exigences de sécurité à long terme, stables et juridiquement contraignantes pour les systèmes d'intelligence artificielle les plus avancés.
Selon le concept proposé par OpenAI, le nouveau système de régulation devrait être basé sur les engagements volontaires des entreprises existantes, mais il ne reposera plus entièrement sur l'autodiscipline des entreprises, mais passera à un cadre juridique exécutoire. L'entreprise a exprimé sa volonté d'accepter de telles contraintes réglementaires et a estimé que les entreprises développant les modèles d'intelligence artificielle les plus puissants devraient être incluses dans un cadre réglementaire plus strict à l'avenir.
Cette position intervient alors que les appels à une réglementation plus stricte de l'intelligence artificielle se multiplient rapidement au Royaume-Uni. Au cours des derniers mois, un certain nombre de grandes sociétés d’intelligence artificielle ont successivement divulgué des incidents à risque liés à la sécurité des modèles, déclenchant des inquiétudes sociales et politiques. Dans le même temps, un chercheur qui a travaillé auparavant chez Anthropic et OpenAI a récemment critiqué publiquement l'orientation de l'industrie après avoir quitté son emploi, affirmant que certaines entreprises « parient sur la vie de chacun », intensifiant ainsi l'attention du monde extérieur sur les risques de l'IA de pointe.
En fait, dans sa plateforme électorale de 2024, le parti travailliste britannique a promis d'établir un système de réglementation contraignant pour un petit nombre d'entreprises qui développent les modèles d'intelligence artificielle les plus puissants. Cependant, après son entrée en fonction, le gouvernement a progressivement abandonné la ligne d'une législation unifiée à grande échelle et a plutôt adopté un modèle de gestion décentralisée par les régulateurs de l'industrie et de tests de sécurité volontaires par les entreprises. À l'heure actuelle, l'Institut britannique de recherche sur la sécurité de l'intelligence artificielle effectue principalement des tests de modèles en coopération avec des entreprises technologiques et ne dispose pas de pouvoirs formels d'application de la loi.
OpenAI estime que s'appuyer uniquement sur les modèles existants ne suffit plus pour faire face aux risques futurs. Duff Gordon a déclaré que si le Royaume-Uni établissait un nouveau cadre juridique, il l'alignerait sur celui de l'UE et sur certains systèmes réglementaires émergents aux États-Unis dans le domaine de la gouvernance de l'intelligence artificielle. Il a souligné que les États-Unis promeuvent également un plan obligatoire de supervision de la sécurité de l'intelligence artificielle basé sur les niveaux de capacité des modèles, et qu'OpenAI soutient également ce projet.
Cependant, OpenAI a également souligné que la nouvelle loi ne devrait pas couvrir l'ensemble du secteur de l'IA, mais devrait se concentrer sur un petit nombre de laboratoires et de modèles qui sont véritablement à la pointe de la technologie. L’entreprise estime que la réglementation devrait se concentrer sur la sécurité nationale, la cybersécurité et les systèmes avancés d’intelligence artificielle qui peuvent entraîner des risques systémiques, plutôt que d’imposer le même niveau de restrictions aux start-ups ou aux applications générales d’IA.
Selon les recommandations d’OpenAI, le futur cadre juridique devrait contenir plusieurs éléments fondamentaux. Celles-ci comprennent des tests de sécurité obligatoires des modèles par des agences tierces indépendantes, un examen rigoureux des capacités de cybersécurité et la mise en place d'un système de surveillance et de reporting des incidents de sécurité. Lorsqu'un comportement anormal majeur ou un événement à risque se produit dans le modèle, la société de développement doit en faire rapport à l'agence de réglementation conformément à la réglementation.
OpenAI recommande également que l'Institut britannique de sécurité de l'intelligence artificielle joue un rôle central dans le futur système de réglementation. L'entreprise estime que l'organisation a accumulé une riche expérience technique et des capacités professionnelles et qu'elle est capable d'assumer des responsabilités clés telles que l'évaluation de modèles, l'établissement de normes et la supervision continue.
En outre, OpenAI souligne que la conception des règles futures doit être flexible et adaptable. Étant donné que la technologie de l’IA se développe à un rythme extrêmement rapide, le cadre réglementaire ne devrait pas adopter un modèle rigide mais devrait pouvoir être ajusté en temps opportun en fonction des progrès technologiques. Dans le même temps, le Royaume-Uni devrait s’efforcer de promouvoir la compatibilité des normes internationales et jeter les bases de la formation d’un consensus mondial sur la gouvernance de l’intelligence artificielle à l’avenir.
Les analystes ont souligné que cette déclaration montre que l'industrie de l'intelligence artificielle passe progressivement d'une « opposition à la réglementation » à une « participation à la formulation de la réglementation ». Alors que les capacités des modèles continuent de s’améliorer et que les conflits en matière de sécurité continuent de se multiplier, de plus en plus de grandes entreprises commencent à accepter la nécessité de faire preuve de retenue juridique. Cependant, trouver un équilibre entre la promotion de l’innovation et le contrôle des risques restera à l’avenir un défi majeur pour les régulateurs britanniques et mondiaux.
Commentaires