Résumé :
La société d'intelligence artificielle Anthropic a récemment soumis en privé un projet de loi sur la sécurité de l'intelligence artificielle aux législateurs américains dans le but d'établir un cadre réglementaire au niveau fédéral pour les modèles d'IA avancés. Selon la proposition, s’il est déterminé qu’un modèle d’IA présente un risque catastrophique prévisible et imminent, susceptible de causer plus de 50 morts ou blessures graves, ou de causer plus d’un milliard de dollars de dommages matériels, sa diffusion et son utilisation pourraient être bloquées.
Selon les informations divulguées, le projet de loi ne cible pas toutes les applications de l'intelligence artificielle, mais se concentre sur les « modèles de pointe » les plus avancés. La proposition fixe un seuil d'intervention clair et ce n'est que dans des situations à risque extrême que les régulateurs peuvent engager des procédures judiciaires pour restreindre le déploiement du modèle.
Les risques répertoriés dans le projet se concentrent principalement sur trois domaines : l'aide à la création ou à la diffusion d'armes biologiques, les modèles échappant au contrôle des développeurs et les cyberattaques à grande échelle auxquelles participent ou sont encouragées les modèles. Ce n’est que lorsque des risques découlent de ces scénarios spécifiques que les mécanismes de régulation seront déclenchés.
Il convient de noter que les normes de risque proposées par Anthropic sont similaires au projet de loi 53 du Sénat précédemment adopté par la Californie, aux États-Unis. Ce dernier définit également les situations susceptibles de provoquer un grand nombre de victimes ou d’énormes pertes économiques comme des « risques catastrophiques ».
En ce qui concerne le mécanisme de mise en œuvre spécifique, le projet de loi propose d'établir un système d'évaluation indépendant enregistré et géré par le ministère américain du Commerce. Ces agences d'évaluation ou experts sont chargés de mener des évaluations de sécurité des modèles d'IA de pointe et de leurs sociétés de développement, et de déterminer si les modèles pertinents présentent des risques importants.
Selon le projet d'accord, même si l'agence d'évaluation est payée par la société d'IA, ce partenariat est toujours autorisé tant que le paiement n'est pas directement lié aux résultats de l'évaluation. Cependant, cet arrangement a également suscité des doutes parmi certains acteurs du secteur, qui estiment que l'indépendance et l'objectivité de l'agence d'évaluation pourraient être confrontées à des défis.
Si les évaluateurs déterminent qu'un modèle présente un risque catastrophique imminent, ils doivent le signaler au ministère américain du Commerce dans les 72 heures suivant la fin de l'évaluation. Le ministère du Commerce pourrait alors demander à un tribunal fédéral de Washington, D.C., de demander à un juge d'accorder un moratoire sur la sortie ou le déploiement du modèle.
Contrairement à certains projets de réglementation, la proposition d'Anthropic souligne spécifiquement que les agences administratives n'ont pas le pouvoir d'arrêter unilatéralement les modèles. Selon le projet de loi, seul un juge fédéral pourrait finalement prononcer un moratoire. En d’autres termes, aucun ministère ne peut directement interdire à un modèle d’IA d’être mis en ligne ou de l’utiliser, en contournant les procédures judiciaires.
Anthropic n'a pas publiquement détaillé la version finale du projet de loi, mais un porte-parole de l'entreprise a confirmé que le projet existait et a déclaré que ses idées principales découlaient du « cadre avancé d'intelligence artificielle » proposé plus tôt cette année. Le cadre préconise des tests plus rigoureux, une plus grande transparence et l’introduction de mécanismes d’évaluation tiers indépendants pour les systèmes d’IA les plus puissants.
À mesure que les capacités de l'intelligence artificielle continuent de s'améliorer, le débat autour des questions de sécurité de l'IA au sein de l'industrie technologique américaine et des agences de réglementation s'intensifie également. Les partisans estiment que le plan proposé par Anthropic fournit des procédures claires et une base juridique pour l’intervention gouvernementale dans l’IA à haut risque ; tandis que les critiques estiment que le seuil d’intervention excessif et le recours aux mécanismes d’auto-évaluation de l’industrie pourraient rendre difficile la réponse complète aux risques plus complexes liés à l’intelligence artificielle à l’avenir.
Actuellement, cette proposition est encore en phase de discussion, n'a pas encore été officiellement soumise au Congrès américain pour examen et n'a pas d'effet juridique. Cependant, étant donné qu’il s’agit de l’un des premiers plans réglementaires fédéraux proposés de manière proactive par de grandes entreprises d’IA, son contenu devrait avoir un impact important sur les futures discussions sur la législation sur l’intelligence artificielle aux États-Unis.
Commentaires