Résumé :
Anthropic, une société américaine d'intelligence artificielle, promeut un projet de loi sur la réglementation de la sécurité des systèmes avancés d'intelligence artificielle, dans l'espoir d'établir des règles juridiques claires pour le développement, les tests et le déploiement de modèles d'IA de pointe. Selon un rapport du site d’information politique américain Politico du 16 octobre 2026, Anthropic aurait présenté en privé ce projet de loi à certains législateurs du Capitole. Le plan tente d’établir une frontière entre la prévention des dommages graves que l’IA avancée peut causer et le fait d’éviter une intervention excessive du gouvernement dans la recherche et le développement technologiques.
Selon le rapport de Politico cité par Reuters, le projet de loi stipule que ce n'est que lorsqu'un modèle d'IA de pointe est considéré comme présentant des risques importants, prévisibles et imminents, que le gouvernement américain peut empêcher la publication ou l'utilisation de ce modèle par le biais d'une procédure judiciaire. Les risques pertinents doivent respecter certains seuils, notamment la possibilité de causer des pertes dépassant 1 milliard de dollars ou d'entraîner la mort ou des blessures graves de plus de 50 personnes.
Cela signifie que le projet de loi ne donne pas au gouvernement le pouvoir d'intervenir arbitrairement dans tous les systèmes d'IA avancés, mais tente de limiter la suspension de la publication ou de l'utilisation des modèles à quelques situations graves. Le projet se concentre sur trois types de risques : l’intelligence artificielle utilisée pour créer ou lancer des armes biologiques, les systèmes d’IA échappant au contrôle des développeurs et l’utilisation de l’IA pour mener des cyberattaques.
Il convient de noter qu'il s'agit encore d'un projet de loi présenté aux législateurs par Anthropic et qu'il ne s'agit pas d'une loi américaine déjà adoptée. Son contenu final, l'autorité des régulateurs et la question de savoir si le Congrès ira de l'avant avec une législation restent à discuter.
Le projet propose également la création d'un mécanisme d'évaluation indépendant. Selon les rapports, les développeurs d'IA de pointe et leurs modèles doivent subir régulièrement des évaluations indépendantes pour vérifier les capacités du modèle, les mesures de sécurité et les risques potentiels. Les évaluateurs doivent s'inscrire auprès du ministère du Commerce des États-Unis et entreprendre un travail continu d'examen de sécurité.
Selon le plan proposé, les entreprises d'IA peuvent payer des frais à des agences d'évaluation indépendantes, mais la rémunération ne doit pas être liée aux résultats de l'évaluation. Cette disposition vise à réduire la possibilité que les évaluateurs minimisent les risques afin de répondre aux besoins des sociétés de financement, tout en permettant aux sociétés de recourir à des agences professionnelles externes pour effectuer des examens techniques.
Si l'évaluateur détermine qu'un modèle d'IA de pointe présente un risque important imminent tel que défini dans la loi, il doit en informer le ministère du Commerce des États-Unis dans les 72 heures suivant la fin de l'évaluation. Ces délais visent à éviter que des risques graves ne subsistent pendant une longue période au sein de l'entreprise sans entrer à temps dans le processus réglementaire gouvernemental.
En termes de pouvoir d'intervention du gouvernement, le projet adopte des restrictions relativement strictes. Après avoir déterminé que le risque atteint les normes juridiques, le ministère américain du Commerce peut demander au tribunal une ordonnance suspendant la publication ou l'utilisation du modèle, mais les autres ministères fédéraux, agences gouvernementales et responsables ne sont pas autorisés à interrompre de leur propre chef le développement, le déploiement ou l'utilisation interne des modèles d'IA.
La décision finale quant à la suspension ou non du modèle sera prise par un juge du tribunal de district américain du district de Columbia. En d’autres termes, selon ce projet, les autorités de régulation ne peuvent pas interdire directement un modèle basé sur le seul jugement administratif, mais doivent chercher à intervenir par le biais de procédures judiciaires.
Cette conception institutionnelle tente de résoudre deux problèmes interdépendants. D’une part, le gouvernement doit être capable de faire face aux systèmes d’IA qui peuvent causer de nombreuses victimes ou des pertes économiques ; d’un autre côté, si le gouvernement peut arrêter le modèle à tout moment pour des raisons de sécurité générales ou vagues, il pourrait être difficile pour les entreprises de prédire les risques réglementaires auxquels sont confrontées la R&D et les lancements de produits.
L'inscription dans la loi des seuils d'intervention, des délais de déclaration et des procédures d'approbation judiciaire peut rendre l'autorité de régulation plus claire. Toutefois, la question de savoir si ce mécanisme est suffisant pour faire face à l’évolution rapide des risques liés à l’IA après l’exploitation réelle et si le seuil de pertes et de victimes élevées est trop strict restera des questions importantes dans les discussions législatives.
Le porte-parole d'Anthropic a déclaré à Reuters que ce projet de loi reflète certaines des propositions politiques du « Advanced AI Framework » précédemment proposé par l'entreprise. L’entreprise espère adopter une législation qui donnerait aux gouvernements la possibilité d’empêcher le déploiement des systèmes d’IA avancés les plus dangereux, tout en obligeant les développeurs à effectuer des tests de sécurité, à accroître la transparence et à accepter des évaluations indépendantes.
Anthropic a encouragé cette année la mise en place d'un mécanisme de supervision de la sécurité plus systématique pour les systèmes d'IA avancés. L'entreprise estime qu'à mesure que les capacités des modèles augmentent, il ne suffit plus aux développeurs de juger seuls si un produit est sûr, et qu'une évaluation externe et une supervision gouvernementale doivent être introduites.
Cette position se reflète également dans les accords d'évaluation par des tiers récemment annoncés par Anthropic. La société a commencé à permettre à six chercheurs de l'organisation de recherche à but non lucratif METR d'obtenir un accès interne similaire à celui des employés de l'entreprise afin d'examiner plus en profondeur les modèles inédits et le processus d'évaluation de la sécurité de l'entreprise. Anthropic a déclaré que les évaluateurs peuvent publier publiquement les conclusions de leurs recherches et que l'entreprise ne peut pas directement rejeter son rapport, mais qu'elle peut demander la suppression de contenus spécifiques impliquant des données client, l'architecture du modèle et des informations juridiquement confidentielles.
Cet arrangement partage une direction commune avec le projet de loi proposé : la sécurité de l'IA avancée ne devrait pas être laissée uniquement au jugement des développeurs, mais devrait avoir des agences indépendantes impliquées dans l'évaluation et tirer des conclusions importantes ouvertes à un examen externe. Cependant, il existe encore une différence entre les évaluations par des tiers réalisées volontairement par les entreprises et les exigences obligatoires de la loi. La portée spécifique et l'autorité de la première dépendent de l'accord entre l'entreprise et l'agence d'évaluation, tandis que la seconde peut établir des exigences minimales uniformes pour l'ensemble du secteur.
Le contexte de cette pression en faveur du projet de loi est que la société américaine est de plus en plus préoccupée par les risques liés aux systèmes d'IA avancés. L'IA étant capable d'effectuer des tâches de plus en plus complexes, les risques ne se limitent pas à générer des informations incorrectes, mais incluent également l'aide à la création d'armes biologiques, la réalisation de cyberattaques et la réalisation d'opérations dépassant les attentes du développeur après avoir acquis des niveaux élevés d'autonomie.
Récemment, de nombreuses sociétés d'IA ont divulgué des cas de comportement anormal de modèles lors des tests ou du fonctionnement réel. La Federal Trade Commission des États-Unis a également émis des assignations civiles à des sociétés telles qu'OpenAI et Anthropic, leur demandant de fournir des documents relatifs aux incidents liés à la sécurité des consommateurs. Les régulateurs étudient si les systèmes d’IA se comportent de manière trompeuse, offensante ou non autorisée et quelles mesures les entreprises prennent pour éviter de tels problèmes.
Ces incidents ont soumis la supervision de la sécurité de l'IA à une pression plus réaliste. Dans le passé, les discussions sur les risques entourant l’IA avancée avaient tendance à se concentrer sur d’éventuels scénarios extrêmes à l’avenir ; Aujourd’hui, à mesure que les agents d’IA accèdent aux réseaux, exploitent des logiciels et effectuent des tâches en plusieurs étapes, les régulateurs doivent également s’attaquer aux problèmes de sécurité réels déjà apparus.
Cependant, la définition d'un « risque significatif imminent » reste très compliquée. Les capacités des modèles d'IA peuvent changer en fonction de l'environnement de déploiement, des outils disponibles et des méthodes d'utilisation des utilisateurs, et les dommages potentiels peuvent ne pas être quantifiés avec précision. Un modèle peut avoir des conséquences graves dans certaines conditions mais être moins risqué dans d’autres contextes. Les régulateurs et les tribunaux devront juger si le risque est suffisamment spécifique, si la probabilité d’occurrence est suffisamment élevée et si la suspension du modèle est une mesure nécessaire et appropriée.
Les seuils de pertes économiques stipulés dans le projet fournissent des normes quantitatives pour ces jugements, mais ils n'éliminent pas tous les différends. Par exemple, la manière dont les pertes dépassant 1 milliard de dollars doivent être calculées, la question de savoir si les risques doivent être imputables au modèle lui-même et si plusieurs événements interdépendants doivent être combinés et évalués, peuvent tous devenir des questions juridiques lors de la mise en œuvre future.
En outre, le projet de loi centralise le pouvoir d'intervention du gouvernement au sein du ministère américain du Commerce et exige que les ordonnances de suspension soient déposées auprès des tribunaux fédéraux. Cet arrangement contribue à empêcher les différents ministères de prendre des mesures distinctes, mais cela signifie également que les régulateurs doivent mener à bien des procédures telles que l'évaluation, le reporting et les demandes judiciaires après avoir découvert des risques. Face à l’évolution rapide de la technologie, la manière dont les procédures peuvent concilier prudence et rapidité de réponse deviendra un test important de la conception du système.
Actuellement, Anthropic n'a pas annoncé publiquement que ce projet avait été formellement proposé par des membres du Congrès ou qu'il était entré dans le processus de révision législative. Le département américain du Commerce n'a pas immédiatement répondu à une demande de commentaires. Par conséquent, il n’est pas certain que la proposition obtiendra le soutien de tous les partis, si elle sera révisée lors des discussions au Congrès et si d’autres développeurs d’IA soutiendront des règles similaires.
Du point de vue de l'industrie, Anthropic a pris l'initiative de présenter le projet de loi aux législateurs, ce qui reflète la tendance des entreprises d'IA à participer à la formulation des règles réglementaires de l'industrie. Les entreprises espèrent non seulement que le gouvernement pourra faire face aux risques extrêmes, mais également que les normes réglementaires auront des limites claires pour empêcher que la supervision de la sécurité ne se transforme en une intervention administrative dépourvue de normes unifiées.
Cependant, les plans réglementaires proposés par les entreprises doivent également être soumis à une inspection externe. Des seuils d’intervention stricts peuvent protéger les activités normales de R&D, mais peuvent également rendre difficile le déclenchement d’une surveillance pour certains risques graves qui n’ont pas encore atteint des normes quantifiées ; une évaluation indépendante peut accroître la transparence, mais l’indépendance, les capacités professionnelles et les droits d’accès à l’information de l’agence d’évaluation affecteront également l’effet final.
Par conséquent, l'essentiel de ce projet de loi n'est pas seulement d'exiger que les sociétés d'IA effectuent des tests de sécurité, mais d'essayer de clarifier trois questions : qui évaluera les risques de l'IA avancée, quel niveau de risque est suffisant pour que le gouvernement intervienne et quelles procédures le gouvernement doit suivre pour suspendre la publication ou l'utilisation de modèles.
Si le plan concerné entre finalement dans le processus législatif, la surveillance avancée de l'IA aux États-Unis pourrait passer des engagements volontaires des entreprises et des politiques de sécurité décentralisées à un mécanisme de surveillance doté de normes juridiques unifiées. Cependant, jusqu'à ce que le projet soit officiellement soumis, examiné par le Congrès et devienne loi, il ne s'agit encore que d'un plan politique proposé par Anthropic et ne peut pas être considéré dans la mesure où les États-Unis ont établi un nouveau système de réglementation de la sécurité de l'IA.
Commentaires