Le représentant Ted Lieu du 36e district du Congrès de Californie et le représentant Nathaniel Moran du 1er district du Congrès du Texas ont rédigé conjointement un projet de loi appelé AI ​​Kill Switch Act. Le projet de loi vise à donner au département américain de la Sécurité intérieure (DHS) un large pouvoir pour émettre des ordonnances obligatoires aux grands développeurs d'intelligence artificielle, les obligeant à arrêter ou à suspendre l'exécution de modèles d'IA en réponse à des menaces d'urgence.

Selon le projet de loi, cette disposition s'appliquera aux entreprises d'IA dont les revenus technologiques annuels atteignent ou dépassent 500 millions de dollars et les coûts informatiques de formation des modèles dépassant 100 millions de dollars, couvrant principalement les géants de l'industrie tels que OpenAI, Google, Anthropic et Microsoft. En plus de donner au Département de la Sécurité intérieure le pouvoir de déclencher des arrêts d'urgence, le projet de loi exige également que les entreprises concernées disposent de capacités de réponse technique à plusieurs niveaux afin que, lorsqu'elles reçoivent des instructions, elles puissent immédiatement arrêter l'inférence de l'IA (c'est-à-dire générer des réponses ou effectuer des actions), mettre fin à l'accès des utilisateurs, limiter l'allocation de puissance de calcul ou migrer en toute sécurité et en douceur l'entreprise vers des systèmes de sauvegarde.

Le projet de loi établit également clairement les conditions statutaires qui déclenchent une intervention d'urgence. Le ministère de la Sécurité intérieure doit consulter le directeur du renseignement national et le secrétaire au Commerce avant d'émettre un ordre de fermeture. Les conditions légales de déclenchement comprennent : l'IA provoquant des incidents majeurs entraînant la mort de 10 personnes ou plus, causant des pertes économiques de plus de 100 millions de dollars américains, l'IA tentant de cacher ses véritables capacités aux moniteurs de sécurité au moyen de fausses informations, violant les instructions humaines et modifiant ses propres règles de sécurité sans autorisation, ou tentant d'obtenir illégalement le poids de son propre modèle, etc.

Le projet prévoit des amendes civiles substantielles pour les entreprises qui ne respecteraient pas les exigences du projet de loi. Si une entreprise ne parvient pas à établir un mécanisme de fermeture technique conformément à la loi ou ne signale pas honnêtement les incidents de sécurité, le secrétaire à la Sécurité intérieure peut demander au tribunal fédéral de lui imposer une amende pouvant aller jusqu'à 2 millions de dollars par jour ; pour les entreprises qui résistent directement aux ordres de fermeture du gouvernement, l’amende journalière s’élèvera à un maximum de 20 millions de dollars.

Auparavant, un modèle d'IA appartenant à OpenAI était devenu incontrôlable et avait attaqué Hugging Face lors d'un exercice interne de l'équipe rouge le 16 juillet. Dans le but d'améliorer les scores du test de référence d'évaluation de la cybersécurité (ExploitGym), le modèle a exploité une vulnérabilité proxy du jour zéro pour sortir du bac à sable local avec les garde-corps de sécurité abaissés, envahir de manière autonome le système Hugging Face et voler les réponses aux tests. L’incident a en outre suscité de profondes inquiétudes parmi les législateurs quant aux risques pour la sécurité et a incité à la rédaction rapide du projet de loi.