Résumé :
Représentant. Ro Khanna, un démocrate californien, est sur le point de soumettre au Congrès un projet de loi complet sur la réglementation de l'intelligence artificielle, dans l'espoir d'établir le cadre réglementaire fédéral le plus strict à ce jour pour les technologies de pointe en matière d'IA. La proposition appelle non seulement à la mise en œuvre d'un système de responsabilité stricte, mais prévoit également d'interdire la mise en service des systèmes d'intelligence artificielle dotés de capacités « d'auto-amélioration récursive » jusqu'à ce que le gouvernement fédéral établisse un système complet de sûreté et de sécurité.
Ce projet de loi s'appelle Human Control Over AI Act. Le contexte de l’introduction du projet de loi intervient à un moment où les inquiétudes dans les cercles technologiques et politiques américains concernant les risques potentiels de l’intelligence artificielle avancée continuent de croître. Ces dernières années, de nombreux dirigeants d’entreprises d’IA ont publiquement averti que certains systèmes d’intelligence artificielle pourraient à l’avenir dépasser les capacités de contrôle humain, mais le Congrès n’a pas encore formulé de plan réglementaire complet.
Ro Cana a déclaré dans une interview que l'intelligence artificielle présente non seulement un risque d'abus, mais peut également entraîner un risque de perte de contrôle. Il estime que les humains doivent prendre ces deux types de problèmes au sérieux, car le développement des technologies associées a touché aux problèmes de sécurité au niveau civilisationnel.
Selon le contenu du projet de loi, l'intelligence artificielle dite « d'auto-amélioration récursive » sera interdite. Ce type de système est défini comme un modèle d’intelligence artificielle capable d’améliorer de manière autonome ses propres capacités ou de modifier ses objectifs fondamentaux, ses mécanismes de contrôle et ses règles d’arrêt.
Comme l'exige la proposition, aucune activité connexe ne serait autorisée tant que les règles fédérales de sécurité n'auront pas été établies. Même s’il est ouvert à l’avenir, il devra être approuvé par des agences de régulation spécialisées.
Le projet de loi prévoit également de créer une nouvelle agence fédérale de réglementation de l'intelligence artificielle pour superviser les entreprises développant des modèles de pointe tels que OpenAI, Anthropic, Google DeepMind et xAI.
L'agence aura de multiples responsabilités, notamment la formulation de règles de sécurité en matière d'IA, l'établissement d'un système de licence pour la formation et le déploiement des modèles, la réalisation d'audits de pointe sur les modèles et l'élaboration de normes pour des tests continus et un contrôle humain efficace.
Dans le même temps, la nouvelle agence sera également chargée de formuler une série d'exigences techniques de sécurité, notamment des environnements de test isolés, des mesures d'isolation du réseau, des systèmes d'arrêt d'urgence et des mécanismes de contrôle pour empêcher les modèles de quitter l'environnement expérimental et d'entrer dans l'exploitation Internet ouverte.
Dans le cadre de ce plan, tous les laboratoires travaillant sur le développement de modèles de pointe doivent se soumettre à des audits indépendants. Les auditeurs resteront longtemps dans les institutions concernées et rendront compte directement aux autorités de régulation au lieu de transmettre les informations par l'intermédiaire de la direction de l'entreprise.
En plus du modèle réglementaire lui-même, le projet de loi prévoit également d'inclure certaines puces d'IA avancées et ressources de puissance de calcul dans le champ de surveillance afin de renforcer davantage la surveillance des activités de développement de l'intelligence artificielle à haut risque.
Le projet de loi adopte une position résolument dure à l'égard du système de responsabilité.
La proposition oblige les sociétés d'intelligence artificielle à souscrire une assurance responsabilité civile à grande échelle avant de lancer des modèles avancés afin de garantir leur capacité à compenser les dommages futurs.
Dans le même temps, le projet de loi introduit également un mécanisme de responsabilité pénale. Tout employé qui désactive sciemment les protections de sécurité, désactive les arrêts d'urgence, altère les enregistrements de journaux, viole les systèmes d'isolation ou déploie sciemment des modèles sans autorisation peut être passible de sanctions pénales.
Ce qui est encore plus préoccupant, c'est que le projet de loi vise également à établir des dispositions sur la responsabilité pénale liées aux « actes mettant en danger l'humanité ». Si certains systèmes d’intelligence artificielle causent des dommages civils à grande échelle, les comportements de déploiement associés peuvent entraîner des conséquences juridiques plus graves.
Ro Kana a déclaré que ce projet de loi est actuellement l'une des propositions réglementaires les plus complètes en matière de sécurité de l'intelligence artificielle. Il a souligné que le contenu du projet de loi provient principalement d'échanges à long terme avec des groupes de recherche sur la sécurité de l'intelligence artificielle, plutôt que d'être formulé sur la base des avis de grandes entreprises technologiques.
Dans le même temps, Khanna a également appelé le gouvernement américain à promouvoir la coopération en matière de sécurité en matière d'intelligence artificielle au niveau international, notamment en concluant un accord de sécurité exécutoire avec la Chine et en établissant des mécanismes de vérification, d'examen et de contrôle pour réduire le risque de prolifération de systèmes d'intelligence artificielle dangereux à l'avenir.
Les analystes estiment que cette proposition représente une voix croissante au sein du Congrès américain selon laquelle l'intelligence artificielle de pointe ne devrait pas s'appuyer uniquement sur l'autodiscipline des entreprises, mais doit établir un mécanisme de surveillance gouvernemental similaire au système de réglementation des médicaments.
Cependant, une grande incertitude demeure quant à savoir si le projet de loi pourra être adopté sans problème à l'avenir. Les partisans estiment que la réglementation peut réduire le risque de perte de contrôle, tandis que les opposants craignent que des restrictions trop strictes puissent affaiblir la capacité des États-Unis à innover dans la concurrence mondiale en matière d'intelligence artificielle.
Néanmoins, à mesure que les capacités de l'intelligence artificielle continuent de s'améliorer, le débat autour de « la question de savoir si les humains devraient fixer des limites avant que la technologie ne devienne incontrôlable » est officiellement entrée au niveau législatif américain.
Commentaires