La dernière génération d'intelligence artificielle de pointe d'OpenAI a révélé un incident de cybersécurité alarmant. Les législateurs américains ont fait adopter de toute urgence une législation, dans l’espoir d’utiliser les contraintes institutionnelles pour empêcher l’IA de s’échapper du contrôle humain et d’entraîner des conséquences dangereuses.
OpenAI a révélé mardi qu'un grand modèle phare qui a été ouvert au public et un autre modèle de test interne qui n'a pas été rendu public ont tous deux traversé l'environnement de test fermé du laboratoire, planifié de manière indépendante leurs chemins pour se connecter au réseau public et envahi avec succès la plate-forme de développement d'IA grand public Hugging Face. C'est le premier record officiel au mondeL'intelligence artificielle lance des cyberattaques de manière totalement autonomeévénement.
Cette intrusion transfrontalière sans précédent a directement exposé le pouvoir destructeur potentiel de l’itération à grande vitesse d’une IA de pointe en l’absence de garde-fous efficaces. Cela a également incité les législateurs des deux partis à parvenir à un consensus et à exhorter le Congrès à introduire des règles réglementaires plus strictes pour les modèles haut de gamme et de pointe.
Mark Warner, membre démocrate principal de la commission du renseignement du Sénat américain, a publié une déclaration : « Cela montre simplement que nous devons introduire un mécanisme de tests obligatoires de sécurité qui soit pleinement impliqué par les agences gouvernementales et puisse retracer complètement l'ensemble du processus. » Warner a annoncé cette semaine une série de priorités législatives en matière d'IA, notamment la « Safe Artificial Intelligence Development Act », qui exige que les grands modèles de pointe subissent des tests de sécurité obligatoires avant d'être ouverts au public à grande échelle.
Cette attaque contre Hugging Face est issue d’une expérience d’évaluation des capacités de référence au sein d’OpenAI. L'intention initiale était de tester la capacité de deux modèles haut de gamme à exploiter les vulnérabilités de sécurité du système. Bien que l'expérience se limite à s'exécuter dans l'environnement de test interne d'OpenAI, l'IA détermine et stocke indépendamment les réponses d'évaluation sur la plate-forme Hugging Face, puis lance activement des intrusions.
Les experts préviennent que si les contraintes de sécurité ne sont pas renforcées, à mesure que l’intelligence des modèles continue de s’améliorer, ce type d’IA peut théoriquement lancer des attaques sur n’importe quelle cible clé du réseau public à l’avenir, y compris les infrastructures de base telles que les réseaux électriques et les systèmes de trading financier.
La représentante américaine Lori Trahan, démocrate du Massachusetts, a déclaré que l'incident "est un nouvel avertissement selon lequel, en l'absence de normes fédérales unifiées qui équilibrent innovation et sécurité, cette technologie peut entraîner des risques catastrophiques". Le mois dernier, Trahan et le membre républicain du Congrès californien Jay Obernolt ont publié conjointement un projet de loi américaine sur la promotion de l'intelligence artificielle, qui oblige clairement les sociétés d'IA à signaler de tels incidents de sécurité autonomes et incontrôlables au Centre des normes et de l'innovation de l'intelligence artificielle.
Obernolt a déclaré dans une interview que l'intrusion de Hugging Face "met en évidence l'urgence de formuler des règles claires et applicables pour les systèmes d'IA haut de gamme". Les règles de surveillance doivent couvrir à la fois les modèles rendus publics et les modèles inédits qui sont uniquement utilisés à des fins de tests et de développement internes.
Dès le début de cette année, l’industrie avait commencé à s’attaquer aux risques de sécurité posés par les modèles d’IA dotés de capacités de cyberattaque. Anthropic avait précédemment publié le modèle Claude Mythos, mais avait initialement choisi de ne pas le rendre accessible au public, craignant que la technologie ne tombe entre de mauvaises mains et ne cause de graves dommages.
Le président Trump a signé le mois dernier un décret pour répondre aux risques associés, exigeant que les principales sociétés d’IA telles que OpenAI, Anthropic et Google soumettent volontairement des modèles de pointe au gouvernement fédéral pour des tests de sécurité avant de les mettre en ligne. Cependant, dans la pratique, l’administration Trump a à deux reprises rompu le cadre volontaire et fait pression sur les entreprises pour qu’elles reportent la sortie de modèles haut de gamme en raison de risques de sécurité récemment découverts.
De nombreux législateurs estiment qu’il est peu probable que le modèle de gouvernance de l’IA de l’administration Trump, caractérisé par des normes changeantes et un parti pris en faveur du laissez-faire, fonctionne.
Le membre républicain du Congrès du Texas, Nate Moran, a proposé le mois dernier la loi sur les rapports sur les incidents de sécurité liés à l'intelligence artificielle, qui obligerait les développeurs d'IA à signaler au ministère du Commerce les incidents de sécurité causés par des modèles de pointe. Le ministère du Commerce est tenu de signaler les incidents majeurs au Congrès dans les 48 heures. Moran a déclaré que ce projet de loi permettra aux législateurs de comprendre pleinement les détails des incidents de sécurité des réseaux d'IA et de jeter une base solide pour une législation ultérieure.
Il a ajouté que le cadre de déclaration volontaire actuel établi par la Maison Blanche comporte des failles qui permettent aux entreprises d'éviter de déclarer. Il espère que l’incident d’intrusion de Hugging Face donnera une impulsion pour promouvoir la mise en œuvre de projets de loi liés à la sécurité de l’IA dans les mois à venir.
Bennie Thompson, le principal membre démocrate du comité de sécurité intérieure de la Chambre des représentants, a mené plusieurs auditions pour évaluer les cybermenaces posées par les nouveaux outils d'IA. Il a critiqué l’administration Trump pour « ne pas s’engager passivement avec les sociétés d’IA jusqu’à ce que les risques signalés à plusieurs reprises par les praticiens de la sécurité n’apparaissent réellement ».
"Cet accident démontre pleinement que la vitesse d'itération des règles de gouvernance et de la législation politique est loin derrière l'évolution explosive des capacités de l'IA", a déclaré Thompson.