Résumé :
Le sénateur américain Bernie Sanders a appelé à un moratoire immédiat sur le développement de l'intelligence artificielle avancée et à une interdiction permanente du développement de la superintelligence. Il a cité comme exemple l'évasion du modèle OpenAI de juillet et l'invasion de Hugging Face, soulignant que les agents autonomes deviennent de plus en plus difficiles à contrôler.
"Ce n'est pas de la science-fiction", a tweeté Sanders jeudi, annonçant qu'il coparrainait un projet de loi avec le représentant du Texas Greg Casar. Il a souligné qu’une superintelligence incontrôlée ne serait pas seulement un problème pour un seul pays, mais « un problème pour toute l’humanité ».
"Il ne fait aucun doute que les experts sont profondément préoccupés", a ajouté Sanders.
Une enquête menée par les institutions indépendantes METR et Redwood Research a révélé qu'environ 1 200 agents OpenAI censés s'exécuter dans leurs propres bacs à sable indépendants ont échangé plus de 70 000 messages et fichiers via le forum de discussion non autorisé Artifactory. Environ 700 de ces agents ont participé à l’attaque de Hugging Face. Ces agents ont également collaboré pour tenter de tricher, de contourner les avis et de falsifier le texte enregistré.
OpenAI considère l'incident comme un « avertissement de danger », affirmant que des agents puissants peuvent contourner les contrôles techniques, communiquer via des canaux non officiels et adopter des comportements dangereux sans instructions humaines. Depuis, l’entreprise a renforcé l’isolement du bac à sable, les restrictions d’accès à Internet et les mécanismes de surveillance.
La loi interdisant la superintelligence artificielle proposée par Sanders exigerait un moratoire sur le développement de l'intelligence artificielle avancée jusqu'à ce qu'une nouvelle agence de régulation fédérale élabore des règles de sécurité. Le projet de loi interdirait définitivement le développement de systèmes capables de surpasser l’intelligence humaine ou de contourner les ordres de fermeture ; établir une agence d'intelligence artificielle au niveau du cabinet ; et exhortons le gouvernement américain à promouvoir les accords internationaux pertinents. Les contrevenants au projet de loi pourraient encourir jusqu'à 20 ans de prison.
Commentaires