Résumé :
OpenAI exhorte les États-Unis à prendre l'initiative d'élaborer des normes pour l'intelligence artificielle (IA) de pointe avec d'autres pays, en réponse aux inquiétudes croissantes concernant les dommages potentiels de l'IA. OpenAI a déclaré lundi dans un article de blog que pour développer l'intelligence artificielle en toute sécurité, il est nécessaire d'élaborer des normes techniques internationales, notamment pour aider à définir quels types d'incidents impliquant des modèles d'IA doivent être notifiés, pour clarifier la manière dont les pays peuvent coopérer au développement de l'IA et pour améliorer l'accès à la puissance de calcul nécessaire au développement de telles technologies.
« Pour que les progrès continus de l'IA soient sûrs et bénéfiques, il est nécessaire de faire progresser la recherche alignée et d'élaborer des normes communes pour guider le développement de l'IA dans les laboratoires et les pays », a déclaré OpenAI.
OpenAI a déclaré que son PDG, Sam Altman, prévoyait de s'exprimer mercredi devant le Conseil de sécurité des Nations Unies sur les questions liées à l'IA et à la sécurité internationale.
États-Unis Le secrétaire au Trésor Bessent a déclaré le week-end dernier que les États-Unis proposaient d'établir un mécanisme de signalement pour couvrir les incidents d'IA ayant des implications sur la sécurité nationale.
OpenAI a souligné dans un article de blog que les pays devraient travailler ensemble pour développer des normes nationales et internationales complémentaires afin de développer les modèles d'IA les plus performants. OpenAI suggère que ce travail puisse être promu par les agences de sécurité de l'IA existantes dans plusieurs pays, notamment le Center for AI Standards and Innovation (CAISI) du ministère américain du Commerce, qui aide à tester les modèles d'IA et à élaborer des lignes directrices pertinentes.
OpenAI a également appelé à l'élaboration de normes pour faire face à la capacité croissante de l'IA à fonctionner de manière autonome, notant que l'auto-amélioration récursive « entièrement autonome » - où l'IA est finalement capable de modifier son propre code ou d'améliorer ses capacités sans aucune intervention humaine - ne devrait pas être poursuivie « à moins et jusqu'à ce que la sécurité puisse être assurée ».
Commentaires