Résumé :
Sam Altman, PDG d'OpenAI, et Dario Amodei, PDG d'Anthropic PBC, ont fait une rare apparition lors d'une réunion du Conseil de sécurité des Nations Unies, où les deux ont exhorté les dirigeants mondiaux à coopérer dans le domaine de l'intelligence artificielle. La conférence s’est concentrée sur la crainte que l’IA puisse constituer une menace existentielle pour l’humanité.
Dans leurs discours, Altman et Amodei ont souligné l'importance d'une coopération mondiale en matière de normes pour faire face aux situations où les capacités d'auto-amélioration des systèmes d'IA peuvent dépasser le contrôle humain. Les deux dirigeants ont déclaré que les gouvernements devraient travailler de concert avec l'industrie pour prendre des décisions clés concernant l'avenir de cette technologie.
Altman a déclaré : « Historiquement, certains pays qui se font concurrence et ne sont pas toujours amicaux les uns envers les autres se rassembleront pour des intérêts communs et le bien-être collectif face à de nouvelles technologies puissantes. Nous pensons que c'est un tel moment. »
La réunion du Conseil de sécurité de mercredi s'est tenue en marge de l'Assemblée générale des Nations Unies à New York, où dirigeants et hauts diplomates ont débattu de l'intelligence artificielle et de ses dangers.
Dans son discours d'ouverture, le secrétaire général des Nations Unies, Antonio Guterres, a exhorté les dirigeants du monde à se coordonner sur des modèles d'intelligence artificielle dits de pointe et a désigné les Nations Unies comme une plate-forme pour soutenir ces efforts. Dans son discours, le président américain Donald Trump a rejeté les appels en faveur d’un accord international visant à mettre en place des garde-fous pour le développement de l’intelligence artificielle.
Dans un discours prononcé par vidéo, Amodei a déclaré que l'intelligence artificielle devrait apporter d'énormes avantages à la science et à la médecine, mais qu'elle pourrait également avoir des conséquences catastrophiques. Notant que les terroristes pourraient utiliser l’intelligence artificielle pour créer des armes biologiques mortelles et que les modèles d’intelligence artificielle pourraient être trop puissants pour échapper au contrôle des développeurs, il a exhorté les gouvernements à élaborer des normes de sécurité internationales.
Amodei a déclaré : « Même si nous avons tous de nombreuses différences ici, nous devons les mettre de côté et travailler ensemble pour faire face aux opportunités mondiales et aux menaces mondiales qui se présentent à nous. Aucun dirigeant, aucune entreprise, aucun pays ne peut relever ce défi seul. »
Dans son discours à la réunion du Conseil de sécurité, Altman a tenté de trouver un compromis sur la question de savoir si le développement de la technologie de l'intelligence artificielle devait être ralenti. Il estime qu'il existe une « voie pragmatique » entre ceux qui mettent en garde contre les conséquences catastrophiques de l'intelligence artificielle et ceux qui minimisent les risques potentiels. Il a également rejoint Amodei pour souligner la nécessité de mécanismes de réponse rapide aux incidents.
« Ce serait bien pour nous tous si nous pouvions parvenir à un consensus mondial sur des preuves efficaces, des garanties efficaces et une surveillance efficace », a déclaré Altman. "Nous ne savons pas tout et nous sommes très ouverts à toute meilleure suggestion. Nous sommes prêts à travailler avec tout le monde pour faire de notre mieux pour trouver une voie à suivre."
Commentaires