Directeur d'OpenAI : un désastre de l'IA est raisonnablement susceptible de se produire d'ici un an

📅 2026-11-18

Résumé :

Paul Cristiano, chercheur bien connu en sécurité de l'IA et membre du conseil d'administration d'OpenAI Holdings, a lancé un avertissement sur les perspectives de développement de l'intelligence artificielle dans une interview avec un podcast technologique populaire. Il a déclaré que la possibilité que les humains perdent complètement le contrôle de l’IA à l’avenir augmente rapidement.


Ce podcast est diffusé le lundi et est hébergé par Devaksh Patel. "Il existe une possibilité raisonnable qu'une catastrophe survienne au cours des six prochains mois, entraînant la mort d'un grand nombre de personnes ou le renversement du gouvernement", a déclaré Cristiano dans l'émission. Le podcast compte généralement des millions d’auditeurs, dont de nombreuses personnes travaillant dans le secteur technologique.

Cristiano a déclaré que la survenance des événements ci-dessus dépend de la vitesse d'itération de la technologie d'IA. Il a également proposé que, grâce à la technologie d'auto-amélioration récursive, les modèles d'IA peuvent réaliser des mises à niveau auto-itérées, et que la probabilité d'atteindre un point critique dangereux au cours de l'année prochaine est « assez élevée ».

Par rapport aux remarques publiques passées de Cristiano, cette déclaration représente une nouvelle escalade d'avertissement. Il dirige également le Center for Alignment Research, une organisation à but non lucratif basée à Berkeley qui se concentre sur la recherche sur l'alignement de l'IA. En tant que chercheur principal qui met en garde depuis longtemps contre les risques de sécurité de l’IA, il a rejoint en septembre le conseil d’administration de la Fondation OpenAI, qui contrôle l’entreprise. Cristiano a souligné dans l'interview que son discours ne représente que sa position personnelle et ne représente pas les opinions du conseil d'administration d'OpenAI.

Lorsqu'il a rejoint le conseil d'administration, Cristiano a publié un article public estimant que le risque d'événements catastrophiques causés par une perte de contrôle de l'IA par les humains au cours de l'année prochaine est d'environ 4 %.

Dans une interview lundi, il a déclaré que les capacités des modèles ont fait des progrès rapides au cours des derniers mois, et il estime désormais que le risque que l'IA prenne le dessus sur les humains au cours de l'année prochaine est « plus proche de 10 %, et non de 1 % ». Il a déclaré que si les grandes entreprises ne prennent pas davantage de mesures de protection pour atténuer les risques causés par le développement de l'IA, l'estimation du risque sera « considérablement plus élevée ».

Tags associés

Articles similaires

Commentaires

0/500
Captcha (click to refresh)
Aucun commentaire