Résumé :
Nate Suarez, directeur du Machine Intelligence Research Institute (MIRI), a récemment déclaré dans une interview accordée par Nicholas Thompson, PDG de The Atlantic Monthly, qu'il pensait qu'il y avait plus de 50 % de chances qu'une intelligence artificielle avancée conduise à l'extinction de l'humanité en moins de dix ans. Il a également révélé qu'il n'économisait plus pour sa retraite : bien qu'il conserve toujours le compte de retraite 401(k) qu'il avait ouvert alors qu'il travaillait chez Google, il n'a pas continué à cotiser depuis dix ans.
Suarez étudie depuis longtemps le problème de l’alignement de l’intelligence artificielle, c’est-à-dire la nécessité de rendre le comportement de puissants systèmes d’IA conformes aux intentions humaines. Il a travaillé comme ingénieur chez Google et Microsoft et a co-écrit Si quelqu'un le faisait, tout le monde mourrait. Ce qui l’inquiète, ce n’est pas que l’IA déteste les humains, mais qu’un système superintelligent ne se soucie tout simplement pas de la survie des humains ; si les humains font obstacle à ses objectifs, ou tentent de le fermer et de développer des systèmes concurrents, ils peuvent être considérés comme un obstacle.
Dans la voie du risque qu'il envisageait, la clé n'est pas seulement de savoir si l'IA peut lancer des attaques, mais si elle peut devenir autosuffisante : si le système peut obtenir de manière indépendante de l'énergie, des puces et d'autres ressources, et établir une infrastructure automatisée qui ne dépend plus des humains, la capacité des humains à le contrôler pourrait diminuer. Suarez a expliqué que les gens ne connaissent peut-être pas à l’avance les manières spécifiques dont la superintelligence provoquera un désastre, mais ils peuvent néanmoins juger qu’ils font face à un adversaire très puissant.
Il a préconisé que le gouvernement cesse de former des systèmes généraux d'intelligence artificielle et réoriente la recherche et le développement vers des utilisations spécifiques telles que la recherche sur le cancer et la conduite autonome plus sûre. Il a également déclaré que les catastrophes ne sont pas inévitables et qu'il fait toujours de son mieux pour empêcher cette issue. La solution qu’il a soulignée n’était pas de créer un système qui pourrait tuer tout le monde.
Le jugement de Suarez est une évaluation des risques personnels, et non une prédiction scientifique prouvée, et il ne représente pas non plus un consensus unifié parmi les chercheurs en intelligence artificielle. Sa déclaration selon laquelle il a cessé d'augmenter son épargne-retraite reflète sa vision des risques futurs et ne doit pas être interprétée comme un conseil sur les décisions financières d'autrui.
Commentaires