Résumé :
Le 11 septembre, selon "Business Insider", le "Parrain de l'IA" Geoffrey Hinton a déclaré :
Il est difficile d'estimer la probabilité que l'IA anéantisse tous les humains, mais cette probabilité n'est pas nulle.
Hinton a déclaré mercredi à BBC Newsnight : "Pour moi,10 % ne semble pas être une estimation scandaleuse, mais en réalité, personne ne sait comment donner une estimation raisonnable.
»
Hinton
L'animatrice de "Newsnight" Victoria Derbyshire a exprimé sa surprise car Hinton était fondamentalement d'accord avec le jugement de Jacob Coxon, le principal chercheur en sécurité de l'IA d'Anthropic. Le chercheur a déclaré :
Au cours des 10 prochaines années, l'IA "a une probabilité de plus de 10 % de tuer tous les humains".
."Wow", a déclaré Derbyshire, "Oh mon Dieu."
Hinton a déclaré qu'il est difficile d'estimer la probabilité spécifique parce que la société humaine n'a jamais vu une technologie qui « pourrait bientôt être plus intelligente que nous ».
« Il serait insensé de dire qu’il n’y a qu’une probabilité de 1 % », a-t-il déclaré. "Personne ne sait comment l'estimer."
Ce qui est certain, a déclaré le prix Nobel, c'est que la fenêtre pendant laquelle une telle catastrophe pourrait survenir s'est raccourcie. « Avant, je pensais que c'était entre 30 et 50 ans, puis cela a été réduit à 10 ou 20 ans », a-t-il déclaré. "Maintenant, je pense que cela pourrait prendre 10 ans, voire moins. D'autres pensent que c'est beaucoup plus rapide que cela."
Quant à la façon dont cela pourrait se produire, Hinton a cité des risques allant des cyberattaques au développement de virus mortels par l'IA. Bien que Hinton n'ait pas expliqué pourquoi ce délai avait été considérablement raccourci, les principales sociétés d'IA, notamment Anthropic et OpenAI, ont investi des milliards de dollars dans la mise à l'échelle de leurs modèles, et leurs produits récemment lancés ont montré des améliorations significatives par rapport aux modèles d'il y a quelques mois seulement.
Les commentaires de Hinton interviennent après que le chercheur d'Anthropic Coxon a annoncé sa démission à la veille de l'introduction en bourse très attendue de la société. Coxon, qui travaillait auparavant chez OpenAI, a déclaré que les géants de l'IA « jouent avec nos vies ».
« Ceux qui développent l'IA croient sincèrement que l'IA pourrait tous nous tuer avant la fin de cette décennie », a écrit Coxon sur
Hinton a déclaré que les humains pourraient s'engager sur la voie de l'autodestruction, ou trouver des moyens de « faire face aux dangers posés par l'IA » tout en réalisant le potentiel de l'IA. Il a réitéré son appel à une réglementation mondiale plus forte, soulignant que même si les pays ne sont pas d’accord sur toutes les questions, ils partagent tous un désir commun de sauvegarder la survie humaine.
"Les pays ont le même intérêt à empêcher l'IA de remplacer les humains. Par conséquent, ils finiront par coopérer. La question est : pourront-ils agir à temps ?" dit-il.
Commentaires