Vitalik Buterin, co-fondateur d'Ethereum, estime que si la super intelligence artificielle commence à attaquer les humains à l'avenir, le résultat sera l'extinction complète de l'humanité et il n'y aura aucun survivant. "C'est une déclaration extrême : malgré les dégâts énormes que pourraient causer les pires scénarios comme le changement climatique, les pandémies d'origine humaine ou la guerre nucléaire, il existe encore de nombreux îlots de civilisation qui recolleront les morceaux intacts", a-t-il déclaré lundi dans un article de blog.
Cependant, une fois que la super intelligence artificielle choisira d’aller à l’encontre de l’humanité, le résultat pourrait être l’extinction complète de l’humanité. « Mais une IA super intelligente, si elle décidait de nous trahir, ne laisserait probablement aucun survivant et mettrait fin à l’humanité pour toujours », a-t-il écrit, auquel cas même Mars ne serait pas un refuge probable pour l’humanité.
Buterin a plaidé en faveur d'un avenir qui conserve les caractéristiques et l'action « humaines », en disant : « Si nous voulons un avenir où les superintelligents et les « humains » coexistent – un avenir où les humains ne sont pas seulement des animaux de compagnie mais conservent réellement une action significative dans le monde – alors quelque chose comme celui-ci semble être le choix le plus naturel.
Lors d'un événement récent, Buterin a fait part de ses inquiétudes concernant le développement futur d'Ethereum, révélant que ses deux plus grandes préoccupations sont la stagnation du développement des cryptomonnaies et les dangers potentiels associés à l'intelligence artificielle.
Lorsqu'on lui a demandé ce qui l'occupait souvent, Buterin a mentionné "les problèmes liés à l'intelligence artificielle", en particulier les risques existentiels qu'elle pose.