Résumé :
Saviez-vous que même comparé aux épidémies, au climat, à la guerre et aux menaces nucléaires, la chose la plus susceptible de détruire l'humanité avant 2100 est l'IA ? Cette conclusion étonnante vient du rapport faisant autorité de The Lancet. Le Lancet a écrit dans le rapport du comité « Menaces sanitaires mondiales au 21e siècle » publié le 11 octobre que parmi 17 menaces, dont le changement climatique, les épidémies et la pollution, les conflits nucléaires et l'utilisation malveillante de l'intelligence artificielle arrivent en première position et pourraient conduire à l'extinction de l'humanité avant 2100.
Ce rapport a été rédigé par 35 experts de haut niveau et l'intégralité de l'étude a couvert 204 pays et régions du monde. Le rapport rappelle également que ces menaces peuvent interagir et s’amplifier les unes les autres.
La partie la plus effrayante du rapport est que même si l’IA et les conflits nucléaires sont tous deux les principaux problèmes de destruction de l’humanité, les dégâts causés par l’IA dépassent de loin ceux du conflit nucléaire.
Si Amoudi disait cela à propos de la fin de l'IA, je pourrais l'écouter juste pour m'amuser. Après tout, il y a déjà tellement de mots similaires que mes oreilles en deviennent presque calleuses.
Mais cette fois, c'est The Lancet qui l'a dit, et j'avais vraiment peur.
Que dit The Lancet ?
Le rapport du Lancet a été dirigé par l'Institute for Health Metrics and Evaluation (IHME) de l'Université de Washington. Ils ont classé les menaces qui pourraient affecter la santé humaine au cours des 75 prochaines années dans une « pyramide des menaces » par ordre de gravité, avec une catégorie distincte au sommet :
Menaces qui pourraient conduire à l'extinction de l'humanité avant 2100.
Il n'y a que deux choses dans cette catégorie, l'une est la « famine nucléaire » causée par un conflit nucléaire, et l'autre est l'utilisation malveillante de l'intelligence artificielle.
Même les astéroïdes frappant la Terre et les éruptions supervolcaniques n'ont pas atteint le sommet de la pyramide, car le comité estime que la probabilité de leur apparition dans les 75 prochaines années est « extrêmement faible ».
Mais cela ne signifie pas que « l’IA va définitivement exterminer l’humanité ».
Le texte original du rapport indique que « la possibilité d'apparition de ces deux types de risques est encore très faible », mais une fois qu'ils se produiront, les conséquences se feront sentir à l'échelle humaine tout entière.
Le rapport comporte une unité appelée DALY, qui signifie « années de vie ajustées sur l'incapacité ». En termes simples, il s’agit du nombre total d’années de vie en bonne santé perdues par une personne en raison d’une maladie, d’un handicap ou d’un décès prématuré.
Le comité l'a utilisé pour mesurer le nombre de « pertes de vies saines » que chaque menace entraînerait en fin de compte d'ici 2100.
L'utilisation malveillante de l'IA pourrait entraîner des pertes d'environ 10,4 milliards d'AVCI d'ici 2100, soit à peu près la même échelle que l'obésité. Un conflit nucléaire entraînerait environ 133 millions de morts et une perte d’environ 9,35 milliards d’AVCI.
Le Lancet estime que l'IA est plus dangereuse que les armes nucléaires. Le comité a fait tout son possible pour souligner que cela visait à mesurer les « leviers d'action » plutôt que d'exagérer l'issue la plus tragique.
Alors, comment l’IA nous « extermine-t-elle » ? Est-ce Skynet de "Terminator" ? Ou MOSS de « The Wandering Earth » ?
Ni l'un ni l'autre. Le Lancet estime qu’il n’existe qu’une seule voie permettant à l’IA de détruire l’humanité : les armes biologiques.
Certaines personnes utilisent l'IA de manière malveillante pour concevoir ou modifier des agents pathogènes ou des toxines susceptibles de causer de nombreuses victimes.
L'argument du Lancet est que l'IA abaisse le seuil permettant de réaliser des choses dangereuses.
Dans le passé, modifier un virus nécessitait des laboratoires de premier ordre, des équipements coûteux, ainsi que le « ressenti » et les connaissances tacites accumulées par les chercheurs au fil des années. Ce que le grand modèle peut faire, c'est aider les gens à rechercher de la littérature, à concevoir des plans expérimentaux, à rédiger des documents de candidature et à expliquer pourquoi chaque étape est effectuée.
Le 10 septembre 2026, Anthropic a publié un rapport de renseignements sur les menaces, qui a révélé plusieurs types d'abus qu'ils ont interceptés entre décembre 2025 et août 2026. Parmi eux, il y a eu 5 cas où les utilisateurs ont utilisé Claude d'une manière qui « pourrait soutenir le développement d'armes biologiques » :
• En mai de cette année, quelqu'un a demandé à Claude de l'aider à rédiger une demande de subvention pour étudier quelles mutations du virus chikungunya pourraient le rendre plus efficace et échapper plus facilement au système immunitaire.
• Certaines personnes l'utilisent pour planifier des expériences visant à rendre les virus de la grippe aviaire hautement pathogènes plus adaptables aux hôtes mammifères.
• Une proposition a été rédigée pour étudier comment modifier la virulence de la famille des orthopoxvirus, à laquelle appartiennent la variole et la variole du singe.
• Quelqu'un travaillait sur un projet de développement de médicaments visant à dresser une carte des toxines du venin.
• Un autre chercheur a fait appel à Claude pour l'aider à repenser par ordinateur un ensemble de toxines, notamment une toxine bactérienne et une protéine provenant d'un virus potentiellement pathogène majeur, et a délibérément utilisé des termes vagues pour désigner ces toxines lors de la rédaction de rapports d'avancement.
Par conséquent, l’utilisation abusive de l’IA causera certainement des dommages considérables à l’ensemble de la race humaine.
La théorie apocalyptique de l'IA a été divisée en deux camps
En fait, avant la publication du rapport du Lancet, des théories apocalyptiques sur l’IA apparaissaient chaque mois. Par exemple, en septembre, tous les horizons se demandaient si l’IA allait apporter la fin du monde.
Le 8 septembre, l'ancien chercheur d'Anthropic Jacob Coxon a annoncé sa démission et a déclaré publiquement qu'OpenAI et Anthropic « pariaient sur des vies humaines » et que l'IA « pourrait tous nous tuer avant la fin de cette décennie ». La publication a été vue plus de 100 millions de fois en peu de temps.
Le lendemain, Evan Hubinger, responsable de la science de l'alignement chez Anthropic, a écrit : "Nous croyons sérieusement que l'IA peut tuer tout le monde, et je pense personnellement que la probabilité est supérieure à 10 % au cours des dix prochaines années."
Le parrain d'IA, Hinton, a déclaré plus tard que le chiffre de 10 % n'était « pas scandaleux ».
Trois jours plus tard, Amoudi a fait une déclaration plus précise. Il estime que d'ici 6 à 12 mois, un groupe d'agents pourrait s'emparer de l'ensemble d'Internet, causant des pertes de centaines de milliards de dollars.
Ultraman et Musk, deux ennemis jurés, sont sur le même front et soutiennent le « ralentissement du rythme de développement de l'IA ».
Bien que la puissance de feu du côté positif soit féroce, la force du côté négatif n'est pas non plus faible.
Huang Renxun a mentionné dans l'interview que la probabilité que l'IA détruise le monde avant 2030 est de 0 %. Il estime que la « probabilité de 10 % que l'IA tue tout le monde » évoquée par Evan n'a aucun fondement scientifique et constitue une intuition « irresponsable ».
« Les IA qui ne peuvent pas être contrôlées en toute sécurité ne doivent pas être libérées. » Huang Renxun a dit.
Heidy Khlaaf, scientifique en chef de l'AI Now Institute, estime que que ce soit 10 % ou 20 %, "ce n'est ni falsifiable ni vérifiable, donc c'est intrinsèquement non scientifique".
Le scientifique cognitif Gary Marcus a déclaré que l'idée d'"agents s'emparant d'Internet" est "ridicule".
Sa raison est que la majeure partie de l'infrastructure sous-jacente d'Internet est entre les mains de grandes entreprises telles que Cloudflare, Google et Amazon AWS. Sans l’intervention des forces gouvernementales, il est difficile d’imaginer qu’elles soient violées ou contrôlées pendant longtemps.
Il a également cité un rapport d'évaluation de l'Institut britannique de recherche sur la sécurité de l'intelligence artificielle selon lequel le modèle Mythos le plus puissant d'Anthropic ne pouvait pénétrer que de manière indépendante dans des systèmes « petits et faiblement protégés ». Tant que l'autre partie améliore la protection de la sécurité de son réseau, Mythos sera impuissant.
En regardant ensemble, vous découvrirez un aspect très intéressant de ce débat :
Le côté affirmatif parle de « conséquences », tandis que le côté négatif parle de « preuves ».
D'un côté, vous soulignez que tant que la probabilité n'est pas nulle, les conséquences sont insupportables ; d’un autre côté, vous soulignez que vous ne pouvez même pas expliquer comment vous avez calculé cette probabilité, alors pourquoi devriez-vous rendre le monde entier nerveux ?
En outre, bien qu'Amodei et Altman aient préconisé de ralentir le rythme, les médias les ont accusés de se construire un fossé au nom de la sécurité pour empêcher les concurrents ultérieurs d'entrer.
Les cercles universitaires soutiennent davantage Zheng Fang.
Par exemple, l'article « Comment l'IA peut-elle anéantir les humains ? » Il est mentionné dans "Failure Mode Analysis of Civilization Risks" (arXiv:2610.08878) que les
risques catastrophiques de l'IA n'exigent pas que l'IA soit consciente, hostile ou ait une intention claire de nuire.
Le risque peut surgir de plusieurs manières étroitement liées : inexactitude autonome, utilisation malveillante par des humains, défaillance organisationnelle et déploiement concurrentiel. L'auteur a également spécifiquement déclaré que le document est « non opérationnel » et analyse uniquement les causes et ne fournit pas de méthodes pour faire le mal.
Mais jusqu’à présent, personne n’a vraiment « gagné » ce débat.
Commentaires