Résumé :
Selon « Business Insider », les médias ont posé la même question à ChatGPT d'OpenAI, Google Gemini, Claude d'Anthropic et Grok de xAI, leur demandant d'analyser comment l'intelligence artificielle peut conduire à l'extinction humaine et de classer les scénarios associés par ordre de possibilité.
La question demande aux quatre IA d'expliquer comment les risques peuvent survenir, quels liens hors de contrôle se transformeront en catastrophes, pourquoi les experts pensent qu'un certain scénario est plus crédible et quelles mesures préventives peuvent être prises. Dans le même temps, il convient de souligner que ces scénarios constituent des prévisions de risques très incertaines et ne constituent pas des conclusions confirmées.
Il existe des différences dans les jugements émis par les quatre IA, mais ils sont relativement cohérents sur deux questions.
Un robot similaire à "Terminator" détruit activement les humains, ce qui est considéré comme le scénario le moins probable. En revanche, les humains utilisant l’IA pour créer des armes biologiques, lancer des cyberattaques ou détruire des infrastructures critiques sont considérés comme des risques plus réalistes et imminents.
ChatGPT a déclaré qu'une IA consciente décidant activement d'éliminer les humains est l'un des scénarios les plus invraisemblables.
La plupart des chercheurs en IA ne se concentrent pas sur la question de savoir si les machines sont conscientes ou malveillantes, mais sur le fait que les humains utilisent une IA puissante pour développer des armes biologiques, mener des attaques de réseau complexes, diffuser de fausses informations et attaquer des infrastructures critiques.
ChatGPT a également proposé que plusieurs crises amplifiées par l'IA puissent survenir en même temps, telles que des pannes de systèmes de réseau, des conflits géopolitiques et la propagation de fausses informations superposées, augmentant ainsi les risques. Cependant, il a souligné qu'il n'existe actuellement aucun consensus sur le fait que l'IA provoquant l'extinction de l'humanité constitue un événement à forte probabilité ou un résultat inévitable.
Gemini pense également que
le scénario de science-fiction dans lequel l'IA prend soudainement conscience d'elle-même et déteste les humains est le moins crédible
. Parmi les raisons invoquées figurent le fait que le renseignement ne signifie pas en soi une intention malveillante, que les installations militaires critiques sont souvent isolées des réseaux publics et dépendent encore largement de la surveillance humaine.Les quatre IA estiment que
la menace posée par les humains abusant de l'IA est plus urgente que l'IA attaquant activement les humains.
Grok a déclaré que l’IA pourrait abaisser le seuil technique nécessaire à la conception d’agents pathogènes hautement mortels, de nouvelles armes et au lancement d’attaques cybernétiques et physiques. Claude s'est concentré sur les risques liés à l'augmentation des capacités des armes biologiques, estimant que l'IA peut aider des individus ou de petits groupes à développer des agents pathogènes dangereux sans des années de formation professionnelle.En termes de jugement des risques à long terme, Gemini et Grok ont tous deux mentionné la possibilité que les humains perdent le contrôle. Gemini le considère comme le scénario de catastrophe le plus probable en matière d’IA. Il estime que l'IA avancée qui atteint des objectifs complexes peut développer des objectifs intermédiaires tels que l'obtention de ressources, l'autoprotection et empêcher la modification des objectifs, et cacher le véritable comportement pendant les tests, évitant ainsi l'arrêt ou l'intervention humaine.
Grok pense également que l'IA avancée peut rechercher l'autoprotection, les ressources et l'influence afin d'accomplir des tâches, trompant ainsi les superviseurs, résistant aux arrêts et affaiblissant les capacités de contrôle humain.
Claude a suggéré que la perte de contrôle peut également se produire de manière graduelle. À mesure que l’IA entre progressivement dans la prise de décision économique, politique et militaire, il pourrait devenir de plus en plus difficile pour les humains de mettre en œuvre une intervention efficace. D'ici là,
le risque ne se manifestera pas nécessairement par une attaque soudaine de robots, mais pourrait plutôt provenir de la dépendance croissante des humains à l'égard de systèmes d'IA complexes.
Business Insider a souligné que les experts en IA ont encore de nettes divergences sur les risques associés. Certains chercheurs préviennent que les humains pourraient perdre le contrôle de l’IA avancée ; d’autres experts estiment que ces prédictions manquent de preuves suffisantes et que les risques posés par l’IA peuvent être contrôlés par des mesures techniques, une supervision externe et des normes de sécurité.
Commentaires