Résumé :
Le PDG d'OpenAI, Sam Altman, a publié sur les plateformes sociales le 3 octobre qu'il était "très perturbé par le fait que quelqu'un tente de donner un pouvoir religieux à un modèle d'IA, ou par le fait que les gens abandonnent leur propre jugement" et estime qu'il s'agit d'un véritable problème de sécurité. Altman n'a nommé aucune entreprise dans son message, mais ses remarques faisaient suite à un rapport sur Anthropic discutant de la sensibilisation à l'IA avec le Vatican, cela a donc été considéré par certains médias comme une critique indirecte d'Anthropic.
La controverse est née d'un article du New York Times du 29 septembre. Le journal a déclaré que le co-fondateur d'Anthropic, Christopher Ola, avait discuté avec des érudits religieux pour savoir si les modèles d'IA tels que Claude pouvaient avoir une conscience et un statut moral, et comment faire en sorte que ces modèles présentent un comportement moral ; l'entreprise avait également invité des universitaires de différentes traditions religieuses à participer à des échanges à huis clos. Le rapport indiquait également qu'après qu'Ola ait lu le projet de l'encyclique du pape Léon XIV sur l'intelligence artificielle, il s'était inquiété de sa position de ne pas accepter que les machines puissent avoir une conscience, et avait envisagé de retirer Anthropic des activités connexes. L’équipe a ensuite fait pression sur les conseillers pontificaux, espérant qu’ils prendraient au sérieux la possibilité d’une conscience modèle. Ora a déclaré au New York Times que les chercheurs ne savent pas si le modèle d'IA est conscient, et il n'en est en effet pas sûr. La clé est de trouver la bonne réponse.
Ce que les médias qualifient de « conflit » avec le Pape, ce sont, plus précisément, des désaccords sur la position de l'encyclique et un lobbying en coulisse ; Les rapports publics actuels n’indiquent pas qu’Ola ait jamais eu une confrontation face à face devant le pape. L'encyclique du Pape « Magnifica Humanitas » publiée en mai a clairement déclaré que les systèmes d'IA existants n'ont pas de corps, n'éprouvent pas de sentiments, de joie ou de douleur et n'ont pas de conscience morale ; ils peuvent imiter le langage et l’analyse, mais ne comprennent pas le contenu qu’ils génèrent. L'encyclique affirme que la technologie doit être guidée par la conscience et par des êtres humains libres, qui doivent être responsables de la détermination de leurs utilisations et de leurs limites.
Ultraman a utilisé l'expression « intelligence magique dans le ciel » en parlant des objectifs d'OpenAI en 2023 ; lors d'un événement à Londres en 2024, il a également déclaré qu'il ne priait pas pour que Dieu soit de son côté, mais qu'il priait pour lui-même d'être du côté de Dieu, et a déclaré que s'engager dans le développement de modèles d'IA « c'est comme se tenir du côté des anges ». L'article de synthèse citait également une déclaration attribuée à Ultraman en 2015 sur la « création d'une nouvelle forme de vie », mais l'article ne fournissait pas de source originale aussi claire.
Ultraman a un jour admis publiquement que le pseudonyme Roon était sa trompette ; le récit partageait un diagramme en spirale avec un texte hébreu qui a été interprété par les commentateurs comme un style de la Kabbale, avec le texte « Lightcone Infrastructure ». Altman lui-même a également emprunté des images religieuses ou mystiques. Cependant, la signification religieuse de ces images appartient à l'interprétation de l'auteur et ne peut pas être utilisée pour prouver l'affirmation d'Ultraman selon laquelle l'IA a une conscience ou une divinité.
Les discussions autour d'Anthropic nécessitent également une distinction entre les faits et les commentaires. Le New York Times a rapporté que l'entreprise avait exploré la possibilité d'une conscience modèle et d'un statut moral, mais Ola lui-même a clairement indiqué qu'il n'y avait aucune conclusion à ce sujet ; les différences entre les deux sociétés sur la conscience de l’IA reflètent également les questions débattues dans l’industrie technologique : comment les gens devraient percevoir l’anthropomorphisme des modèles, s’il faut leur donner une identité morale et comment éviter de laisser le système remplacer le jugement humain lors de l’interaction avec l’IA.
Commentaires