Le successeur du pape catholique François, le pape américain Léon XIV, a publié lundi sa première encyclique depuis son entrée en fonction : « Magnifica Humanitas » (qui signifie « La grandeur de l'humanité »). Ce document programmatique de 40 000 mots vise directement les géants technologiques de la Silicon Valley et appelle à une réglementation urgente et stricte de l’intelligence artificielle, traçant ainsi un front clair entre l’Église et le centre du pouvoir technologique.

Lors d'une conférence de presse au Vatican, le pape n'a pas qualifié l'IA de « intrinsèquement mauvaise », mais a clairement souligné qu'elle n'était « pas neutre » car elle porte inévitablement l'empreinte morale de son créateur. Il a fermement condamné la recherche et le développement actuels en IA comme étant motivés par une « culture du pouvoir » et la concurrence géopolitique, et s'est montré encore plus préoccupé par le fait que quelques entreprises pourraient créer « de nouvelles dépendances, exclusions, manipulations et inégalités » en monopolisant les données et la puissance de calcul.

Le pape a lancé trois appels principaux dans l'encyclique : premièrement, il a appelé au « désarmement » de l'IA et à la libérer de la logique de la « concurrence armée » entre les entreprises et les militaires. Il a notamment réclamé une interdiction stricte de confier entièrement le pouvoir de décision en cas de grève mortelle à des systèmes automatisés ; deuxièmement, critiquer l’IA intensifiera le piétinement de la dignité du travail, rappelant aux développeurs qu’ils ne doivent pas simplement le faire pour le plaisir. La poursuite du profit « sacrifie systématiquement les emplois » et traite les gens comme des outils jetables ; troisièmement, face à « l’accélérationnisme » ou au « transhumanisme » prônés par certaines élites de la Silicon Valley, le pape a clairement averti que s’appuyer uniquement sur une « IA éthique » formulée par quelques entreprises privées n’est pas digne de confiance, et qu’il faut établir « un cadre juridique solide et une supervision indépendante ».

L'arrangement le plus frappant de cette cérémonie de lancement est que le pape a spécialement invité Christopher Orlacher, co-fondateur de la grande société d'IA Anthropic, à s'asseoir à ses côtés. Orlacher a admis lors de la réunion que l'IA "la possibilité de remplacer le travail humain à grande échelle est réelle" et a admis que même les laboratoires d'IA de pointe sont souvent confrontés à "des incitations et des contraintes qui entrent en conflit avec la bonne chose".

Le New York Times a commenté que la décision du pape perpétue la tradition catholique d'agir en tant qu'arbitre moral lors de moments historiques clés tels que la « Révolution de l'imprimerie ». Les médias estiment généralement que cette encyclique constitue non seulement une réfutation puissante de la vision du monde de la Silicon Valley, mais qu’elle pose également une nouvelle étape morale pour le débat mondial sur l’éthique et la gouvernance de l’IA.

Articles connexes :

Le pape nomme rarement Musk : un salaire de 1000 milliards de dollars est trop exagéré et l'écart de revenus est hors de contrôle

Le Pape a-t-il écrit un document sur la nécessité de se méfier de l’IA ?