Résumé :
Le pape Léon XIV a récemment lancé un autre avertissement concernant l'application de l'intelligence artificielle dans le domaine militaire, appelant les gouvernements à prendre des mesures spécifiques pour interdire les systèmes d'armes capables de déterminer de manière indépendante des cibles d'attaque et de mener des frappes mortelles. Il a souligné que les décisions majeures impliquant la vie humaine, la liberté et le recours à la force doivent toujours être sous une supervision humaine efficace, éclairée et responsable et ne peuvent pas être laissées à l'intelligence artificielle pour être prises de manière indépendante.
Le 30 octobre, heure locale, le pape Léon XIV a rencontré au Vatican des scientifiques, des experts techniques et des représentants d'institutions concernées qui ont participé à une conférence spéciale sur l'intelligence artificielle. La conférence, intitulée « L'avenir de l'intelligence artificielle : un dialogue entre le Vatican et la communauté scientifique sur le développement et l'application des technologies intelligentes », a été co-organisée par l'Académie pontificale des sciences de la vie du Vatican et l'Institut de l'avenir de la vie et s'est concentrée sur les problèmes techniques, éthiques et sociaux posés par le développement de l'intelligence artificielle.
Dans son discours, le Pape a rappelé le discours prononcé par son prédécesseur le Pape François devant les dirigeants du Groupe des Sept en 2024. À l'époque, François avait décrit l'intelligence artificielle comme un outil à la fois passionnant et inquiétant, et avait clairement indiqué qu'aucune machine ne devrait avoir le pouvoir de décider de prendre ou non la vie humaine. Léon XIV pensait que cet avertissement était toujours d'actualité.
Léo XIV a souligné que l'avenir de l'intelligence artificielle n'est pas prédestiné. En tant que technologie développée par les humains, l’orientation de son développement dépend en fin de compte des propres choix des humains. Par conséquent, les humains ont non seulement la responsabilité de guider le développement de l’intelligence artificielle, mais doivent également modifier, voire rejeter certaines applications lorsque cela est nécessaire. La vraie question qui doit être discutée n’est pas seulement de savoir ce que l’intelligence artificielle peut faire, mais, plus important encore, à quoi les humains veulent qu’elle serve.
Il a particulièrement souligné que l'intelligence artificielle doit accepter des contraintes éthiques efficaces, notamment en ne permettant pas aux systèmes algorithmiques de décider qui doit être ciblé ou qui doit être soumis à un contrôle aux frontières sans une supervision humaine substantielle. Placer une personne sur une liste de cibles militaires ou sur une base de données de contrôle des frontières risque d’être réduit à un ensemble de données, tandis que les vies réelles et les droits individuels concernés sont ignorés.
C'est pourquoi le Pape a appelé les pays à procéder au soi-disant « désarmement » de l'intelligence artificielle, et a spécifiquement exhorté les pays qui sont sur le point de tenir une conférence à ce sujet à Genève, en Suisse, en novembre, à prendre des mesures concrètes pour promouvoir l'interdiction des armes mortelles autonomes.
Les armes autonomes dites mortelles font référence à des systèmes d'armes capables d'identifier, de sélectionner et d'attaquer des cibles sans intervention humaine directe. Avec le développement de l’intelligence artificielle, de la vision par ordinateur, des drones et des systèmes militaires automatisés, ce type de technologie est devenu un enjeu important dans les débats de la communauté internationale sur l’éthique militaire et les règles de la guerre. La controverse centrale est qu’une fois que les machines auront acquis la capacité de décider de manière indépendante des cibles d’attaque, l’attribution des responsabilités, les conséquences d’une erreur de jugement et le contrôle humain de la guerre pourraient tous être confrontés à de nouveaux défis.
En plus des utilisations militaires, Léon XIV a également exprimé des objections claires quant à la question de savoir si l'intelligence artificielle devrait obtenir la personnalité juridique. Il a souligné que les machines ne sont que des outils, pas des personnes. L'intelligence artificielle n'a pas de corps réels, d'émotions, d'expériences de vie et de relations interpersonnelles, et elle ne peut pas comprendre l'amour, l'amitié, le travail et la responsabilité à partir de sa propre expérience.
Il estime que si le système d'intelligence artificielle se voit attribuer une personnalité juridique ou des droits indépendants, cela pourrait obscurcir le véritable sujet responsable. Lorsque l’IA cause un préjudice, les victimes peuvent être confrontées à un système technique qui ne peut assumer aucune responsabilité morale, et les responsabilités des développeurs, des opérateurs et des utilisateurs réels peuvent donc devenir plus floues.
Le Pape a également souligné que le développement de l'intelligence artificielle doit servir les intérêts communs de l'ensemble de la société et ne peut pas simplement devenir un outil permettant à quelques entreprises et groupes d'intérêt d'obtenir pouvoir et richesse. Les soins médicaux, les connaissances, les outils et les opportunités de développement apportés par le progrès technologique devraient bénéficier de manière plus équitable aux différents pays et groupes sociaux, en particulier à ceux qui en ont le plus besoin.
Selon lui, les débats de principe sur l'éthique de l'intelligence artificielle ne manquent pas actuellement dans le monde. La véritable urgence est d’établir un système capable de transformer ces principes en contraintes pratiques. La communauté internationale doit formuler des normes communes, établir un mécanisme de supervision indépendant et clarifier le système de responsabilité dans le développement et l'utilisation de l'intelligence artificielle, afin que les décisions pertinentes puissent être révisées et que des recours efficaces puissent être apportés en cas de préjudice.
Ce discours poursuit la position centrale de la première encyclique de Léon XIV « Magnifica Humanitas » (« Grande Humanité ») publiée en mai de cette année. Le document cite l’intelligence artificielle comme l’un des sujets clés, appelle les pays à renforcer la supervision juridique pour empêcher le développement technologique de porter atteinte à la dignité humaine, et prévient que l’application de l’intelligence artificielle dans la guerre, sur le marché du travail et dans la prise de décision publique pourrait avoir des conséquences considérables.
L’attention accrue portée par Léon XIV à la question des armes létales autonomes a également rapproché la position du Vatican des discussions en cours au sein de la communauté internationale sur la gouvernance de l’intelligence artificielle militaire. Du 16 au 20 novembre se tiendront à Genève des réunions pertinentes dans le cadre de la Convention des Nations Unies sur certaines armes classiques. L'un des sujets abordés sera la supervision internationale des armes létales autonomes.
Le Pape n'a pas appelé à l'arrêt complet de la recherche sur l'intelligence artificielle, mais a préconisé l'établissement de limites claires pour les applications susceptibles de causer des dommages personnels irréversibles. Il espère que les pays pourront établir des systèmes de réglementation efficaces grâce à la coopération internationale pour garantir que la technologie soit toujours sous la responsabilité et le contrôle de l'homme, plutôt que de permettre que la vitesse de développement de l'intelligence artificielle dépasse la capacité de la société humaine à gérer les risques.
Commentaires