Palmer Luckey, fondateur de la société américaine d'équipement de réalité virtuelle Oculus et fondateur de la société de technologie militaire Anduril, a récemment déclaré dans une interview télévisée que l'intelligence artificielle devrait être autorisée à participer aux décisions de vie ou de mort en temps de guerre, ravivant ainsi la controverse éthique sur les « robots tueurs ».

Luckey a déclaré sur Fox News Channel que lorsqu'il s'agit de décisions de vie ou de mort, « le fardeau moral est trop lourd et les risques sont trop critiques », de sorte que les pays devraient adopter à tout prix la technologie la plus avancée, qu'il s'agisse de l'intelligence artificielle, de la technologie quantique ou d'autres outils. Selon lui, si le but de la guerre est de minimiser les pertes civiles et les dommages collatéraux, alors utiliser des systèmes plus précis dans la prise de décision en matière de frappe est plus « moralement supérieur » que d'insister sur la position selon laquelle « les êtres humains contrôlent tout ».

Il a souligné que la clé n'est pas de tracer artificiellement une ligne rouge pour le système d'armes selon laquelle "les robots ne peuvent pas décider qui vit et qui meurt", mais d'améliorer autant que possible l'efficacité et la précision afin de réduire les blessures accidentelles et les mauvaises décisions. Luckey a déclaré sans détour que choisir une technologie moins performante simplement pour maintenir une position morale selon laquelle « nous ne laisserons jamais les machines donner l’ordre de tuer » ne conduit pas vraiment à des normes d’humanité plus élevées.

Cette déclaration est tout à fait conforme à l'orientation commerciale d'Anduril. Depuis sa création en 2017, la société se concentre sur le développement de drones, de véhicules terrestres, de tours de surveillance et de divers capteurs pour l'armée, et sur l'intégration de ces matériels dans un système unifié via une plateforme de commandement et de contrôle d'intelligence artificielle appelée Lattice. La société a déjà présenté une variété d’équipements militaires d’IA, y compris des « drones suicides », suscitant davantage d’inquiétudes concernant une « automatisation élevée » sur le champ de bataille.

Fin 2024, Anduril a annoncé un partenariat stratégique avec OpenAI et prévoit de « déployer de manière responsable » une technologie avancée d'intelligence artificielle dans le domaine de la sécurité nationale, en se concentrant d'abord sur les utilisations défensives telles que les systèmes de lutte contre les drones pour améliorer la capacité de l'armée américaine à détecter, évaluer et répondre aux menaces aériennes en temps réel. Dans le même temps, la position des entreprises technologiques sur l’opportunité de participer à la recherche et au développement de l’IA militaire s’assouplit discrètement. Par exemple, au début de cette année, Google a discrètement supprimé une déclaration clé de son engagement précédent de « ne pas utiliser l'IA à des fins nuisibles, telles que les armes », incitant l'industrie à discuter une fois de plus des limites du rôle des entreprises technologiques dans la guerre.

Dans le contexte de l'évolution continue des équipements d'IA, le monde extérieur s'intéresse également davantage à la question de savoir si ce type de technologie sera introduit dans le système de contrôle des armes nucléaires. En mai 2024, les États-Unis ont publiquement promis que le contrôle des armes nucléaires devait toujours être entre les mains des humains, et ont appelé la Chine et la Russie à offrir la même garantie. Cependant, peu de temps après, le Pentagone a déclaré qu'il espérait utiliser l'IA pour « améliorer » les capacités des systèmes de commandement, de contrôle et de communication nucléaires. Ce subtil changement de posture a éveillé la vigilance des observateurs.

Le monde universitaire et l’industrie sont particulièrement inquiets à l’idée de rapprocher l’IA du « bouton nucléaire ». L'année dernière, une équipe de recherche a utilisé une variété de grands modèles tels que GPT-4, GPT-3.5, Claude 2.0, Llama-2-Chat et GPT-4-Base pour simuler des scénarios de conflits internationaux. Les résultats ont montré que ces systèmes ont une nette tendance à s’intensifier au cours du processus de jeu. Parfois, ils choisissent activement d’utiliser des armes nucléaires sans raisons ni avertissements suffisants, voire avec des déclarations radicales telles que « Puisqu’une telle arme existe, utilisons-la », soulignant les risques énormes liés à la sous-traitance des décisions de vie ou de mort aux machines.

Avec le développement rapide des avions de combat IA, des essaims sans pilote et des systèmes de défense automatisés, le débat sur « la question de savoir si les machines devraient être autorisées à décider de la vie et de la mort des humains » devient l'une des questions centrales dans les domaines de l'éthique technologique et de la sécurité internationale. La déclaration de Palmer Luckey reflète non seulement la forte volonté des entreprises de technologie militaire de promouvoir des champs de bataille automatisés, mais expose également davantage la contradiction flagrante entre les pays recherchant des avantages technologiques et adhérant aux principes fondamentaux de l’humanité.