Résumé :
En février 2026, une école primaire de Minab, une petite ville du sud de l'Iran, a été attaquée par deux missiles Tomahawk le premier jour de la guerre. La frappe aérienne a tué plus de 150 personnes, dont au moins 123 enfants. Un document d'analyse interne du Pentagone montre qu'un système de ciblage par intelligence artificielle développé par Palantir a joué un rôle clé dans la tragédie.
Les enquêteurs ont découvert que les analystes du Commandement central américain accordaient une confiance quasi aveugle à un système appelé Maven Smart System.
Dans le même temps, une note clé du renseignement qui aurait pu corriger une erreur de calcul fatale était enfermée dans un système isolé dont personne ne se souciait et n'a jamais été communiquée aux personnes qui ont formulé le plan de frappe aérienne.
Une tragédie évitable est devenue une réalité étape par étape.
Maintenant, ce document d'enquête dévoilé remet sous les projecteurs la question des limites de la prise de décision militaire assistée par l'IA.
Triple chute : IA, vieille intelligence et chaînes brisées
Selon le document interne obtenu par Bloomberg, les enquêteurs ont conclu à trois échecs superposés.
Le premier est une dépendance excessive à l'égard du système d'IA : certains utilisateurs s'attendent à ce que Maven marque automatiquement les enregistrements obsolètes ou les informations contradictoires, mais ne peuvent pas expliquer pourquoi le système fait cela.
Deuxièmement, les données des services de renseignement elles-mêmes sont sérieusement obsolètes. L’installation de Minab a été cataloguée pendant longtemps comme une installation du Corps des Gardiens de la révolution islamique iranienne, sur la base d’informations anciennes.
En fin de compte, les effectifs chargés de vérifier les cibles et d'éviter les blessures accidentelles aux civils ont été considérablement réduits. Les trois omissions se sont superposées, conduisant à la tragédie finale.
Aucun de ces trois éléments ne peut être fatal à lui seul, mais lorsqu'ils surviennent simultanément dans la chaîne décisionnelle du même missile, le résultat devient irréversible.
Système Maven : les soucis cachés derrière les décisions infimes
Maven Smart System est appelé « plateforme d'intégration et de ciblage de données basée sur l'intelligence artificielle » utilisée pour accélérer l'analyse du renseignement et la prise de décision.
Il peut réduire en quelques minutes seulement la tâche consistant à cocher une liste d'objectifs qui prenait initialement des heures.
Le coût de l'amélioration de l'efficacité est que le processus de révision est systématiquement compressé, laissant de moins en moins de temps et d'espace pour la révision manuelle.
Les images satellite commerciales montrent en effet le problème depuis longtemps : en 2017, la clôture de l'école était physiquement séparée de la base militaire adjacente ; en 2018, les images ont clairement capturé les panneaux colorés de la clôture, du terrain de football et du terrain de jeu.
Palantir a répondu plus tard que la société n'était pas responsable des données sous-jacentes et n'était pas responsable de l'identification des failles des renseignements.
Après les frappes aériennes, la société a ajouté de nouvelles fonctions au système pour réexaminer les renseignements de base et signaler les contradictions et les inexactitudes qui auraient pu passer inaperçues lors d'un examen manuel. On dit que des anomalies similaires ont été découvertes.
C'est juste que tout cela est arrivé trop tard.
Pour les analystes en première ligne à l'époque, les jugements émis par le système étaient souvent considérés comme des réponses toutes faites plutôt que comme des informations de référence nécessitant une vérification croisée.
Note oubliée : une alerte qui n'est jamais arrivée
Dès 2019, un analyste avait remarqué des changements dans les installations de Minab et les avait documentés.
Cependant, ce dossier est stocké dans un système qui n'est pas connecté à la principale base de données du renseignement militaire, agissant comme un îlot d'informations.
Elle n'a jamais été transmise aux personnes qui ont finalement formulé le plan du raid aérien, comme une lettre qui n'a jamais été envoyée.
Ce qui est encore plus alarmant, c'est que le nombre d'équipes dédiées chargées de vérifier les cibles et d'éviter les blessures accidentelles des civils a chuté d'environ 90 % ces dernières années.
L'équipe compétente du commandement central a été réduite de 10 personnes à une seule personne, ce qui a empêché personne de procéder à un examen final de cette installation avant le lancement du missile.
Les erreurs techniques ne sont que superficielles. Les véritables lacunes sont enfouies dans le déploiement humain et la conception des processus.
Un dossier qui aurait dû être vérifié en premier dort tranquillement dans les fissures du système depuis plusieurs années.
L'énigme de la responsabilité : caractérisation des crimes de guerre et réponse tardive
L'équipe d'enquête internationale indépendante des Nations Unies a récemment conclu que les États-Unis avaient des motifs raisonnables de croire qu'ils avaient commis le crime de guerre d'une « attaque aveugle ».
Le rapport souligne que les États-Unis « n'ont pas pris toutes les mesures possibles pour vérifier si l'école était une cible militaire ». Ce manquement au devoir allait au-delà de la simple négligence.
En réponse, un porte-parole du Pentagone a déclaré que « les États-Unis ne ciblent pas les civils », mais a refusé de commenter le rapport des Nations Unies.
En mars de cette année, plus de 120 démocrates de la Chambre des représentants des États-Unis ont écrit au secrétaire à la Défense pour lui demander quel était le rôle spécifique de Maven et d'autres outils d'IA dans cette erreur de jugement.
Le Pentagone n'a pas encore fait de réponse publique, citant l'enquête en cours.
Cet incident reflète une tendance plus large : les militaires et les forces de l'ordre s'appuient de plus en plus sur les outils d'IA, mais manquent de mécanismes de vérification et de responsabilisation correspondants.
Le véritable danger ne sera peut-être jamais l'algorithme lui-même, mais l'habitude humaine d'accepter les conclusions des machines sans vérification.
Articles connexes :
L'armée américaine s'est préparée à intercepter et à inspecter des navires chinois en raison de renseignements erronés apportés par une erreur de jugement de l'IA, créant presque un conflit international
Commentaires