Résumé :
Un lycée de Pennsylvanie, aux États-Unis, a récemment décidé de désactiver un système de détection d'armes utilisant la technologie de l'intelligence artificielle. Même si le système collectait des données et formait les écoles depuis des mois, il était incapable de faire une distinction fiable entre les armes à feu et les objets courants que les élèves transportent quotidiennement, émettant fréquemment de fausses alarmes. L'école a finalement conclu que l'équipement n'avait pas encore atteint les normes nécessaires à une utilisation réelle.

L'école concernée est la Hempfield Area High School en Pennsylvanie. L'école a participé à un projet pilote mené par CurvePoint pour tester un système de détection d'armes à intelligence artificielle appelé Wi-AI. CurvePoint est une start-up originaire de l'Université Carnegie Mellon spécialisée dans le développement de technologies utilisant des signaux sans fil pour la détection de sécurité.
Le Wi-AI est différent des détecteurs de métaux traditionnels dans le sens où il n'exige pas que les étudiants mettent leurs affaires dans le bac, ni ne s'appuie sur des caméras pour identifier les cibles. Au lieu de cela, il utilise les signaux radio Wi-Fi pour déterminer la forme et les caractéristiques des personnes et de leurs biens.
Le système installe de petits capteurs appelés SensePods près de l'entrée de l'école. Lorsqu'une personne passe à proximité du capteur, l'appareil mesure les changements dans les ondes radio réfléchies sur la surface du corps humain et de ses biens, puis un logiciel analyse ces signaux pour rechercher des caractéristiques similaires à celles d'armes cachées. Une fois qu'une cible suspecte est découverte, le système peut alerter le personnel de l'école par SMS, e-mail ou via le panneau de contrôle administratif.
CurvePoint a déclaré que le système ne nécessite pas de caméras et peut analyser le flux de personnes et l'occupation des bâtiments sans stocker d'informations personnelles identifiables.
Les écoles de Hempfield ont commencé à participer aux tests l'année dernière. Les capteurs installés près de l'entrée collectent en permanence des données lors du passage des étudiants, et même après que les étudiants entrent dans le bâtiment, le système continue de collecter des données afin d'améliorer le modèle de reconnaissance.
Cependant, les résultats réels des tests n'étaient pas idéaux. Le système identifie souvent les objets courants transportés par les étudiants comme des armes potentielles, notamment des classeurs, des bouteilles d'eau en métal et des banques d'alimentation. En raison de la grande variété d’appareils électroniques et d’autres objets que les étudiants transportent quotidiennement avec eux, il est difficile pour les systèmes de faire la différence avec précision entre les objets réellement dangereux et l’attirail ordinaire.
L'école espérait à l'origine que le modèle atteindrait à terme une précision de reconnaissance de 95 %. Ce n'est qu'après avoir atteint cette norme qu'il sera possible de l'utiliser comme principal système de détection de sécurité de l'école. Mais le surintendant du district scolaire de Hempfield, le Dr Mark Holtzman, a admis que le système est encore loin de l'objectif de 95 %.
Le problème, selon Holtzman, n'est pas que le système ne peut rien détecter du tout, mais qu'il y a trop de faux positifs pour répondre aux exigences réelles du déploiement. Il a souligné que les facteurs environnementaux et les problèmes lors de la transmission des données ont affecté la stabilité et la cohérence du système.
Skip Smith, co-fondateur et PDG de CurvePoint, a déclaré que Hempfield était un site de test et d'évaluation pour la technologie de sécurité scolaire de l'entreprise, plutôt qu'un site de déploiement formel.
Smith a reconnu que les tests ont aidé l'entreprise à comprendre les performances du système tout en révélant les problèmes environnementaux qui ont un impact sur la fiabilité et la cohérence. Il a déclaré que la société continuerait à développer et à évaluer la technologie, mais qu'elle ne soutenait pas actuellement un déploiement opérationnel formel et qu'elle n'avait pas de calendrier précis pour sa remise en service.
Étant donné que le projet pilote n'est finalement pas entré dans la phase pleinement opérationnelle, le paiement antérieur effectué par l'école pour l'équipement de détection sera remboursé. Holtzman a déclaré que l'école était toujours disposée à continuer à fournir un environnement de test pour CurvePoint à l'avenir. Si l'entreprise doit utiliser les installations du campus pour une formation continue, les deux parties peuvent continuer à coopérer.
Après le retrait de Wi-AI, Hempfield High School continuera à utiliser le système de détection d'armes OpenGate, en service depuis de nombreuses années. L'école s'est déclarée actuellement assez satisfaite du fonctionnement de cet ensemble d'équipements traditionnels.
Ce n'est pas la première fois que le système de sécurité du campus AI fait une grave erreur d'évaluation. En 2025, un incident similaire s’est produit au lycée Kenwood dans le comté de Baltimore, Maryland, États-Unis. Un étudiant de 16 ans a été encerclé par la police et menotté après qu'un système d'IA exécutant une caméra de surveillance de l'école ait confondu un sac de Doritos dans sa main avec une arme à feu.
La technologie de détection d'armes par l'IA a attiré l'attention des écoles américaines et des gouvernements locaux ces dernières années. Certains systèmes tentent d’utiliser l’intelligence artificielle, des capteurs sans fil et une technologie de détection électromagnétique pour identifier les dangers potentiels sans obliger les étudiants à sortir leurs affaires. Cependant, dans le cadre d'un déploiement réel, l'équilibre entre le taux de fausses alarmes, la sensibilité de détection et l'environnement complexe du campus reste un problème difficile.
Les résultats des tests d'Hempfield montrent également que le bon fonctionnement du système d'IA dans un laboratoire ou un environnement limité ne signifie pas qu'il peut s'adapter directement à des scénarios complexes dans lesquels des centaines, voire des milliers d'étudiants transportent quotidiennement divers objets à l'intérieur et à l'extérieur du campus. Pour les appareils impliqués dans la sécurité du campus, un trop grand nombre de fausses alarmes non seulement alourdit la charge de travail du personnel, mais peut également entraîner la noyade des alarmes réelles dans un grand nombre d'invites invalides.
Commentaires