PimEyes, un moteur de recherche public qui utilise la reconnaissance faciale pour comparer les photos des personnes en ligne, a désormais été interdit aux mineurs en raison de préoccupations concernant la sécurité personnelle des enfants, selon le New York Times. Du moins en théorie. Le nouveau système de détection de PimEyes, qui utilise l'IA de détection de l'âge pour identifier si un visage est celui d'un enfant, est encore en développement. Après l'avoir testé, le New York Times a constaté qu'il était encore difficile d'identifier si la personne photographiée était un enfant sous certains angles, et que l'IA ne pouvait pas détecter avec précision si un adolescent était un adulte.
Le PDG de PimEyes, Giorgi Gobronidze, a déclaré que la société prévoyait de mettre en œuvre de telles mesures de protection depuis 2021. Mais après que l'écrivain du New York Times Kashmir Hill a publié la semaine dernière un article sur la menace que l'IA représente pour la sécurité personnelle des enfants, la fonctionnalité a finalement été entièrement déployée.
Hill a écrit dans l'article que le service avait interdit plus de 200 comptes pour avoir effectué des recherches inappropriées sur des enfants. Un parent a déclaré à Hill qu'elle avait même découvert des photos de ses enfants qu'elle n'avait jamais vues avec PimEyes auparavant. Pour savoir d'où provenaient les images, la mère a dû payer un abonnement de 29,99 $/mois.
PimEyes n'est que l'un des moteurs de reconnaissance faciale au monde actuellement sous surveillance pour violation de la vie privée. En janvier 2020, l'enquête de Hill dans le New York Times a révélé comment des centaines d'organismes chargés de l'application des lois utilisaient un moteur de reconnaissance faciale appelé Clearview AI avec peu de surveillance.
Daly Barnett, expert en technologie à l'Electronic Frontier Foundation, a déclaré à The Intercept l'année dernière : "Ceci n'est qu'un autre exemple d'un problème global majeur dans la technologie, qu'elle ait ou non des capacités de surveillance." Il a également critiqué le manque de mesures de protection des enfants de PimEyes à l'époque : « [PimEyes] n'a pas mis en place de protection de la vie privée dès le début, et les utilisateurs doivent choisir de ne pas voir leur vie privée compromise. »