Meta mise beaucoup sur les lunettes intelligentes pour faire progresser ses activités d'intelligence artificielle et de réalité augmentée, mais les processus internes récemment exposés ont une fois de plus soulevé de fortes questions quant aux limites de la confidentialité. Plusieurs annotateurs de données employés par la société d'externalisation kenyane Sama ont révélé qu'ils devaient chaque jour regarder et annoter un grand nombre de clips vidéo bruts filmés par la fonction « IA en direct (IA en temps réel) » des lunettes intelligentes Meta, qui incluent non seulement des scènes d'interaction quotidiennes, mais impliquent également des scènes extrêmement privées, voire choquantes.

Ces annotations sont un élément clé de la formation du système de vision par ordinateur Meta. Chaque image vidéo annotée manuellement renverra les performances de l'algorithme de son assistant de réalité augmentée. Une fois la fonction « live AI » activée, les lunettes intelligentes lancées par Meta et Ray-Ban continueront à collecter de courtes vidéos et audio via des caméras et des microphones afin d'analyser les scènes vues par l'utilisateur en temps réel et de répondre à ses questions. Les données pertinentes seront ensuite téléchargées sur le système Meta et intégrées dans un vaste ensemble de données de formation pour optimiser les futures versions de l'assistant IA.

Cependant, les employés de Sama affirment que les données téléchargées sont en réalité bien plus privées que ce que les utilisateurs imaginent. Ces annotateurs de données ont déclaré avoir vu à plusieurs reprises des scènes de personnes portant des lunettes bougeant, changeant de vêtements et même ayant des relations sexuelles dans la salle de bain, et la perspective de la prise de vue est celle des lunettes elles-mêmes. Même s'il ne s'agit pas de contenu explicite, les clips pertinents révèlent souvent une grande quantité d'informations sensibles, telles que des cartes bancaires entièrement affichées, des aménagements intérieurs clairement identifiables et même des conversations très privées. Des clips audio documentant des discussions sur les manifestations, les comportements criminels présumés ou la vie privée de chacun ont été intégrés au matériel de formation pour l’algorithme de Meta.

À en juger par les termes publics, Meta a réservé un espace pour cette approche au niveau clérical. La société écrit dans ses conditions de service et sa politique de confidentialité en matière d'IA que les interactions avec les assistants « IA en direct » peuvent être conservées et visualisées par des systèmes automatisés ou par un examen humain, et rappelle explicitement aux utilisateurs de ne pas partager d'informations sensibles. Cependant, selon les médias suédois Svenska Dagbladet et Göteborgs-Posten, les utilisateurs qui portent réellement des lunettes ne semblent généralement pas comprendre que chaque mouvement devant eux peut être transmis à l'étranger et examiné image par image par des entrepreneurs inconnus. Les annotateurs ont révélé que lorsqu'ils se plaignaient à la direction que la nature du contenu était trop personnelle ou que le processus d'annotation était inconfortable, leurs commentaires étaient souvent rejetés d'emblée.

Meta n'a d'abord pas répondu aux demandes répétées des journalistes suédois pendant plusieurs semaines. Lorsqu'un porte-parole a ensuite répondu aux médias, cela se basait toujours uniquement sur les conditions de service et la politique de confidentialité de l'entreprise en matière d'IA, soulignant que le contenu multimédia téléchargé par les utilisateurs lors de l'utilisation de « l'IA en direct » serait traité conformément à ces documents, et a refusé de fournir d'autres commentaires à Straight Arrow News.

Les préoccupations sociales concernant les appareils portables Meta ont continué de croître ces derniers mois. Plus tôt cette année, le New York Times a rapporté que Meta prévoyait d'ajouter des capacités de reconnaissance faciale à ses lunettes intelligentes, citant une note interne. Les groupes de défense des libertés civiles préviennent que lorsque la reconnaissance faciale est combinée à la collecte continue de vidéos, cela pourrait créer un réseau de surveillance mobile dans le monde réel avec une surveillance et une transparence limitées.

En dehors de Meta, des développeurs tiers commencent également à essayer de créer des outils « défensifs » pour faire face à cette menace émergente. Une application Android récemment apparue prétend être capable de détecter si quelqu'un porte des lunettes intelligentes à proximité : l'application analyse des caractéristiques spécifiques du signal visuel ou sans fil et alerte l'utilisateur une fois qu'elle détermine qu'il y a un appareil d'enregistrement portable suspect à proximité.

Meta a souligné que ses lunettes intelligentes allumeront un petit indicateur LED lors de l'enregistrement pour informer les personnes autour d'elles qu'elles filment. Cependant, les experts en matière de confidentialité soulignent que cette conception offre une protection très limitée dans des scénarios réels, en particulier après que les chercheurs ont démontré que le voyant lumineux pouvait être facilement éteint ou contourné.

Aux yeux des régulateurs et des défenseurs de la vie privée, une question clé se pose : un rappel enfoui dans de longues conditions de service peut-il être considéré comme une « notification efficace » d'une collecte et d'un examen manuel d'une telle envergure et en profondeur de données personnelles ? Pour les annotateurs qui doivent « enseigner » à l'IA de Meta comment comprendre le monde chaque jour, la réponse semble évidente : ils savent exactement quel type de contenu ils regardent, et ils sont également conscients du contenu, et la personne impliquée dans le contenu peut ne jamais s'en rendre compte.