Meta a récemment mis fin discrètement à son partenariat avec la société d'externalisation Sama, après que l'entreprise s'est vu confier l'utilisation des données d'image collectées par les lunettes intelligentes Ray‑Ban pour fournir du matériel de formation pour le système d'IA générative de Meta. Par la suite, Sama a annoncé le licenciement de 1 108 employés, dont certains ont déclaré avoir été licenciés en « représailles » après avoir révélé aux médias que les vidéos qu'ils avaient visionnées contenaient une grande quantité de contenu hautement privé.
L'incident a été révélé pour la première fois en février de cette année. Des employés de Sama à Nairobi, au Kenya, ont déclaré à deux journaux suédois que leur travail consistait notamment à étiqueter les vidéos provenant de lunettes intelligentes, souvent sans que les personnes présentes dans les images sachent qu'elles étaient filmées. Ces lunettes intelligentes Ray‑Ban disposent d'un assistant IA intégré et doivent enregistrer en continu de l'audio et de la vidéo, dont une partie sera utilisée comme données de formation de l'IA, puis des annotateurs humains compléteront et amélioreront le contenu difficile à comprendre pour l'IA.
Meta a déclaré que ses conditions d'utilisation expliquent aux utilisateurs comment les données pertinentes seront utilisées et que les lunettes doivent obtenir l'autorisation explicite de l'utilisateur avant d'activer le mode IA. Cependant, plusieurs employés de Sama ont déclaré que les images avec lesquelles ils sont entrés en contact incluaient non seulement des informations financières telles que des comptes bancaires et des conversations privées, mais également des images de nus dans les toilettes et des scènes de comportement intime, qui dépassaient clairement les limites cognitives du public pour la collecte de données de routine.
Après la publication des rapports d'investigation des médias, Meta a annoncé qu'elle annulait son contrat avec Sama, affirmant que la société "n'avait pas respecté les normes de Meta". Sama a immédiatement répondu qu'elle n'avait jamais reçu de retour formel indiquant que la qualité de son travail était « inférieure aux normes ». Dans le même temps, certains employés ont révélé que l'entreprise, dans le cadre de mesures de sécurité renforcées, les faisait « travailler » presque sans rien faire et qu'elle était soupçonnée d'avoir utilisé des enquêtes internes pour cibler les « lanceurs d'alerte » qui avaient annoncé la nouvelle aux médias.
Ce n’est pas la première fois que Sama est impliquée dans des controverses liées au travail et à l’éthique liées à l’IA. Cette société d'externalisation basée en Californie a été chargée par OpenAI de fournir des services de formation pour ChatGPT, qui sera officiellement lancé en 2022. Afin de réduire les contenus nuisibles produits par les chatbots, Sama a fait en sorte que les employés kenyans examinent et filtrent pendant une longue période les contenus texte et image extrêmement percutants pour moins de 2 dollars par jour. Le travail concerné était susceptible de causer des dommages évidents à la santé mentale des employés. La même année, Meta et Sama ont également été accusés de recrutement d'employés au moyen d'offres d'emploi trompeuses, de trafic d'êtres humains déguisé et de licenciement de travailleurs qui tentaient de former un syndicat.
Outre les questions liées aux droits du travail, cet incident a une fois de plus mis au premier plan les risques liés à la vie privée liés aux lunettes intelligentes. Dès l'ère des Google Glass, ses capacités d'enregistrement étaient fortement contestées par l'opinion publique en raison de la possibilité d'une « surveillance invisible » dans l'espace public. Aujourd'hui, après que Meta a « relancé » la catégorie avec des produits plus discrets et proches de l'apparence des lunettes de tous les jours, certains utilisateurs ont été photographiés les portant lors de procédures judiciaires, certains ont permis l'enregistrement lors d'opérations de police et des étudiants ont utilisé des lunettes intelligentes pour tricher aux examens.
Alors que les appareils portables continuent de chauffer, d’autres géants de la technologie accélèrent également leur déploiement. Selon certaines informations, Apple teste actuellement jusqu'à quatre modèles de lunettes intelligentes, dans le but de concurrencer de front les produits Ray‑Ban de Meta à l'avenir. Avec la tendance à l’intégration profonde de l’IA et des dispositifs de détection, trouver un équilibre entre expérience innovante, vie privée et droits du travail devient un problème fondamental que l’industrie technologique ne peut éviter.