Résumé :
Le nouvel agent d'intelligence artificielle "Muse", récemment lancé par Meta, a été impliqué dans une grave controverse sur l'atteinte à la vie privée. Des tests pertinents ont révélé que l'outil d'IA lisait et synchronisait un grand nombre d'enregistrements de discussion dans la base de données « Messages » (Messages) au niveau du système des appareils Apple sans autorisation explicite de l'utilisateur, ou même lorsque les autorisations pertinentes étaient explicitement désactivées.
Muse est un agent d'IA promu par Meta, visant à aider les utilisateurs dans la récupération de données, la génération de présentations et l'assistance aux achats. Meta affirme officiellement que le système fonctionne sur un ordinateur virtuel dédié et peut connecter diverses applications et sources de données pour fournir des interactions personnalisées. Meta promet officiellement qu'il respectera strictement les autorisations système définies par les utilisateurs et n'accédera jamais aux données non autorisées. Cependant, Meta conserve également une clause de non-responsabilité dans la documentation du produit, indiquant que l'agent peut commettre des erreurs ou entreprendre des « actions inattendues ».
Le chroniqueur des médias technologiques Jason Aten a découvert de graves excès dans ses tests. Atten a installé Muse sur un iPhone et un Mac mini qu'il utilise pour évaluer les outils d'IA. Un jour seulement après l'installation, Muse lui a recommandé de manière proactive des sujets d'articles sur la base de conversations privées dont il avait déjà discuté avec son partenaire de podcast par SMS. Interrogé, Muse a d'abord affirmé que les informations pertinentes provenaient de bannières de notification contextuelles pour les appels entrants ou les messages texte. Cependant, une enquête technique ultérieure a révélé que Muse avait synchronisé et capturé jusqu'à 187 000 lignes d'enregistrements de texte dans la base de données d'informations Apple locale sans autorisation et les avait téléchargés sur le cloud alors que le système n'accordait pas « l'accès complet au disque » et n'obtenait clairement pas l'autorisation de lire les messages texte.
Cette anomalie montre que Muse n'a pas seulement intercepté les conversations Messenger appartenant à Meta, mais a également contourné les restrictions du système et extrait de force les données historiques natives SMS et iMessage des appareils Apple. La synchronisation de centaines de milliers de lignes de données en seulement 24 heures signifie que le programme lit complètement tous les fichiers de discussion historiques accumulés par l'appareil dans le passé.
Des analystes externes ont souligné que cet incident reflète le fait que les géants de la technologie déclenchent une crise plus grave en matière de confidentialité en promouvant l'IA générative. Auparavant, Meta avait été largement critiqué pour avoir demandé aux utilisateurs d'autoriser le téléchargement complet des photos de l'album afin de « générer de l'inspiration pour les publications ». Ses lunettes intelligentes sont également fréquemment confrontées à des risques de violation de la vie privée. Le comportement de Muse a cette fois encore révélé qu'en l'absence de barrières techniques et de supervision efficaces, la collecte de données personnelles par le système d'IA est presque hors de contrôle. Même si les utilisateurs ordinaires choisissent de ne pas utiliser activement ces produits, il existe toujours un risque de fuite passive de leurs interactions privées avec les contacts qui installent le logiciel. À l'heure actuelle, Meta n'a pas encore fourni d'explication raisonnable sur la manière dont Muse contourne les autorisations sous-jacentes du système pour lire des données tierces.
Commentaires