Google a récemment lancé une nouvelle fonctionnalité dans Gemini profondément liée à Google Photos, permettant à cet assistant IA d'extraire des informations directement de la photothèque de l'utilisateur pour générer un contenu d'image plus personnalisé.L'objectif de Google est que les systèmes « utilisent de vraies images de vous et de vos proches » lors de la création d'images IA, plutôt que de compter uniquement sur les utilisateurs fournissant de longues descriptions de leur apparence, des membres de leur famille et de leur style personnel dans les invites.
Ce changement fait partie de la stratégie plus vaste « Intelligence personnelle » de Google, qui vise à connecter Gemini à des applications telles que Photos, Gmail, Recherche, Maps et YouTube afin d'incorporer un contexte plus personnel dans les réponses et de les rendre plus pertinentes pour les utilisateurs. En termes de génération d'images, Gemini utilisera les informations photographiques obtenues en se connectant à Google Photos pour remplir automatiquement les détails, essayant de réduire les problèmes liés à l'écriture de longs mots d'invite de « mini-roman » dans les projets d'invite traditionnels.
Le modèle d'image sous-jacent à l'origine de cette fonctionnalité est Nano Banana 2, qui est le modèle de génération d'images récemment mis à niveau de Google. Officiellement, il se positionne comme un moyen de générer plus rapidement des scènes d’IA qui « vous semblent vraiment pertinentes ». En bref, si l'utilisateur accepte d'activer cette fonctionnalité, Gemini fera automatiquement référence aux photos pertinentes dans l'album de l'utilisateur lors de la génération d'images pour ajuster l'apparence du personnage, le style de la scène et d'autres éléments afin de rendre le résultat plus proche de vous et de votre famille dans la vraie vie.
Cependant, dès que la fonction a été révélée, elle a déclenché une nouvelle série d’alarmes en matière de confidentialité et de controverse publique. De nombreux critiques craignent que les photos de famille, les souvenirs personnels et même diverses photos sensibles soient davantage impliquées dans « l'usine de contenu de l'IA » et converties en une partie du contenu généré par la machine, renforçant la crainte que « les données personnelles soient retraitées dans des matériaux de production de l'IA ». Dans le contexte de la fonctionnalité Recall de Microsoft, qui a suscité de vives réactions en raison de problèmes de confidentialité, ce type d'innovation en matière d'IA qui « approfondit les données du domaine privé de l'utilisateur final » est particulièrement sensible.
À en juger par les informations divulguées par Google, il ne s'agit pas d'un service activé par défaut, mais qui utilise un mécanisme volontaire d'« opt-in ». Google a déclaré que « l'intelligence personnelle » est une fonctionnalité facultative et que les utilisateurs peuvent décider quelles applications ils souhaitent connecter à Gemini. Le premier lot d'objets à accéder à la fonction de génération d'images Photos sont les abonnés Google AI éligibles aux États-Unis. En d’autres termes, Google ne scanne et n’analyse actuellement pas directement tous les albums Google Photos à l’insu de l’utilisateur.
En termes d'utilisation des données, Google souligne que l'application Gemini n'utilisera pas directement la bibliothèque privée Google Photos de l'utilisateur pour la formation des modèles. Dans le même temps, l'utilisateur peut cliquer sur le bouton « Sources » après avoir généré l'image pour voir quelle photo a été sélectionnée par le système comme référence pour guider le processus de génération des résultats actuels. Ces instructions tentent d'atténuer certaines inquiétudes des tiers et de fournir aux utilisateurs un niveau de visibilité et de traçabilité.
Cependant, ces assurances n’ont pas complètement dissipé les doutes. Les défenseurs de la vie privée soulignent que la crédibilité des systèmes dits « facultatifs » dépend en grande partie de la clarté et de l’honnêteté des entreprises dans la description de leurs fonctionnalités, et le bilan des Big Tech à cet égard n’est pas rassurant. Même si elles ne sont pas directement utilisées à des fins de formation, le fait que les images privées des utilisateurs soient utilisées pour l'inférence en temps réel et la génération de contenu peut néanmoins déranger de nombreuses personnes.
D'une manière générale, la situation actuelle n'est pas que Google « l'allume en secret » et analyse par défaut les photothèques de tous les utilisateurs. Mais « laisser l'IA se déplacer librement dans votre album photo privé et extraire des fragments de mémoire pour générer du nouveau contenu » est en soi un concept qui peut facilement mettre les utilisateurs ordinaires sur la défensive. À une époque où les frontières entre les services d’IA et la vie privée sont constamment redessinées, de telles tentatives de produits autour de « l’intelligence personnelle » continueront probablement à devenir le centre de l’innovation technologique et des conflits liés à la vie privée pendant un certain temps encore.