Résumé :
Avec la prolifération rapide du contenu d'intelligence artificielle générative sur Internet, il devient de plus en plus important d'identifier l'authenticité du contenu numérique. Google a officiellement lancé le 7 octobre un site Web de détection SynthID ouvert au public, permettant à tout utilisateur de télécharger des images, des vidéos ou des fichiers audio pour vérifier s'ils ont été générés ou modifiés par l'intelligence artificielle.
En fait, cet outil n’en est pas à ses débuts. Google a ouvert la version test à certains journalistes, organisations médiatiques et chercheurs dès la conférence des développeurs I/O de l'année dernière, et elle est désormais officiellement ouverte aux utilisateurs du monde entier, dans l'espoir d'améliorer la capacité du public à identifier le contenu de l'IA.
SynthID, initialement lancé en 2023, est un ensemble de technologies de tatouage numérique développées par Google. Contrairement aux filigranes visibles traditionnels, SynthID intègre des marques cachées qui sont imperceptibles à l'œil nu et à l'oreille lors de la génération de contenu, de sorte que le contenu ne soit pas affecté lors d'une utilisation normale et puisse être identifié lors de détections ultérieures.
À l'heure actuelle, de nombreux modèles et services d'intelligence artificielle de Google ont adopté cette technologie, notamment le modèle d'image Nano Banana, le modèle vidéo Veo, le modèle audio Lyria et les plates-formes dotées de fonctions de génération de contenu telles que Gemini, Flow, ProducerAI et Vids. Tout le contenu multimédia généré via ces outils intégrera automatiquement les filigranes numériques SynthID.
La plateforme de détection lancée cette fois prend en charge un large éventail de formats de fichiers. Pour les images, il prend en charge JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF et GIF ; pour les vidéos, il prend en charge MP4, MOV et WEBM ; pour l'audio, il prend en charge les formats grand public tels que WAV, MP3, OGG, FLAC, AAC et M4A.
En complément de l'écosystème propre à Google, SynthID évolue progressivement vers une norme intersectorielle. OpenAI, Nvidia et la société Internet coréenne Kakao soutiennent déjà cette technologie, et Apple rejoindrait le camp de support à l'avenir. Cela signifie qu'à l'avenir, les utilisateurs pourront non seulement identifier le contenu généré par Google AI, mais également détecter les fichiers multimédias provenant d'autres systèmes partenaires.
Google a déclaré que le service de détection amélioré peut déjà identifier les filigranes numériques des partenaires et n'est plus limité au contenu généré par le propre modèle de Google. Dans le même temps, OpenAI conserve également sa propre plateforme de détection de contenu pour fournir aux utilisateurs des canaux de vérification indépendants.
En plus des sites Web autonomes, Google a intégré des fonctionnalités de détection SynthID dans l'application Gemini et le navigateur Chrome. Selon les données officiellement divulguées, le nombre de demandes de vérification de contenu initiées chaque jour par les utilisateurs via ces canaux a atteint environ 1 million, ce qui montre que la demande du public pour identifier l'authenticité du contenu de l'IA augmente rapidement.
Cependant, Google admet également que la technologie actuelle de détection de contenu par l'IA n'est pas infaillible. Les solutions de tatouage numérique ne peuvent identifier que le contenu généré à l'aide des normes pertinentes et peuvent ne pas être en mesure de détecter les œuvres d'IA qui n'utilisent pas SynthID ou d'autres normes compatibles. De plus, différents systèmes de marquage et de vérification sont encore utilisés par différentes entreprises, et l'industrie n'a pas encore élaboré de norme unifiée.
Dans le même temps, des entreprises technologiques telles que Microsoft et Meta développent également leurs propres solutions de tatouage numérique et de vérification de contenu. Cependant, il est généralement admis dans l’industrie que les outils de détection, qu’ils soient lancés par Google ou par d’autres fabricants, présentent encore certaines limites. Dans certains cas, ils ne peuvent même pas identifier avec précision le contenu généré par leurs propres modèles.
Néanmoins, alors que la quantité de contenu généré par l'IA continue d'augmenter, y compris les vidéos deepfake, les images d'IA et le contenu de synthèse vocale devenant de plus en plus courants, l'ouverture par Google de la plate-forme SynthID au public est considérée comme une étape importante pour l'industrie technologique afin d'améliorer la transparence du contenu et de lutter contre les fausses informations. À l’avenir, à mesure que de plus en plus d’entreprises rejoindront l’écosystème unifié des filigranes numériques, les utilisateurs d’Internet pourraient disposer d’outils plus fiables pour déterminer la véritable source du contenu en ligne.
Commentaires