YouTube renforce l'identification et la gestion des vidéos générées par l'IA et ne repose plus uniquement sur la divulgation volontaire des créateurs. La société a récemment annoncé qu'à partir de mai, son système interne détecterait et étiqueterait automatiquement les vidéos à l'aide de la technologie « IA immersive significative », y compris les vidéos longues et courtes, et que la position et l'importance des balises pertinentes seraient également simultanément améliorées.

Selon les informations publiées par YouTube, la plateforme utilise des labels de contenu IA depuis plus de deux ans. Auparavant, les créateurs devaient principalement déclarer via les outils de Creator Studio : si la vidéo contient du contenu d'IA qui pourrait être confondu avec de vraies personnes, des lieux réels ou des événements réels, il doit être divulgué ; tandis que le contenu qui est manifestement fantastique, dessin animé ou qui prête à confusion de manière irréaliste, comme les licornes courant dans un monde fictif, est exempté de l'étiquetage. YouTube a déclaré que la politique actuelle d'étiquetage de l'IA elle-même n'a pas changé, mais que la plate-forme passera de « l'obligation pour les créateurs de s'auto-déclarer » à un modèle de gouvernance plus actif d'« identification active de la plate-forme + coopération des créateurs ».

Cette décision fait suite à la publication par Google du modèle multimodal Gemini Omni lors de sa conférence des développeurs d’E/S. Gemini Omni peut générer des vidéos de haute qualité qui comprennent des contextes complexes tels que la physique, la culture, l'histoire et la science, soulevant des inquiétudes quant à la prolifération ultérieure de vidéos immersives d'IA. YouTube a déclaré qu'il utiliserait de nouveaux signaux internes pour identifier le contenu généré par l'IA et l'étiqueter automatiquement. Même si le créateur l'oublie ou refuse de le divulguer, le système l'étiquetera en son nom.

En termes de correction de l'étiquetage, si les créateurs estiment que leur contenu a été considéré à tort comme une vidéo IA, ils peuvent mettre à jour le statut de divulgation dans la vidéo. Cependant, si le contenu est généré par les propres outils d'IA de YouTube (tels que Veo ou Dream Screen), le créateur n'a pas le droit de supprimer l'étiquette IA ajoutée par la plateforme. De plus, une fois qu'une vidéo contient des métadonnées C2PA et semble être entièrement générée par l'IA, les balises associées seront attachées de manière permanente à la vidéo. Actuellement, OpenAI a annoncé son soutien à la norme C2PA, et des organisations telles que NVIDIA, Kakao et Eleven Labs ont également rejoint ce camp pour promouvoir la traçabilité du contenu de l'IA.

Avant le lancement de la détection et de l’annotation automatiques, YouTube a élargi la portée de ses outils de détection des deepfakes par l’IA. L’outil d’analyse de correspondance de visage de la plateforme, qui n’était à l’origine disponible que pour tester les célébrités, les personnalités publiques, les politiciens et certains créateurs, peut désormais être utilisé par n’importe quel adulte pour vérifier si son image sur YouTube a été artificiellement synthétisée ou usurpée par l’IA. Sur cette base, YouTube estime qu’il est nécessaire d’élargir simultanément la portée et l’intensité de l’étiquetage automatique des contenus IA.

YouTube ajustera également le placement des étiquettes pour les rendre plus visibles et cohérentes. Auparavant, les étiquettes d'IA étaient généralement masquées dans la colonne de description développée et n'étaient affichées bien en évidence en haut de l'écran vidéo que lorsque la vidéo impliquait des sujets sensibles tels que la santé et l'actualité. Après la révision, pour les vidéos longues, la balise AI sera affichée de manière fixe directement sous le lecteur et au-dessus du texte de description de la vidéo ; pour les vidéos Shorts, il sera directement superposé à la vidéo. La plate-forme a déclaré que cette conception vise à permettre aux utilisateurs d'identifier en un coup d'œil le contenu immersif qui a été modifié par l'IA ou généré par l'IA.

Pour les vidéos qui ne sont que légèrement modifiées par l'IA, animées ou clairement irréalistes (comme la scène de licorne fantastique susmentionnée), YouTube placera toujours l'étiquette dans la description de l'extension plutôt que sous le lecteur ou en la superposant pour éviter toute interruption inutile de l'expérience de visionnage. Il convient de noter que YouTube souligne que la balise IA elle-même n'affectera pas l'algorithme de recommandation vidéo et n'affaiblira pas non plus sa capacité de monétisation, c'est-à-dire que les œuvres marquées comme contenu IA peuvent toujours participer normalement à la distribution et aux revenus publicitaires.

Tout en renforçant la gestion du contenu IA, YouTube continue également d'utiliser la technologie IA pour l'innovation de produits et la mise à niveau de fonctionnalités. La plate-forme a déjà testé et lancé un certain nombre de fonctionnalités d'IA, notamment la fonction de recherche interactive « Ask YouTube », un générateur de playlists d'IA pour les abonnés YouTube Music, le résumé vidéo automatique d'IA, ainsi qu'une série d'outils de création générative et d'outils de génération de musique d'IA pour les courts métrages et les créateurs. Pour YouTube, trouver un équilibre entre l’utilisation de l’IA pour promouvoir le développement de produits et la prévention des risques d’abus de l’IA devient l’une des questions clés de sa stratégie future.