YouTube étend sa nouvelle technologie de « détection de ressemblance » à l'industrie du divertissement pour aider les stars et leurs équipes à identifier et à supprimer de la plateforme le contenu généré par l'IA et les vidéos deepfake, a révélé mardi la société dans un communiqué publié sur son site Internet.

L'outil fonctionne de manière similaire au système Content ID existant de YouTube, qui détecte automatiquement le matériel protégé par le droit d'auteur lorsque les utilisateurs téléchargent des vidéos, permettant ainsi aux titulaires de droits d'auteur de demander plus facilement la suppression ou de participer au partage de publicités pour la vidéo. La détection de portraits se concentre sur l'identification de visages simulés et vise à protéger les créateurs et autres personnalités publiques contre toute exploitation de leur identité sans autorisation - par exemple, les portraits de célébrités étant utilisés à des fins publicitaires frauduleuses, un problème qui est devenu de plus en plus courant ces dernières années.

La technologie de YouTube a été initialement mise à la disposition d'un groupe sélectionné de créateurs dans le cadre d'un programme pilote l'année dernière, et a depuis été progressivement étendue. Ce printemps, YouTube a élargi sa couverture pour inclure des politiciens, des représentants du gouvernement et des journalistes afin de les aider à lutter contre les abus liés aux deepfakes de l'IA. La société a désormais annoncé que cet outil serait étendu aux acteurs de l'industrie du divertissement, notamment aux agences artistiques, aux sociétés de gestion d'artistes et aux artistes célèbres qu'ils représentent. Plusieurs grandes agences hollywoodiennes – dont CAA, UTA, WME et Untitled Management – ​​ont contribué à fournir des commentaires et à peaufiner le nouvel outil.

Il est à noter que l’artiste n’a pas besoin d’avoir une chaîne YouTube pour utiliser l’outil de détection de ressemblance. En coulisses, le système analyse le contenu généré par l'IA sur la plateforme pour détecter toute correspondance avec les informations faciales des participants enregistrés. Une fois le contenu correspondant trouvé, l'utilisateur peut choisir de lancer une demande de suppression conformément à la politique de confidentialité de YouTube, de soumettre une demande de retrait pour atteinte aux droits d'auteur ou de décider de ne prendre aucune mesure. Cependant, la plateforme a également souligné que toutes les vidéos pertinentes ne seront pas supprimées car ses règles autorisent toujours une certaine gamme de parodie et de satire.

YouTube a déclaré que cette technologie sera également étendue pour prendre en charge la dimension audio à l'avenir, ce qui signifie qu'elle devrait identifier et traiter les sons et autres contenus non autorisés synthétisés par l'IA à l'avenir. À mesure que le produit évolue, YouTube plaide également pour des protections plus systémiques au niveau fédéral, en soutenant le « NO FAKES Act » actuellement discuté au Congrès américain. Le projet de loi vise à réglementer la reproduction non autorisée de voix personnelles et de portraits visuels à l'aide de la technologie de l'intelligence artificielle et à fixer des limites juridiques plus claires pour les personnalités publiques et les utilisateurs ordinaires.

Actuellement, YouTube n’a pas divulgué le nombre de demandes de suppression de contenu AI deepfake que l’outil a traitées jusqu’à présent. Cependant, la société a déclaré en mars que le nombre de retraits déclenchés par l'outil de détection de portraits était encore « très faible ». À mesure que la technologie générée par l’IA pénètre de plus en plus les secteurs du divertissement et de la publicité, de plus en plus de personnalités publiques, des créateurs aux politiciens en passant par les stars du cinéma et de la télévision, commencent à s’appuyer sur des moyens techniques au niveau des plateformes pour faire face au risque d’abus de leur image et de leur voix.