Alors que de plus en plus de créateurs se tournent vers l’intelligence artificielle pour l’expression artistique, on constate également une pression plus large en faveur de la transparence dans l’implication de l’intelligence artificielle dans la création de contenu. Pour résoudre ce problème, TikTok a annoncé aujourd'hui qu'il lancerait un nouvel outil permettant aux créateurs d'annoter le contenu généré par l'IA et commencerait à tester d'autres méthodes d'annotation automatique du contenu généré par l'IA.
La société a déclaré qu'elle pensait que l'introduction de balises IA était nécessaire car le contenu de l'IA pourrait dérouter ou induire en erreur les téléspectateurs. Bien entendu, TikTok a mis à jour sa politique sur les médias synthétiques, obligeant les gens à étiqueter les contenus d'intelligence artificielle contenant des images, des sons ou des vidéos réalistes (comme des deep fakes) pour aider les téléspectateurs à clarifier les tenants et les aboutissants de la vidéo et empêcher la propagation d'informations trompeuses. Les politiques de TikTok lui permettent de supprimer les images non divulguées d'une intelligence artificielle réaliste.
Cependant, mis à part les cas extrêmes où l’IA est utilisée pour induire intentionnellement les utilisateurs en erreur, certains contenus générés par l’IA peuvent osciller entre paraître authentiques et faux. Dans cette zone grise, les utilisateurs finaux apprécieront généralement plus de transparence afin de pouvoir savoir si le contenu qu’ils consultent a été fortement modifié ou créé à l’aide de l’intelligence artificielle.
TikTok lance maintenant un nouvel outil qui permettra non seulement aux créateurs de se conformer plus facilement aux politiques existantes en matière de médias synthétiques, mais signalera également tout autre contenu entièrement généré à l'aide de l'IA ou qui a été fortement modifié par l'IA. Les créateurs peuvent utiliser l'outil lorsqu'ils téléchargent une vidéo, et TikTok ne veut pas que les créateurs reviennent en arrière et ré-étiquetent leurs vidéos passées.
Lorsqu'un créateur utilise le nouvel outil, TikTok affichera un message sous le nom d'utilisateur de la vidéo indiquant que le créateur a marqué la vidéo comme générée par l'IA. Cependant, TikTok ne pénalisera pas les créateurs s’ils n’étiquetent pas le contenu d’intelligence artificielle qui ne relève pas des politiques existantes en matière de médias synthétiques.
En outre, TikTok a également déclaré développer une méthode pour détecter et étiqueter automatiquement le contenu de l’intelligence artificielle. Cette semaine, TikTok commencera à tester une étiquette « généré par l'IA » qui s'appliquera à terme à tout contenu détecté comme étant modifié ou créé à l'aide de l'IA.
La société a refusé de révéler des détails spécifiques sur la façon dont sa technologie recherchera d'éventuels contenus d'IA, notant que le partage de ces détails pourrait permettre à des acteurs malveillants de contourner ses capacités de détection. TikTok a toutefois indiqué qu'elle testerait différents modèles de détection de l'IA et qu'elle « évaluait » un partenariat de provenance visant à aider la plateforme à mieux détecter l'IA en intégrant des balises d'IA dans le contenu lui-même.
Ces derniers mois, OpenAI et Google ont annoncé leurs propres capacités de détection de l’IA, et l’étiquetage de l’IA devient une pratique courante parmi les grandes plateformes. Instagram semble également travailler sur une fonctionnalité permettant de mettre en avant le contenu créé ou édité à l'aide de l'intelligence artificielle. L’Union européenne fait pression pour que les plateformes étiquetent le contenu de l’intelligence artificielle comme règle générale pour lutter contre la désinformation.
Pour accroître la transparence, TikTok va désormais également renommer tous les effets spéciaux qui utilisent l'intelligence artificielle pour indiquer clairement « IA » dans le nom. C’est quelque chose qu’il a précédemment refusé de divulguer. En fait, lorsque le filtre « BoldGlamor » de TikTok est devenu populaire pour sa superbe technologie permettant de changer le visage des utilisateurs, certaines personnes ont soupçonné que le filtre n'utilisait pas l'AR (technologie de réalité augmentée), mais l'IA. Cependant, TikTok a refusé à l’époque de répondre aux demandes des médias quant à savoir si le produit était une intelligence artificielle.
Avec le nouveau changement d’étiquette, les utilisateurs peuvent désormais déterminer en un coup d’œil quels filtres TikTok utilisent l’IA. La société a déclaré que ses lignes directrices mises à jour pour les créateurs d’effets maison les obligeraient à faire de même.
TikTok a noté que lors du développement de nouvelles balises d'IA, elle avait consulté son comité consultatif de sécurité et des experts de l'industrie, dont le Dr David G. Rand du Massachusetts Institute of Technology, dont les recherches ont examiné les réactions des utilisateurs à différents types de balises d'IA. À cette fin, TikTok espère que le terme « génération d’intelligence artificielle » pourra être largement compris par différents groupes de personnes.
Dans les semaines à venir, TikTok lancera également des vidéos éducatives et d’autres ressources d’éducation aux médias pour aider les utilisateurs à mieux comprendre l’intelligence artificielle.
Ces mises à jour font suite aux autres initiatives de TikTok autour de l'intelligence artificielle dans les médias, notamment un engagement en février à rejoindre le Partenariat sur les pratiques responsables de l'IA pour les médias synthétiques, un code de bonnes pratiques de l'industrie pour la transparence et l'innovation responsable dans l'intelligence artificielle. En août de cette année, l'entreprise s'est également associée à l'organisation à but non lucratif Digital Moment pour organiser une table ronde avec des jeunes afin de comprendre leurs points de vue sur le développement en ligne de l'intelligence artificielle.
Les balises IA sont déployées à partir d'aujourd'hui, mais vous ne les verrez peut-être pas tout de suite tant que le déploiement n'est pas terminé.