Récemment, TikTok teste à petite échelle un nouvel outil sélectif, conçu pour aider les créateurs à identifier si leurs portraits sont utilisés sans l’autorisation de la technologie de l’IA.Selon le porte-parole américain de TikTok, Zachary Kizer, l'outil est actuellement ouvert aux tests pour certains créateurs américains, ce qui signifie également que la plateforme a franchi une étape substantielle dans la lutte contre les contenus profondément faux. Ses mesures sont cohérentes avec la pratique antérieure de YouTube consistant à ouvrir des fonctions similaires à tous les utilisateurs adultes.
Si les créateurs participant au test souhaitent utiliser cette fonctionnalité, ils doivent d'abord effectuer une vérification d'identité via la société tierce Jumio, y compris l'analyse des selfies en temps réel et la vérification de l'identité. En réponse aux problèmes de confidentialité, Kaiser a clairement indiqué que TikTok ne conserverait pas les documents d'identité des créateurs et que les informations faciales pertinentes ne seraient utilisées que pour la comparaison des portraits afin d'aider à identifier les abus potentiels non autorisés des portraits.
Une fois la vérification d'identité terminée, le système de TikTok analysera automatiquement le contenu de la plateforme pour découvrir les œuvres générées par l'IA susceptibles d'utiliser l'image du créateur. Après avoir obtenu les résultats de l'analyse, les créateurs peuvent examiner le contenu identifié par le système et soumettre des rapports à la plateforme pour les publications et les comptes dont il est confirmé qu'ils ne sont pas autorisés.