Aujourd’hui, les informations de CCTV ont révélé le chaos du clonage des voix par l’IA. Sur une certaine plateforme sociale,Un blogueur a utilisé l'IA pour simuler la voix du champion olympique Quan Hongchan afin de vendre des œufs locaux.Dans le même temps, les voix de Sun Yingsha et Wang Chuqin ont également été « clonées » et utilisées pour promouvoir les « œufs locaux de Chanbaojia » de manière très médiatisée.
"Quanhongchan", qui a été contrefait par AI, a déclaré dans la vidéo qu'elle avait apporté la marchandise : "Je suis votre Chanbao. J'ai besoin de votre aide aujourd'hui. Chanmei veut aider sa mère et améliorer la vie de sa famille. En même temps, elle partagera les œufs locaux de sa ville natale avec ses fans pour qu'ils les essaient. Aujourd'hui, elle laissera sa mère sortir 300 œufs locaux de sa ville natale pour le bien-être de tous."
La zone de commentaires a montré que de nombreux internautes pensaient à tort qu'il s'agissait du champion olympique lui-même et passaient des commandes pour l'acheter.
De plus, les blogueurs « clonent » les voix de l'acteur Jin Dong et d'autres pour une diffusion vocale en direct 24 heures sur 24.
Selon le rapport, l’enquête du journaliste a révélé queVous pouvez facilement trouver un grand nombre de didacticiels et d’informations de téléchargement de logiciels pour les sons de clonage d’IA sur les plateformes en ligne.
Certains vendeurs ont même déclaré que la voix de n’importe qui pouvait être facilement « clonée » à condition de disposer d’une minute de matériel.
Il est entendu que afin de normaliser davantage l'utilisation du contenu généré par l'IA et de permettre aux utilisateurs de mieux identifier le contenu virtuel, l'Administration du cyberespace de Chine et quatre autres départements ont publié conjointement les « Mesures d'étiquetage pour le contenu synthétique généré par l'intelligence artificielle » (dénommées « Mesures d'étiquetage »), dont la mise en œuvre officielle est prévue le 1er septembre 2025.
Les « Mesures d'identification » précisent que les fournisseurs de services doivent ajouter une identification explicite au contenu synthétique généré tel que le texte, l'audio, les images, les vidéos, les scènes virtuelles, etc.Lors de la fourniture de fonctions telles que le téléchargement, la copie et l'exportation de contenu synthétique généré, il convient de s'assurer que le fichier contient une identification explicite qui répond aux exigences ; une identification implicite doit être ajoutée aux métadonnées du fichier générant du contenu synthétique.