En octobre 2024, un grand nombre de vidéos de doublage du PDG de Xiaomi « Lei Jun » sont apparues sur la plate-forme de vidéos courtes, et diverses vidéos d'imitation et de parodie de doublage sont apparues les unes après les autres. En fait, les voix dans ces vidéos ne proviennent pas de Lei Jun lui-même, mais sont doublées par l'IA.De l'entrepreneur Lei Jun à l'IA produisant des fichiers audio et vidéo du Dr Zhang Wenhong pour vendre des produits pour eux-mêmes, il existe même des criminels qui utilisent l'IA pour synthétiser en profondeur des vidéos afin de commettre une fraude.
Au cours de l’année écoulée, le phénomène de violation de l’audio et de la vidéo par synthèse profonde de l’IA est devenu de plus en plus grave.
Récemment, CCTV News a révélé le chaos de l’audio et de la vidéo de célébrités synthétisées par l’IA.
Auparavant, certains internautes utilisaient la voix d'Andy Lau produite par l'IA pour gagner du trafic pour eux-mêmes. Andy Lau Film Company a également publié une déclaration urgente pour rappeler aux internautes de ne pas tomber dans l'arnaque de la technologie de synthèse vocale de l'IA consistant à forger la voix d'Andy Lau.
Une enquête de CCTV News a révélé qu'il n'est pas difficile de réaliser une synthèse profonde de l'audio et de la vidéo par l'IA, et même sur certaines plateformes d'achat,La technologie de synthèse profonde de l’IA est devenue un outil lucratif pour de nombreuses boutiques en ligne. Il ne coûte que des dizaines de yuans pour personnaliser la synthèse profonde de l'audio et de la vidéo des célébrités.
Les experts ont dit :Les lois et réglementations en vigueur stipulent clairement que la synthèse approfondie, la production et la diffusion d’informations provenant d’autrui sont interdites sans autorisation.
Les magasins en ligne qui reçoivent des commandes de synthèse approfondie d’IA pour produire des vidéos de célébrités constituent déjà des infractions et devraient assumer les responsabilités légales correspondantes.
De plus, non seulement des célébrités, mais aussi des gens ordinaires et même des images animées, s'ils utilisent l'IA pour synthétiser leur audio et leur vidéo sans le consentement de la personne ou du titulaire du droit d'auteur, cela peut également être considéré comme une contrefaçon et devrait en assumer la responsabilité légale.