Si vous avez été sur TikTok récemment, vous avez peut-être remarqué des vidéos bizarres de célébrités faisant la promotion de produits extrêmement douteux, comme Taylor Swift au son de robot promettant aux téléspectateurs un ensemble gratuit d'ustensiles de cuisine. Toutes les vidéos sont des canulars créés à l’aide de la technologie de génération d’intelligence artificielle – le dernier exemple de la façon dont la technologie est utilisée pour créer des clones virtuels inquiétants de personnes sans leur consentement.
Inutile de dire que ce genre de chose a énervé beaucoup de célébrités. Aujourd’hui, le Congrès américain a introduit une nouvelle législation visant à lutter contre les deepfakes liés à l’IA, en particulier ceux impliquant de fausses mentions de célébrités et la nudité non consensuelle générée par l’IA, qui sont devenus un problème en ligne et sur les campus. Malgré la popularité croissante des sites Web et des applications conçus pour générer des images deepfake, il n’existe actuellement aucune loi globale interdisant la génération d’images basées sur l’IA.
Le nouveau projet de loi s'appelle « No AI Fraud Act » (NoAIFRAUDAct) et a été proposé par la représentante de Floride, María Elvira Salazar, et la représentante de Pennsylvanie, Madeleine Dean. Le projet de loi établira la définition juridique des « droits à l'image et aux droits de voix » et interdira effectivement l'utilisation de fausses images basées sur l'intelligence artificielle pour imiter involontairement d'autres personnes, qu'elles soient vivantes ou non.
Le projet de loi déclare que « chacun a des droits de propriété à son image et à sa voix » et cite plusieurs incidents récents au cours desquels des personnes ont été transformées en étranges robots à intelligence artificielle. Le projet mentionne spécifiquement des vidéos virales récentes présentant des chansons générées par l'IA imitant les voix de pop stars telles que Justin Bieber, Bad Bunny, Drake et The Weeknd.
Le projet de loi cible également spécifiquement la pornographie IA deepfake, affirmant que « toute description numérique ou reproduction vocale numérique contenant du matériel pédopornographique, sexuellement explicite ou contenant des images intimes » répond à la définition du préjudice du projet de loi.
Le projet de loi proposé est un projet de loi complémentaire à un projet de loi similaire du Sénat appelé Loi sur la promotion de l'originalité, la promotion des arts et la sécurité dans le divertissement (NOFAKESAt), qui a été présenté en octobre dernier à la suite de l'incident de synchronisation labiale émouvant de Drake. Le nouveau projet de loi a été présenté le même jour qu'une autre mesure introduite par les législateurs du Tennessee appelée Ensuring the Safety of Likeness, Voice, and Image Act (ELVISAct).
Étant donné que ces projets de loi semblent être en tout ou en partie une réponse aux explosions de célébrités, la grande question est de savoir s’ils protégeront, en pratique, la propriété intellectuelle des gens ordinaires – et pas seulement des pop stars avec des contrats de disques de plusieurs millions de dollars.
Carrie Goldberg, une avocate spécialisée dans les deepfakes et autres cas de harcèlement en ligne, a déclaré à Carte mère : « Le projet de loi a été rédigé en tenant compte des droits de propriété des célébrités et des artistes sur leurs portraits et leurs voix. Cependant, notre système juridique traite la propriété intellectuelle des célébrités différemment de la propriété intellectuelle des personnalités non publiques.
L’exemple le plus courant, a déclaré Goldberg, sont les photos de paparazzi. La loi autorise certains recours pour les célébrités lorsque leurs photos sont prises sans autorisation et utilisées à des fins commerciales. Mais pour les gens ordinaires, les droits sur leurs photos appartiennent uniquement à la personne qui les a prises, et ils ne peuvent rien faire contre la copie de leurs images à des fins autres que le profit – à moins qu'ils n'aient l'argent à dépenser pour des procédures judiciaires coûteuses et souvent longues.
Pour les gens ordinaires, lorsque leur image est exploitée, ce n'est généralement pas à des fins commerciales mais pour les embarrasser ou les harceler ; auquel cas le fautif est rarement celui qui dispose des ressources nécessaires pour que la victime puisse intenter une action en justice.
Le nouveau projet de loi vise à stipuler que chacun a le droit de contrôler sa propre voix et son image pour empêcher les deepfakes, mais les dispositions applicables aux non-célébrités dépendront largement de la capacité de la victime à prouver qu'elle a subi un préjudice. Plus précisément, cela signifie prouver que le « deepfake » a causé « des lésions corporelles ou corporelles », a causé une « détresse mentale grave » ou était de nature sexuellement explicite.
Bien entendu, tout cela n’est qu’une tentative de normaliser la surface d’un problème plus vaste, à savoir que les entreprises technologiques utilisent les données collectées sur Internet pour construire des systèmes d’intelligence artificielle massifs sans mesures d’atténuation fortes des dommages que ces systèmes causeront inévitablement. Dans le procès en cours contre le créateur de ChatGPT, OpenAI, la société a récemment fait valoir qu'elle ne devrait pas être punie pour avoir utilisé du matériel illégal et protégé par le droit d'auteur pour entraîner ses modèles d'intelligence artificielle, car il est « impossible » de créer un système d'intelligence artificielle sans le faire.
Mais la nature des systèmes d’IA en forme de boîte noire construits par des sociétés comme OpenAI, Microsoft et Meta garantit pratiquement que ces mauvaises choses se produiront. Récemment, des chercheurs ont découvert plus de 3 000 images d’abus sexuels sur des enfants dans un ensemble de données massif utilisé pour entraîner presque tous les principaux systèmes d’intelligence artificielle du marché. Les entreprises s’efforcent également de garantir que leurs systèmes d’IA générative filtrent les contenus illégaux, notamment la pornographie deepfake trouvée dans les résultats de recherche d’images sur Google et Bing. L’un des problèmes majeurs est qu’il existe de nombreuses applications créées par de petites entreprises ou des particuliers qui se consacrent à la création de nudité IA non consensuelle, qui sont annoncées sur les principales plateformes de médias sociaux et vendues sur les magasins d’applications.
En fin de compte, a déclaré Goldberg, ces problèmes ne pourront être pleinement résolus que si les entreprises qui construisent ces systèmes d’IA sont tenues pour responsables. : "Ce dont notre société a réellement besoin, c'est de lutter contre l'intelligence artificielle et les deepfakes au niveau systémique, et de traquer les produits malveillants sur les marchés grand public tels que l'App Store et Google Play, qui sont sur le marché dans le seul but de falsifier les images. Nous devons faire pression sur les moteurs de recherche pour qu'ils n'incitent pas les gens à utiliser ces produits ou à promouvoir les sites Web qui publient ces images. Nous devons leur demander de fournir aux victimes un processus simple de service de suppression de contenu."