Cette semaine, la pop star de renommée mondiale est devenue la dernière victime de la pornographie deepfake après que des images de Taylor Swift générées par l'IA aient été partagées des dizaines de millions de fois sur les plateformes de médias sociaux. En conséquence, la « contrefaçon profonde » est revenue à l’attention des législateurs, et des membres du Congrès américain et même de la Maison Blanche ont maintenant exprimé leur point de vue sur la question.
Des images explicites de la chanteuse Taylor Swift, 34 ans, ont été partagées sur Channel. Mais cela n'a pas empêché la diffusion des images, car elles continuent de devenir virales et auraient été vues plus de 40 millions de fois.
En réponse à cet incident, X a activement supprimé ces images et interdit les recherches de TaylorSwift sur la plateforme afin de tenter de freiner sa propagation. "Nous surveillons la situation de près pour garantir que toute nouvelle violation soit traitée immédiatement et que le contenu en question soit supprimé", a déclaré la société dans un communiqué.
Mais la modération sur la plateforme ne suffit peut-être pas. Aujourd’hui, des membres du Congrès et même de la Maison Blanche se penchent sur la question. Le représentant américain Joe Morelle a déclaré que les images fabriquées par l'IA peuvent causer des dommages émotionnels, financiers et à la réputation irréparables - et malheureusement, les femmes sont affectées de manière disproportionnée.
La représentante démocrate Yvette Clark a déclaré : « L'expérience de Taylor Swift n'est pas nouvelle. Pendant des années, les femmes ont été la cible de deepfakes [sans] leur consentement. À mesure que l'intelligence artificielle progresse, il est devenu plus facile et moins coûteux de créer des informations deepfake. »
L’expérience de Taylor Swift n’a rien de nouveau. Les femmes sont ciblées depuis des années par des deepfakes sans leur consentement. Avec les progrès de l’intelligence artificielle, il est devenu plus facile et moins coûteux de créer de fausses nouvelles.
C’est une question que les deux parties, et même les Swifties, devraient pouvoir aborder ensemble.
– Yvette D. Clark (@RepYvetteClarke) 25 janvier 2024
Comme l'a dit le représentant Clark, ce n'est pas un problème nouveau. Mais avec un objectif aussi prestigieux, la question est devenue un sujet de débat public et pourrait désormais faire l’objet d’une future législation.
Vendredi, la secrétaire de presse de la Maison Blanche, Karine Jean-Pierre, a qualifié ces images de "choquantes" et a déclaré dans un communiqué : "Alors que les sociétés de médias sociaux prennent leurs propres décisions indépendantes concernant la modération du contenu, nous pensons qu'elles ont un rôle important à jouer dans l'application de leurs propres règles pour empêcher la propagation de désinformations et d'images intimes et non consensuelles de personnes réelles."
Au Royaume-Uni, les deepfakes explicites seront illégaux en vertu de la loi sur la cybersécurité en octobre 2023. PornHub, un important fournisseur de médias en ligne pour adultes, a interdit la publication de fausses nouvelles générées par l'IA sur sa plateforme depuis 2018.
Mme Swift n'a pas encore commenté publiquement l'incident.
Que ce dernier incident très médiatisé conduise ou non à une réforme législative, le contenu de l’IA pose clairement déjà des problèmes aux législateurs. Cette semaine encore, nous avons signalé le premier incident connu d'utilisation d'informations générées par l'IA pour supprimer la participation électorale, lorsqu'un faux président Biden a appelé les habitants du New Hampshire pour les exhorter à ne pas voter.