Le PDG de Microsoft, Satya Nadella, a répondu à la controverse sur les fausses images pornographiques générées artificiellement de Taylor Swift. Dans une interview sur NBC Nightly News qui sera diffusée mardi prochain, Nadella a qualifié la prolifération de nus non consensuels générés par l'IA de « choquante, très effrayante » et a déclaré à l'intervieweur Lester Holt : « Je pense que nous devrions agir rapidement à ce sujet. »
Dans une transcription publiée par NBC avant l'émission du 30 janvier, Holt a demandé à Nadella de réagir aux "fausses images pornographiques de Taylor Swift qui ont inondé Internet". Les réponses de Nadella ont réussi à démystifier plusieurs mystères de la politique technologique, mais on sait peu de choses à leur sujet – ce qui n'est pas surprenant lorsqu'il n'existe pas de solution infaillible.
Je tiens à souligner deux points : premièrement, je reviens à ce que je pense être notre responsabilité, à savoir que nous devons mettre en place tous les garde-fous autour de la technologie afin de produire un contenu plus sûr. Il y a beaucoup à faire et beaucoup de choses sont en cours. Mais il s’agit d’une convergence mondiale, sociale – vous savez, je dirais, de convergence sur certaines normes. Ce que nous pouvons faire – en particulier lorsque la loi, les forces de l’ordre et les plateformes technologiques peuvent s’unir – je pense que nous pouvons gérer bien plus que nous ne le pensons et nous nous accordons beaucoup plus de crédit que nous ne le pensons.
Et Microsoft lui-même pourrait avoir quelque chose à voir avec les fausses images Swift. Un rapport de 404Media a révélé que les images provenaient d'une communauté de production de contenu pornographique basée sur Telegram, qui recommandait l'utilisation du générateur d'images Microsoft Designer. En théorie, Designer refuse de générer des images de célébrités, mais les générateurs d’IA peuvent être facilement trompés, et 404 a découvert qu’il pouvait dépasser ses limites en quelques ajustements aux invites. Bien que cela ne prouve pas que les images de Taylor Swift ont été créées à l'aide de Designer, il s'agit d'un défaut technique que Microsoft peut corriger.
Cependant, les outils d’intelligence artificielle ont grandement simplifié le processus de création de fausses photos nues de personnes réelles, ce qui a causé de gros problèmes à des femmes bien moins puissantes et moins célèbres que Taylor Swift. Et contrôler sa production n’est pas aussi simple que de demander aux grandes entreprises de renforcer leurs défenses. Même si les plateformes « de grande technologie » comme Microsoft sont verrouillées, les utilisateurs peuvent recycler des outils ouverts comme StableDiffusion pour générer des images NSFW, bien que des tentatives soient faites pour rendre cela plus difficile. Il y a peut-être beaucoup moins d'utilisateurs accédant à ces générateurs, mais l'incident de Swift montre à quel point le travail d'une petite communauté peut s'étendre.
Nadella a vaguement fait allusion à des changements sociaux et politiques plus importants, mais malgré quelques premières mesures visant à réglementer l'intelligence artificielle, Microsoft n'a pas de solutions claires. Les législateurs et les forces de l’ordre en général ont du mal à gérer les images sexuelles non consensuelles, et la contrefaçon basée sur l’intelligence artificielle ajoute une couche supplémentaire de complexité. Certains législateurs tentent de réorganiser les lois sur la publicité pour résoudre ce problème, mais les solutions proposées présentent souvent de sérieux risques pour la parole. La Maison Blanche a appelé à une « action législative » sur la question, mais elle n’a même pas fourni beaucoup de détails sur ce que cela signifierait.
Il existe d'autres mesures provisoires - telles que les réseaux sociaux limitant la diffusion d'images non consensuelles - mais pour l'instant, le seul plan clair de Nadella est de remettre en état la propre unité d'intelligence artificielle de Microsoft.
Articles connexes :