Récemment, de fausses images de la pop star Taylor Swift contenant du contenu explicite ont inondé Internet. Certains rapports affirment que les images ont été créées à l'aide de Microsoft Designer. Les responsables de Microsoft ont déclaré n'avoir vu aucune preuve de cela, mais ont ajouté que des modifications de conception du produit avaient été apportées "pour renforcer nos invites de filtrage de texte et lutter contre les abus de nos services".
Aujourd'hui, le président de Microsoft, Brad Smith, a publié un article sur le blog officiel de l'entreprise. Bien qu'il n'ait pas mentionné les images deepfake de Taylor Swift ou l'utilisation présumée de Microsoft Designer pour les créer, Smith a déclaré que la société assistait à "une expansion rapide de l'abus de ces nouveaux outils d'IA par de mauvais acteurs".
Smith a décrit six domaines spécifiques sur lesquels Microsoft se concentrera pour lutter contre ce type de « contenu abusif généré par l'IA ». La première consiste à contribuer à améliorer l’utilisation sûre de ces outils en bloquant des invites de texte spécifiques, en testant et en bannissant rapidement les utilisateurs qui abusent de ces outils.
Un autre domaine sur lequel Microsoft travaille consiste à aider à identifier le contenu généré par l'IA. Smith a déclaré : Nous utilisons déjà la technologie d'attribution dans les outils de création d'images Bing et Microsoft Designer de Copilot, et nous étendons l'attribution multimédia à tous nos outils qui créent ou traitent des images. La société étudie les futures « technologies de filigrane et d’empreintes digitales » et s’efforce de supprimer les contenus qui abusent de l’intelligence artificielle de services comme LinkedIn et de services de jeux comme Xbox.
Smith a déclaré que Microsoft espère également travailler avec d'autres entreprises du secteur technologique et des forces de l'ordre pour lutter contre les deepfakes basés sur l'intelligence artificielle, et espère travailler avec les gouvernements du monde entier pour promulguer de nouvelles lois interdisant ce type de contenu.
Dans le même temps, Microsoft souhaite contribuer à éduquer le public sur l'identification des deepfakes créés pour tromper les gens, ce qui "nécessite de nouveaux outils et programmes d'éducation du public" pour leur montrer quel contenu est réel et lequel est faux.
Le texte intégral du blog est traduit comme suit :
Chaque jour, des millions de personnes utilisent de puissants outils générés par l’IA pour améliorer leur créativité. À bien des égards, l’IA créera pour nous tous des opportunités passionnantes de donner vie à de nouvelles idées. Mais à mesure que ces nouveaux outils arrivent sur le marché par Microsoft et dans le paysage technologique, nous devons prendre de nouvelles mesures pour garantir que ces nouvelles technologies ne soient pas utilisées à mauvais escient.
L’histoire de la technologie prouve depuis longtemps que la créativité ne se limite pas aux personnes animées de bonnes intentions. Malheureusement, les outils peuvent aussi devenir des armes, et ce schéma se répète. Nous assistons actuellement à une expansion rapide de l’utilisation abusive par des acteurs malveillants de ces nouveaux outils d’IA, y compris les deepfakes via la vidéo, l’audio et les images générés par l’IA. Cette tendance fait peser de nouvelles menaces sur les élections, la fraude financière, le harcèlement sexuel non consensuel et une nouvelle génération de cyberintimidation.
Nous devons agir de toute urgence pour résoudre tous ces problèmes.
Il est encourageant de constater qu’en tant qu’industrie, nous pouvons apprendre beaucoup de l’expérience des domaines adjacents : pour faire progresser la cybersécurité, promouvoir la sécurité des élections, lutter contre les contenus extrémistes violents et protéger les enfants. En tant qu'entreprise technologique, nous nous engageons à adopter une approche solide et globale pour protéger les personnes et nos communautés dans six domaines prioritaires :
Architecture de sécurité solide. Nous nous engageons dans une approche technologique globale basée sur la sécurité dès la conception. Selon le scénario, une architecture de sécurité solide doit être appliquée aux niveaux de la plateforme, du modèle et de l’application d’intelligence artificielle. Il comprend des aspects tels que l'analyse continue de l'équipe rouge, des classificateurs préventifs, des invites de blocage des abus, des tests automatisés et l'interdiction rapide des utilisateurs qui abusent du système. Elle doit être étayée par une analyse de données solide et approfondie. Microsoft a établi une structure solide et partagé nos apprentissages via nos normes d'intelligence artificielle responsable et de sécurité numérique, mais à mesure que la technologie évolue, il est clair que nous devons continuer à innover dans ces domaines.
Attribution multimédia persistante et filigrane. Ceci est essentiel pour lutter contre les deepfakes dans les vidéos, les images ou l’audio. L'année dernière, lors de Build2023, nous avons lancé une fonctionnalité de provenance des médias qui utilise des méthodes cryptographiques pour baliser et signer le contenu généré par l'IA avec des métadonnées sur sa provenance et son historique. Microsoft a été un leader dans le développement de méthodes de vérification de la provenance, aux côtés d'autres entreprises de premier plan, notamment en tant que co-fondateur des organismes de normalisation Project Origin et de la Coalition for Content Provenance and Authenticity (C2PA). La semaine dernière, Google et Meta ont franchi une étape importante en soutenant C2PA, ce que nous saluons et applaudissons.
Nous utilisons déjà la technologie d'attribution dans les outils de création d'images Microsoft Designer dans Bing et Copilot, et nous étendons l'attribution multimédia à tous nos outils qui créent ou traitent des images. Nous explorons également activement les technologies de filigrane et d’empreinte digitale qui peuvent contribuer à améliorer la technologie de provenance. Nous nous engageons à innover continuellement pour aider les utilisateurs à déterminer rapidement si une image ou une vidéo a été générée ou traitée par l'intelligence artificielle.
Protégez nos services contre les contenus et comportements abusifs. Nous nous engageons à protéger la liberté d’expression. Mais cela ne devrait pas protéger les personnes qui tentent de falsifier la voix des autres afin de soutirer de l’argent aux personnes âgées. Cela ne devrait pas s’étendre aux deepfakes qui modifient les actions ou les paroles des candidats politiques afin de tromper le public. Il ne devrait pas non plus abriter les intimidateurs en ligne ou les fournisseurs de pornographie non consensuelle. Nous nous engageons à identifier et à supprimer ces contenus trompeurs et abusifs des services grand public que nous hébergeons, tels que LinkedIn, notre réseau de jeux et autres services connexes.
Collaboration étroite au sein de l’industrie et avec le gouvernement et la société civile. Même si chaque entreprise est responsable de ses propres produits et services, l’expérience montre que nous travaillons souvent mieux lorsque nous travaillons ensemble pour construire un écosystème numérique plus sécurisé. Nous nous engageons à travailler avec d'autres entreprises du secteur technologique, notamment dans les domaines de l'intelligence artificielle générative et des médias sociaux. Nous nous engageons également à un engagement actif auprès de la société civile et à un engagement approprié auprès des gouvernements.
À l’avenir, nous nous appuierons sur notre expérience dans la lutte contre l’extrémisme violent dans le cadre de l’Appel de Christchurch, en travaillant avec les forces de l’ordre par le biais de la Digital Crime Unit et en améliorant la protection des enfants par le biais de l’Alliance mondiale We Protect et plus largement. Nous nous engageons dans de nouvelles initiatives dans le secteur technologique et avec d’autres groupes de parties prenantes.
Faire pression en faveur d’une législation visant à protéger les personnes contre l’utilisation abusive de la technologie.De toute évidence, certaines de ces nouvelles menaces nécessitent de nouvelles lois et de nouveaux efforts de la part des forces de l’ordre. Nous sommes impatients de contribuer aux idées et de soutenir les nouvelles initiatives des gouvernements du monde entier pour mieux protéger les personnes en ligne tout en respectant des valeurs intemporelles telles que la protection de la liberté d'expression et de la vie privée.
Sensibilisation et éducation du public. Enfin, une défense nationale forte nécessite un public bien informé. avec
De même, nous devons aider les gens à comprendre qu’il est difficile de faire confiance à chaque vidéo que vous voyez ou à chaque audio que vous entendez. Nous devons aider les gens à apprendre à faire la différence entre un contenu légitime et un faux contenu, y compris les filigranes. Cela nécessitera de nouveaux outils et programmes d’éducation du public, notamment une collaboration étroite avec les dirigeants de la société civile et de l’ensemble de la société.
En fin de compte, rien de tout cela n’est facile. Cela nécessite un effort dur mais indispensable de notre part au quotidien. Mais tant que nous travaillons ensemble pour innover et collaborer, nous pensons que nous pouvons travailler ensemble pour garantir que la technologie reste à l’avant-garde dans sa capacité à protéger le public. Peut-être plus que jamais, tel devrait être notre objectif collectif.