Les groupes extrémistes ont commencé à expérimenter l’utilisation de l’intelligence artificielle, en particulier l’IA générative, pour créer toute une série de nouvelles propagandes. Les experts craignent désormais que l’utilisation croissante par ces groupes d’outils d’intelligence artificielle générative n’annule le travail accompli par les Big Tech ces dernières années pour empêcher leur contenu d’accéder à Internet.
"Notre plus grande préoccupation est que si les terroristes commencent à utiliser l'IA générative pour manipuler des images à grande échelle, cela pourrait très bien détruire le partage de hachage en tant que solution", a déclaré à WIRED Adam Hadley, directeur exécutif de TechAgainstTerrorism. "C'est un risque énorme."
Les grandes plateformes technologiques travaillent depuis des années à créer des bases de données de contenus extrémistes violents connus, appelées bases de données de hachage, qui sont partagées entre les plateformes afin de supprimer rapidement et automatiquement ces contenus d'Internet. Mais selon Hadley, ses collègues découvrent désormais chaque semaine environ 5 000 cas de contenu généré par l’IA. Elles incluent des images partagées ces dernières semaines par des groupes liés au Hezbollah et au Hamas, qui semblent destinées à influencer le récit de la guerre entre Israël et le Hamas.
"Dans environ six mois, la possibilité qu'ils manipulent des images pour déchiffrer des algorithmes de hachage est vraiment préoccupante", a déclaré Hadley. "La communauté technologique a fait un si bon travail en créant des technologies automatisées que les terroristes pourraient bien commencer à utiliser l'IA génétique pour contourner le travail déjà effectué."
D'autres exemples découverts par les chercheurs de TechTerrorism ces derniers mois incluent un canal de messagerie néo-nazi partageant des images générées par l'IA créées à l'aide de messages racistes et antisémites collés dans des applications du Google Play Store ; et un individu d'extrême droite créant un « guide de guerre de la mémoire » expliquant aux autres comment utiliser les outils d'imagerie générés par l'IA pour créer des mémos extrémistes. « L'État islamique » a publié un guide d'assistance technique sur la façon d'utiliser en toute sécurité les outils générés par l'IA ; un utilisateur du service d'archivage pro-État islamique a affirmé avoir utilisé un système de reconnaissance automatique de la parole (ASR) basé sur l'IA pour transcrire la propagande arabe de l'État islamique ; et un média pro-Al-Qaïda a publié plusieurs affiches avec des images très probablement créées à l'aide d'une plate-forme générée par l'IA.
En plus de détailler la menace posée par les outils d’IA générative capables de modifier les images, TechTerrorism a publié un nouveau rapport répertoriant d’autres façons dont les outils d’IA génétique pourraient être utilisés pour aider les groupes extrémistes. Il s'agit notamment de la possibilité de convertir rapidement et facilement du contenu promotionnel en plusieurs langues à l'aide d'outils de traduction automatisée, ou de la possibilité de créer des messages personnalisés à grande échelle pour stimuler les efforts de recrutement en ligne. Mais Hadley estime que l’intelligence artificielle nous offre également l’opportunité de garder une longueur d’avance sur les groupes extrémistes et d’utiliser la technologie pour anticiper les attaques.
"Nous travaillerons avec Microsoft pour déterminer s'il existe des moyens d'utiliser nos archives de données pour créer un système de détection d'IA génétique afin de contrer la menace émergente d'utilisation à grande échelle de l'IA génétique à des fins terroristes", a déclaré Hadley. "Nous pensons que l'IA génétique peut être utilisée pour se défendre contre les utilisations hostiles de l'IA génétique."
Le partenariat a été annoncé aujourd'hui avant le Sommet des dirigeants de l'Appel de Christchurch à Paris. Le Sommet de l’Appel aux dirigeants de Christchurch est une campagne visant à débarrasser Internet des contenus terroristes et extrémistes.
"L'utilisation de plateformes numériques pour diffuser des contenus extrémistes violents est un problème urgent avec des conséquences concrètes", a déclaré le vice-président et président de Microsoft, Brad Smith, dans un communiqué. "En combinant les capacités antiterroristes de la technologie avec l'intelligence artificielle, nous espérons contribuer à créer un monde plus sûr, en ligne et hors ligne."
Alors que des entreprises comme Microsoft, Google et Facebook disposent toutes de leurs propres divisions de recherche en IA et déploient probablement déjà leurs propres ressources pour résoudre le problème, la nouvelle initiative aidera à terme les entreprises qui ne peuvent pas résoudre ces problèmes seules.
"Cela est particulièrement important pour les petites plates-formes qui ne disposent pas de leurs propres centres de recherche en IA", a déclaré Hadley. "Même aujourd'hui, avec les bases de données de hachage, les petites plateformes peuvent être inondées de ce contenu."
La menace posée par les contenus générés par l’IA ne se limite pas aux groupes extrémistes. Le mois dernier, l'Internet Watch Foundation, une organisation britannique à but non lucratif qui se consacre à l'éradication des contenus liés à l'exploitation des enfants sur Internet, a publié un rapport détaillant le nombre croissant de matériels pédopornographiques (CSAM) créés par des outils d'intelligence artificielle sur le dark web.
Les chercheurs ont découvert qu’en seulement un mois, plus de 20 000 images générées par l’IA avaient été publiées sur un forum CSAM du dark web, dont 11 108 ont été jugées par les chercheurs de l’IWF comme étant les plus susceptibles d’être criminelles. Comme l'écrivent les chercheurs de l'IWF dans le rapport : « Ces images d'intelligence artificielle peuvent être si convaincantes qu'elles sont impossibles à distinguer des images réelles. »