Les images d'abus sexuels sur enfants générées par l'intelligence artificielle sont en train de devenir "votre pire cauchemar" et menacent de submerger Internet, a prévenu un organisme de surveillance de la sécurité. L'Internet Watch Foundation (IWF) a déclaré avoir découvert près de 3 000 images d'abus générées par l'IA qui enfreignaient clairement la loi britannique.
L’organisation basée au Royaume-Uni a déclaré que des images réelles de victimes d’abus sont intégrées à des modèles d’IA, qui génèrent ensuite de nouvelles représentations.
Le groupe a ajouté que la technologie était également utilisée pour créer des images de célébrités « vieillies » puis représentées comme des enfants dans des scènes d’abus sexuels. D'autres exemples de matériel d'abus sexuel sur des enfants (CSAM) incluent l'utilisation d'outils d'intelligence artificielle pour « dénuder » des images d'enfants habillés trouvées en ligne.
Le Forum international des femmes a averti cet été que des preuves d'abus causés par l'IA commençaient à apparaître, mais il a déclaré que les derniers rapports montraient que l'utilisation de cette technologie s'accélérait. La directrice générale de l'IWF, Susie Hargreaves, a déclaré que "le pire cauchemar de l'organisme de surveillance était devenu réalité".
« Plus tôt cette année, nous avons averti que les images d'IA pourraient bientôt devenir impossibles à distinguer des vraies photos d'enfants victimes d'abus sexuels, et que nous pourrions commencer à voir de telles images proliférer en plus grand nombre », a-t-elle déclaré. "Nous avons désormais dépassé ce stade. Il est effrayant de constater que des criminels entraînent délibérément leur IA sur des images de victimes réelles qui ont été maltraitées. Les enfants qui ont été violés dans le passé sont désormais inclus dans de nouveaux scénarios parce que quelqu'un, quelque part, veut le voir."
Le Forum international des femmes a déclaré avoir également constaté que des images générées par l'IA étaient vendues en ligne. Les dernières conclusions sont basées sur une enquête d’un mois sur les forums sur la maltraitance des enfants sur le dark web. Elle a enquêté sur 11 108 images diffusées sur le forum, dont 2 978 enfreignaient la loi britannique en illustrant des abus sexuels sur des enfants.
Les CSAM générés par l'IA sont illégaux en vertu de la loi sur la protection de l'enfance de 1978, qui criminalise la prise, la distribution et la possession de « photographies indécentes ou pseudo-photographiques » d'enfants. Le Forum international des femmes a déclaré que la grande majorité des contenus illégaux qu'il a découvert enfreignaient la loi sur la protection de l'enfance, avec plus d'un cinquième des images classées dans la catégorie A, la catégorie de contenu la plus grave pouvant représenter un viol et des abus sexuels.
La loi de 2009 sur les coroners et la justice criminalise également les images interdites non photographiques d'enfants, telles que les caricatures ou les dessins. L’IWF craint qu’une vague de CSAM générés par l’IA détourne l’attention des forces de l’ordre de la détection des abus réels et de l’aide aux victimes.
"Ce matériel a le potentiel de submerger Internet si nous ne contrôlons pas cette menace", a déclaré Hargreaves.
Dan Sexton, directeur de la technologie de l'IWF, a déclaré que l'outil de génération d'images StableDiffusion, un modèle d'IA accessible au public qui peut être modifié pour aider à générer du CSAM, était le seul produit d'IA discuté sur le forum.
"Nous assistons à des discussions autour de la création de contenu à l'aide de StableDiffusion, un logiciel accessible au public."
StabilityAI, la société britannique derrière StableDiffusion, a déclaré qu'elle « interdit toute utilisation abusive de notre plateforme à des fins illégales ou contraires à l'éthique, et nos politiques indiquent clairement que cela inclut le CSAM ».
Le gouvernement affirme qu’un projet de loi sur la cybersécurité qui devrait devenir loi couvrira le CSAM généré par l’IA et obligera les sociétés de médias sociaux à l’empêcher d’apparaître sur leurs plateformes.