Microsoft a lancé des poursuites judiciaires contre un réseau de cybercriminels pour avoir prétendument abusé de la technologie d'IA générative, y compris son propre service Azure OpenAI. Dans une plainte modifiée liée à un récent procès civil, le géant de la technologie a nommé quatre développeurs clés derrière des outils malveillants conçus pour contourner le filet de protection de ses services d'intelligence artificielle. Les accusés nommés comprennent :
Arian Yadegarnia (alias "Fizz") - vit en Iran
Alan Krysiak (alias "Drago") - vit au Royaume-Uni
Ricky Yuen (alias "cg-dot") - vit à Hong Kong
Phát Phùng Tấn (alias "Asakuri") - vit au Vietnam
Ces individus sont au cœur de ce que Microsoft appelle Storm-2139, un réseau mondial de cybercriminalité. Les membres du réseau auraient exploité les informations d’identification publiques des clients pour obtenir un accès non autorisé aux services d’IA générative. Ils ont ensuite modifié ces services et revendu l'accès à d'autres acteurs malveillants, même avec des instructions explicites pour créer du contenu préjudiciable, notamment des images intimes non consensuelles de célébrités et d'autres contenus explicites.
L'enquête de Microsoft décrit Storm-2139 comme une organisation divisée en trois couches clés :
Créateur : un développeur qui crée un outil capable d'abuser d'un service d'IA.
Fournisseur : personne qui modifie, fournit et livre ces outils selon différents niveaux de service et structures tarifaires. .
Utilisateurs : utilisateurs finaux qui utilisent ces outils pour générer du contenu synthétique interdit, ciblant souvent des célébrités ou créant des images sexuellement explicites. .
En décembre 2024, la Digital Crimes Unit (DCU) de Microsoft a déposé sa première plainte dans le district oriental de Virginie, qui a permis à Microsoft de saisir un site Web important utilisé par les réseaux cybercriminels, réduisant ainsi considérablement ses capacités opérationnelles. Les documents juridiques rendus publics en janvier ont suscité une réaction immédiate au sein du réseau. Dans les canaux de communication surveillés, les membres ont commencé à spéculer sur l'identité de « John Doss » impliqué dans l'affaire et, dans certains cas, ont tenté de rejeter la faute sur d'autres membres de l'opération.
En outre, l'équipe juridique de Microsoft a reçu plusieurs courriels de membres présumés de Storm-2139, destinés à détourner le blâme et à pointer du doigt d'autres agents. En outre, il a également été constaté que quelqu'un avait lancé une « boîte ouverte » contre le conseiller juridique de Microsoft et diffusé des informations personnelles et des photos en ligne. Cette méthode peut entraîner de graves conséquences réelles, telles que le vol d’identité et le harcèlement.
Les efforts de Microsoft s'inscrivent dans le cadre d'un engagement plus large visant à lutter contre les abus de l'IA générative. Même si le géant reconnaît que le démantèlement d’un réseau cybercriminel aussi bien implanté est une bataille à long terme, les actions en justice et les perturbations opérationnelles visant à dénoncer ces acteurs malveillants marquent un pas en avant important. En révélant les activités clandestines de Storm-2139, l’entreprise entend non seulement démanteler les réseaux actuels, mais également contrecarrer les futures tentatives de militarisation de la technologie de l’intelligence artificielle.
Dans l’ensemble, cette affaire met en lumière les défis posés par les cybercriminels à l’ère numérique et la nécessité d’une protection continue et coordonnée des technologies innovantes contre toute utilisation abusive.