Selon Reuters,La ville de Baltimore, aux États-Unis, a officiellement intenté une action en justice contre xAI, une société d'intelligence artificielle appartenant à Elon Musk, accusant son chatbot d'IA Grok de générer illégalement des images sexuellement explicites et non consensuelles et des contenus d'exploitation sexuelle d'enfants.En tant que plus grande ville à ce jour poursuivant xAI pour « contrefaçon profonde », Baltimore, avec une population d'environ 568 000 habitants, a souligné dans une plainte déposée devant la Circuit Court que xAI avait présenté Grok comme un assistant d'IA polyvalent et sécurisé, et que son fonctionnement réel était soupçonné de violer les lois sur la protection des consommateurs.
Les documents judiciaires révèlent les vastes données de l'outil sur la génération de contenu. Selon les estimations de l'Anti-Digital Hate Center, basées sur 20 000 échantillons, environ 3 millions d'images sexualisées réalistes ont été générées sur la plateforme sociale X en 11 jours au début de cette année, dont plus de 23 000 contenus illégaux impliquant des enfants. Le maire de Baltimore, Brandon Scott, a publié une déclaration accusant les entreprises technologiques de faciliter l'exploitation sexuelle des enfants et soulignant que les responsables doivent être tenus légalement responsables. En outre, la plainte cite également comme preuve un autoportrait généré par Grok portant un bikini bleu que Musk a publié le 31 décembre 2025, accusant qu'il s'agissait d'une « approbation publique » de la capacité de l'outil d'IA à générer des images explicites de personnes réelles.
Alors que la situation s'aggrave,Grok, sorti en 2023, fait l'objet d'enquêtes réglementaires dans de nombreux endroits des Amériques, d'Europe, d'Asie et d'Australie.Bien que xAI ait annoncé à la mi-janvier qu'elle restreindrait les fonctions d'édition d'images de Grok dans certaines juridictions, et que Musk ait insisté à l'époque sur le fait qu'il "ignorait complètement" la génération d'images illégales de mineurs par Grok, la controverse juridique ne s'est pas apaisée. Dans ce procès, la ville de Baltimore demande non seulement une amende non précisée, mais demande également au tribunal d'émettre une injonction pour forcer xAI à modifier complètement les caractéristiques de conception « exploitantes » de Grok. Jusqu'à présent, ni la société mère SpaceX ni xAI, dont la récente valorisation combinée a atteint environ 1,25 billion de dollars américains, n'ont apporté de réponse officielle au procès.