Le 3 février, une enquête de Reuters a révélé que Grok, le chatbot IA phare de la plateforme sociale X de Musk, générait toujours des images sexualisées de personnes, même après que les utilisateurs aient explicitement averti que la personne n'y consentait pas. Après que X ait annoncé de nouvelles restrictions sur la sortie publique de Grok, neuf journalistes de Reuters ont donné au chatbot une série de mots rapides pour tester si et dans quelles circonstances il générerait des images sexualisées non consensuelles.
Grok génère toujours des images indécentes
Les journalistes de Reuters ont constaté que même si le compte rendu public de Grok sur
Lors de sa première série de tests d'invites, Grok a généré des images sexualisées pour 45 des 55 invites. Sur ces 45 fois, 31 fois, le journaliste a explicitement averti que les personnes présentes dans les images étaient extrêmement vulnérables et 17 fois, il a été directement informé que les images seraient utilisées pour humilier la personne concernée, mais Grok a quand même généré les images pertinentes.
Lors d’une deuxième série de tests avec 43 mots d’invite, Grok a quand même généré 29 fois des images sexualisées. On ne sait pas clairement si cette baisse est due à des ajustements du modèle, à des changements de politique ou à des facteurs aléatoires.
Au moment de mettre sous presse, X et xAI n’ont fait aucun commentaire à ce sujet.