Grok, le chatbot d'intelligence artificielle appartenant à Elon Musk, fait face à des critiques croissantes dans le monde entier et à la menace de mesures de répression gouvernementales pour avoir répondu aux commandes des utilisateurs sur la plateforme de médias sociaux X afin de générer des images sexuellement explicites, y compris des images de mineurs.
Les autorités malaisiennes compétentes ont publié samedi une déclaration indiquant que le pays enquêtait sur les images liées générées par Grok après avoir reçu des plaintes selon lesquelles certaines personnes auraient abusé de la technologie de l'intelligence artificielle pour falsifier des images de femmes et de mineurs et produire des contenus indécents, hautement offensants ou préjudiciables.
La Commission malaisienne des communications et du multimédia a déclaré samedi dans un communiqué que la production ou la diffusion de tels contenus préjudiciables est illégale en vertu de la loi malaisienne. Le régulateur des médias a déclaré qu'il enquêterait sur les utilisateurs de la plateforme sociale X accusés d'avoir enfreint la loi et convoquerait les représentants de l'entreprise pour les interroger.
"Bien que Social Platform X ne soit pas actuellement un fournisseur de services agréé, il a la responsabilité d'empêcher la propagation de contenus préjudiciables sur sa plateforme", indique le communiqué.
Musk a répondu dans un message sur la plateforme sociale
"Quiconque utilise Grok pour générer du contenu illégal sera confronté aux mêmes conséquences que s'il téléchargeait du contenu illégal", a-t-il écrit dans son message.
La Malaisie est le dernier pays à exprimer de vives inquiétudes au sujet de Grok. Le gouvernement indien a envoyé une lettre à la plateforme sociale Bloomberg et a examiné une copie de la lettre, datée du 2 janvier.
Le gouvernement indien exige une plateforme sociale Le gouvernement indien a également déclaré qu'il pourrait envisager d'introduire des réglementations spéciales pour les contenus répréhensibles générés par l'intelligence artificielle sur les plateformes de médias sociaux.
Le ministre indien des Technologies de l'information, Ashwini Vaishnaw, a déclaré dans une interview : "La commission parlementaire compétente a recommandé l'introduction d'une loi stricte pour réglementer les plateformes de médias sociaux. Nous étudions actuellement cette proposition."
Le gouvernement français a également porté plainte vendredi dernier, affirmant que Grok avait généré du contenu sexuel « manifestement illégal » sur la plateforme sociale X sans le consentement des parties impliquées. Le gouvernement français a souligné dans un communiqué que les images pertinentes générées par Grok pourraient avoir violé la loi européenne sur les services numériques. Le communiqué mentionne que ce règlement oblige les grandes plateformes à prendre des mesures pour réduire le risque de diffusion de contenus illégaux.
Le chatbot a généré des images répréhensibles en violation apparente de sa propre politique d'utilisation acceptable, qui interdit explicitement la génération de contenu impliquant la sexualisation d'enfants. À l'heure actuelle, certaines images illégales ont été retirées des étagères.
Le journaliste a demandé des commentaires par courrier électronique à ce sujet auprès de xAI, la société qui a développé Grok et exploite la plateforme sociale.
Au cours des deux dernières semaines, de plus en plus d’utilisateurs de la plateforme sociale X ont demandé à Grok de générer des images, de sexualiser et de falsifier des photos de femmes et d’enfants. Cette tendance malsaine s’est rapidement répandue dans le monde entier après que la plateforme a lancé sa fonction de retouche photo juste avant Noël.
Grok a publié un message sur la plateforme sociale