Le 27 mars, un consommateur a posté sur une plateforme sociale qu'en parcourant un magasin de vêtements pour femmes sur Taobao, il avait découvert qu'une « troisième main » apparaissait sur le modèle d'exposition d'un gilet de sport. Lorsqu'elle a demandé au magasin s'il y avait eu un oubli dans la conception de l'IA, le service client d'AI a répondu que "l'angle de prise de vue provoquait un désalignement visuel". Cette expérience a stupéfié l'affiche et a rapidement déclenché une discussion animée parmi les internautes sur « l'IA full-link » des plateformes de commerce électronique.
Le modèle AI dans l'image principale de ce produit apparaît avec "trois mains". Capture d'écran du réseau
"Les trois mains ont l'air bizarres et effrayantes." Certains internautes se sont plaints qu'il s'agissait « d'acheter un gilet et de découvrir une histoire d'horreur ». Certains consommateurs ont déclaré sans ambages que les achats en ligne d'aujourd'hui regorgent de conceptions d'IA, de modèles d'IA et de services à la clientèle d'IA. « À part l’argent dépensé, je ne sais pas ce qui est réel. » De nombreuses voix interrogatrices ont mentionné que dans le passé, la prise de vue de modèles réels posait inévitablement le problème des produits incorrects. De nos jours, les commerçants utilisent directement l'IA pour générer des images de produits, sans inspection physique de base, et la véritable qualité du produit ne peut pas du tout être garantie.
Certains consommateurs en parlent. Capture d'écran du réseau
En réponse à cette situation, le journaliste a vérifié le magasin concerné le matin du 27 et a vérifié que l'image principale du gilet présentait bien des traces de « trois mains » générées par l'IA. En réponse aux demandes de renseignements, le personnel du magasin a expliqué que le produit était un nouveau produit récemment lancé et que ce qui est actuellement affiché sont les premiers rendus de conception IA, qui sont uniquement destinés à permettre aux consommateurs de comprendre le style et l'apparence du produit. Le service client a admis que les images et les conceptions des modèles de produits avaient été générées par l'IA, mais a souligné qu '"elles n'étaient pas générées de manière aléatoire par l'IA".
Le service client d'IA a répondu un jour : "Les trois aiguilles sont un mauvais alignement visuel." Capture d'écran du réseau
Concernant la précédente réponse de « désalignement visuel » du service client d'IA, le membre du personnel a précisé que le service client manuel du magasin avait quitté le travail à 23h00 et que la réponse automatique du service client d'IA était déclenchée lorsque les consommateurs consultaient la nuit. L'employé du magasin s'est excusé pour les inexactitudes dans les images affichées sur la page du produit et a promis de signaler le problème au fonctionnement du magasin et de le remplacer par de vraies photos dès que possible. Le 27 à midi, le journaliste a constaté que le produit avait été retiré des rayons par le magasin.
Il y a maintenant des retours sur des problèmes de produits avec des « images suspectées d'IA » sur la plateforme. Capture d'écran du journaliste
En tant que plateforme, le service client de Taobao a vérifié les photos de produits fournies par le journaliste et a confirmé qu'il s'agissait de photos générées par l'IA. La plateforme a qualifié le problème de problème lié aux produits et services du commerçant, et a déclaré qu'elle prendrait des sanctions sévères et se concentrerait à l'avenir sur les magasins concernés. Le service client a clairement indiqué que si les consommateurs subissent des pertes en raison des images d'IA des commerçants, la plateforme protégera efficacement les droits et les intérêts des consommateurs conformément aux règles ; il informe également les utilisateurs que s'ils trouvent des situations similaires en parcourant la page, ils peuvent appuyer longuement sur l'image et sélectionner la fonction « IA suspectée » pour signaler le problème.
La question de savoir si un tel comportement commercial viole la réglementation est également devenue une préoccupation de l'opinion publique. Le magasin concerné a été expédié de Pékin et le journaliste a appelé l'Administration municipale de Pékin pour la régulation du marché. Le personnel des départements fonctionnels concernés a confirmé que le litige relatif au commerce électronique relevait de leur compétence et a déclaré qu'il vérifierait davantage la conformité de l'utilisation par le commerçant d'images IA à des fins de promotion commerciale sur la base des informations sur l'entreprise fournies par le journaliste.
Concernant la définition juridique de l'utilisation d'images générées par l'IA par le commerce électronique, Zhao Jingwu, professeur agrégé à la faculté de droit de l'Université de Beihang, a un jour souligné aux médias qu'il existe des risques de non-conformité lorsque les commerçants utilisent des images générées par l'IA comme principales images promotionnelles sans invites évidentes.
En effet, les « Mesures d'étiquetage des contenus synthétiques générés par l'intelligence artificielle », qui seront mises en œuvre le 1er septembre 2025, ont tracé des lignes rouges pour l'utilisation commerciale des contenus générés par l'IA. Zhao Jingwu a déclaré que selon ce règlement, la plateforme a la responsabilité légale de vérifier l'identification du contenu de l'IA. Pour les documents pertinents qui ne sont pas étiquetés, ils doivent être marqués comme « suspectés d'être générés par l'IA » pour alerter le public. Si un commerçant refuse d'apporter des corrections, les autorités de régulation peuvent lui ordonner de mettre fin aux activités illégales et d'en éliminer les impacts ; dans les cas graves, elle peut également faire face à des sanctions administratives telles que des amendes. En outre, Zhao Jingwu a rappelé que si l'image non marquée de promotion d'un produit IA constitue une publicité, elle viole les dispositions pertinentes de la loi sur la publicité. Le département de surveillance du marché peut ordonner au commerçant de mettre fin à ses activités illégales et lui imposer une amende de 200 000 yuans à 1 million de yuans ; dans les cas graves, la licence commerciale peut même être révoquée.