Récemment, la technologie de l'IA est devenue un outil pour les fraudeurs, et de nombreux commerçants en ligne ont été confrontés à des incidents où « l'IA falsifiait des images endommagées pour frauder les remboursements ». Après Double 11, de tels litiges ont éclaté de manière intensive : les acheteurs ont utilisé des taches de moisissure sur des fruits intacts et des vêtements neufs pour créer des images hors ligne et ont demandé un « remboursement uniquement » en raison de défauts du produit.
Un propriétaire d'atelier de céramique a reçu un jour une photo d'une fissure sur le corps de la tasse, et le test a montré que « 92 % de probabilité est générée par l'IA ». Lorsque le commerçant a demandé une vérification vidéo, l’acheteur a déclaré qu’il n’était pas nécessaire de rembourser l’argent.
Ce qui rend les propriétaires de magasins encore plus abasourdis, c'est que certains acheteurs n'ont même pas traité les filigranes générés par l'IA. De plus, certaines personnes facturent de l'argent pour apprendre aux gens à utiliser l'IA pour falsifier des images de dégâts afin de frauder le « remboursement uniquement ».
À cet égard, certains avocats ont prévenu : ce comportement est soupçonné de fraude. Les consommateurs fabriquent des faits pour obtenir des avantages indus, ce qui viole le principe de bonne foi du Code civil et l'esprit législatif de la loi sur la protection des droits des consommateurs, et constitue une fraude civile typique.