L'ouragan Helene a touché terre aux États-Unis depuis la Floride le 26 septembre et a frappé de nombreux États et localités du sud des États-Unis. Jusqu’à présent, il a tué plus de 230 personnes. Helene est devenu l'ouragan qui a fait le plus grand nombre de morts aux États-Unis depuis l'ouragan Katrina en 2005. Dans le même temps, une photo générée par l'IA a également provoqué un tollé sur les réseaux sociaux, déclenchant même une « confrontation rouge-bleu » entre les deux partis avant les élections du mois prochain.


Quelle image pourrait être plus grave que l’impact d’un ouragan ? Amy Kremer, membre du Comité national républicain pour le sauvetage des ouragans ou vautour africain et co-fondatrice de Women for Trump, a tweeté sur


De telles photos qui se concentrent sur une seule victime, dans lesquelles une jeune fille innocente doit échapper à une catastrophe, sont très faciles à susciter la sympathie des gens, comme le « Soudan affamé », où la petite fille maigre est soutenue par un vautour qui la regarde de près, la « Fille au Napalm » qui a échappé aux bombes incendiaires pendant la guerre du Vietnam, a suscité les sentiments anti-guerre d'innombrables jeunes, et la « fille aux grands yeux » qui étudie a également fait du Projet Espoir profondément enraciné dans le cœur des gens. C'est pourquoi cette photo d'une "fille serrant un chiot pendant un ouragan" a été largement partagée sur les réseaux sociaux.

Mais après avoir soigneusement étudié l'émotion, les bras et les jambes de la petite fille étaient extrêmement lisses et incompatibles avec la couleur de sa peau. Ses cheveux avaient également une texture très étrange, et ses articulations du pouce avaient également d'étranges renflements. Oui, cette photo est une image générée par l'IA.


Cette trace de l'IA est plus épaisse, mais cela ne l'empêche pas de gagner des millions de vues｜Source de l'image : X

Après avoir été signalé comme une « fausse photo » par quelqu'un dans la zone de commentaires, Kremer a directement posté un message disant : « Oui, je ne sais pas d'où vient cette photo. Pour être honnête, peu importe d'où elle vient. Elle est restée gravée dans mon esprit pour toujours. Certaines personnes sont plus expérimentées que ne le montre cette photo. "C'est un symbole du traumatisme et de la douleur que les gens traversent en ce moment." En d’autres termes, elle savait que l’image était fausse, mais elle s’en fichait car son objectif n’était pas de sympathiser avec la « fille de l’IA », mais d’attaquer l’incapacité du parti au pouvoir à répondre à l’ouragan Hélène. Parce que des photos similaires d'IA ont également été transmises par la politicienne d'extrême droite Laura Loomer, les KOL républicains et les partisans de Trump Buzz Patterson et Juanita Broaddrick, avec les légendes "Notre gouvernement nous a encore fait défaut" ou "Les dirigeants les ont abandonnés". Chacun de ces tweets a été partagé par millions.


Se propager, c'est juste se soustraire à ses responsabilités｜Source de l'image : X

Les fausses images d’IA sont devenues un outil politique de retenue mutuelle entre les partis. Parallèlement à cette photo, diverses théories du complot et fausses nouvelles ont été diffusées, telles que « L'Agence fédérale de gestion des urgences se prépare à confisquer les biens des victimes de la catastrophe » et « Les autorités contrôlent la météo dans les États favorables aux républicains (les États frappés par l'ouragan sont pour la plupart favorables aux républicains (États rouges)). En conséquence, une photo de Trump bravant les inondations pour aider les habitants a également circulé sur Facebook, qui a bien sûr également été synthétisée par AI. 160 000 fois en deux jours.


Source de l'image : PolitiFact

Trump lui-même a également récemment publié « SwiftiesforTrump » (les fans de Taylor qui soutiennent Trump) sur son X après que Taylor Swift ait publiquement exprimé son soutien au candidat démocrate à la présidentielle Harris. Les images ci-jointes étaient toutes de fausses images générées par l'IA.


Source de l'image : X

Ce n’est pas la première fois que Trump publie de fausses photos d’IA. En tant que candidat soutenu par Musk, il est impossible pour Trump de ne pas avoir la capacité de distinguer le contenu de l’IA. Après tout, il n’y a pas si longtemps, il a également publié une vidéo synthétique DeepFakeAI de lui et Musk dansant ensemble. Cependant, sur les plateformes de médias sociaux fragmentées, les politiciens ne se soucient pas de savoir si les informations sont vraies ou fausses. Qu’il s’agisse d’une photo réelle ou d’une photo générée par l’IA, tant qu’elle a un effet de diffusion, créer une dynamique est l’objectif principal de la propagande politique sur les plateformes sociales. Les impressions perceptuelles remplacent les faits objectifs. Le principe de communication selon lequel « répandre des rumeurs n'ouvre que la bouche, et les réfuter vous cassera les jambes » se répercute plus violemment à l'ère de l'IA. Qui crée des déchets d’IA ? Mais remontons à la source, qui a généré ces faux contenus d’IA, et comment peuvent-ils être largement diffusés sur divers réseaux sociaux, et comment peuvent-ils être trompés un par un ? Cette photo avec le texte « Fait main, merci à tous d'avoir aimé » a reçu 870 000 likes et 35 000 commentaires sur Facebook. Cependant, il s’agit d’une fausse image générée par l’IA. L'image originale transmise à l'IA était celle d'un artiste sculpteur sur bois, Michael Jones, et de son véritable chien sculpteur sur bois. La publication originale de Jones n’a reçu que 1 063 likes et 110 commentaires, ce qui est loin d’être une fausse publication sur l’IA.


Dans le même temps, des images similaires de différentes races, sexes et races de chiens circulent également sur Facebook. Ils proviennent tous de la photo de Jones. Cela signifie que n’importe qui peut utiliser l’IA pour créer des centaines d’images fausses et réelles chaque heure, puis les publier immédiatement sur les plateformes sociales. Il y en a toujours quelques-uns qui peuvent gagner un bon trafic et une bonne visibilité. Parmi eux, Facebook est le domaine le plus durement touché.

À la fin de l’année dernière, un journaliste du site technologique 404Media a découvert que le nombre de publications sur Facebook de Meta qui étaient manifestement du contenu généré par l’IA avait augmenté, et s’était également propagé aux fils de discussion de Meta.


Les données d'image « fausses à première vue » de Facebook sont étonnamment bonnes｜Source de l'image : Facebook

Pourquoi Facebook est-il le plus durement touché ? La raison est simple : l’algorithmique de la plateforme a rattrapé le vieillissement des utilisateurs. Lors d'une récente conférence téléphonique sur les résultats, Zuckerberg, PDG de Meta, a déclaré aux analystes que, afin de suivre l'évolution des plateformes telles que TikTok, Facebook avait doublé le nombre de publications recommandées aux algorithmes des utilisateurs, les publications recommandées représentant désormais environ 30 % des pages d'accueil des utilisateurs. Cependant, selon les données de l'agence d'enquête OBERLO, les utilisateurs de Facebook âgés de plus de 25 ans représentent 77,4 %, dont 46,6 % pour les utilisateurs de plus de 35 ans. Pour un grand nombre de personnes d’âge moyen et âgées, nées avant l’ère Internet et qui ne commencent à utiliser les médias sociaux et les smartphones qu’à un âge mûr, il est difficile de comprendre ce qu’est l’IA, et encore moins d’identifier le contenu de l’IA.


L'article « Comment le spam et les fraudeurs utilisent les images générées par l'IA pour accroître l'audience sur Facebook » publié par le laboratoire Internet de Stanford en août a également révélé, lors de tests, que les images générées par l'IA avaient reçu des centaines de millions d'impressions au total. Les publications graphiques générées par l’IA sont généralement des images accrocheuses et accrocheuses. Par exemple, un enfant avec une jambe cassée tenant une pancarte disant « Joyeux anniversaire » peut recevoir 70 000 likes et 3 000 commentaires. Les commentaires des utilisateurs peuvent également montrer qu’ils ne savaient pas que l’image avait été générée par l’IA.

De plus, la recommandation d’algorithmes s’apparente à une spirale ascendante. Les chercheurs ont découvert qu'après avoir cliqué sur quelques publications de contenu généré par l'IA, même s'il n'y a pas d'abonnés ou de likes, de plus en plus de publications d'IA seront poussées vers votre page d'accueil à l'avenir. Certains utilisateurs en direct ont commenté sur Reddit que « Facebook est devenu un mur de photos MidjourneyAI sans fin ».


Un coup d'œil sur l'IA peut générer beaucoup de trafic｜Source de l'image : 404

En plus de tromper le trafic, les fausses images de l’IA visent également à frauder de l’argent. Par exemple, comme le chien sculpté en bois illustré ci-dessus, la publication peut inclure un lien vers « acheter le même type de produits en bois ». En fait, ces produits n'existent pas, ou le public peut être dirigé vers d'autres sites Web publicitaires, comme le message de chien sculpté en bois le plus populaire ci-dessus. Lorsque vous cliquez sur la zone de commentaire, vous trouverez un lien de vente de fournitures pour animaux de compagnie épinglé en haut. Ce qui est encore plus paradoxal, c’est que de nombreuses photos peuvent avoir été générées à l’aide de MetaAI. L'un des objectifs de MetaAI est de donner aux photos un aspect réel. Cependant, ces photos ont trompé leurs utilisateurs et la contradiction s’est transformée en un cycle de trafic. Le contenu de spam généré par l'IA affecte non seulement le Facebook « vieillissant », mais même Quora, la « version américaine de Zhihu » qui était autrefois célèbre pour son contenu textuel de haute qualité, doit faire face à la situation actuelle du contenu généré par l'IA qui dilue la qualité du contenu de la communauté. Ce qui est encore pire, c’est que de nombreuses images générées par l’IA sont désormais étroitement liées à la réalité. Par exemple, l’ouragan Hélène n’a pas encore disparu, mais après la découverte des fausses images de l’IA, chaque utilisateur remettra en question l’authenticité de chaque photo, même s’il s’agit d’une vraie photo basée sur la réalité. Après avoir été dilués par une grande quantité de faux contenus, ils seront confrontés au dilemme du « vrai et faux Roi Singe » prouvant leur innocence. Le conflit palestino-israélien, les élections américaines, les inondations au Brésil, l'ouragan Hélène... ce sont de véritables catastrophes naturelles et causées par l'homme qui se sont produites dans la vraie vie. Dans une communauté de contenu fragmentée, brève, graphique et textuelle, et axée sur une grande actualité, les images réelles des reporters de guerre risquent de ne pas recevoir autant de vues que les fausses images générées par l’IA. Ces contenus sont souvent destinés à des personnes âgées sans méfiance, qui apportent leurs propres likes et retweets par compassion, mais deviennent sans le savoir les complices de l'algorithme. L’alimentation de ces IA repose sur des artistes originaux mais invisibles. En tant que plate-forme sociale avec des responsabilités importantes, comme Meta, elle est prise dans la guerre contradictoire de l'IA : les utilisateurs utilisent les outils d'IA de Meta pour produire de fausses informations et des informations de spam et les publier sur la plate-forme Meta, tandis que l'équipe d'IA de Meta doit utiliser la technologie pour identifier quelles images sont réelles et lesquelles sont générées par l'IA. L'ironie est intrigante : plus l'équipe technologique de génération d'IA est avancée, plus ce sera difficile pour l'équipe d'examen et d'identification. À l’heure où le spam inonde Internet, la naissance des outils de génération d’IA a sans doute encore une fois accéléré la progression du spam sur Internet. Si ce défi ne peut être résolu, ce ne seront pas seulement les utilisateurs et les plateformes, mais tous ceux qui seront « piégés dans le système ».