Comment un site Web que presque personne ne visite peut-il devenir une source d’informations pour l’IA ?

Résumé :

Lorsque les électeurs américains demandent à ChatGPT ou à Microsoft Copilot des informations sur les candidats, la réponse qu'ils obtiennent peut provenir d'un petit site Web dont ils n'ont jamais entendu parler. Le site Web, appelé Ballot Brief, recueille les profils de milliers de candidats. Son créateur, Ben Torres Ezrick, espère aider les électeurs à comprendre plus facilement les informations de campagne et espère également attirer un type particulier de visiteurs : les chatbots IA.

Un test réalisé par le Washington Post a montré que ChatGPT citait Ballot Brief dans

22 % des réponses liées aux élections, contre 75 % dans Microsoft Copilot

. Cependant, il existe de nombreuses erreurs dans les informations sur les candidats sur ce site Web, dont l'une a été répétée par Copilot à la personne qui a posé la question.

Alors que de plus en plus d'Américains demandent à l'IA des informations politiques et électorales, l'enquête soulève la question suivante : lorsque les chatbots s'appuient sur des sites Web générés par l'IA, comment les erreurs parviennent-elles aux électeurs ?

Un petit site Web est devenu une source courante d'IA

Ezric a occupé des postes de direction chez Google, Zoom et la plateforme vidéo Rumble. Il a constaté que lorsque les électeurs voulaient en savoir plus sur les candidats, ils devaient souvent passer beaucoup de temps à chercher entre différents sites Web. Il a donc décidé de créer un site Web unique fournissant des informations sur les élections.

Face aux informations de milliers de candidats, il a choisi de laisser l'IA l'aider. Il a envoyé plusieurs groupes d'agents numériques pour collecter des informations en ligne, puis a mis le contenu compilé dans un bulletin de vote pour que les gens puissent l'examiner.

Les sites Web attirent bien plus de visiteurs que de simples humains. Ezrick a déclaré que les données dont il disposait montraient qu'au cours des 30 jours couvrant septembre et octobre, le système d'IA de Microsoft avait cité Ballot Brief plus de

680 000 fois

.

L'enquête du Washington Post a révélé que Ballot Brief n'était que l'un d'entre eux. Il fait partie des trois nouveaux sites Web qui apparaissent fréquemment parmi les sources d'informations sur les votes fournies par les chatbots. Les fondateurs des trois sites Web ont tous déclaré que leurs équipes sont petites et s'appuient presque entièrement sur l'IA pour collecter et résumer les données.

Des problèmes surviennent. Isabel Linzer, analyste électorale au Centre pour la démocratie et la technologie, estime que les résultats de l'enquête montrent que les informations publiées par une personne sur un site Web généré par l'IA peuvent facilement être adoptées par un chatbot. Cela pourrait affecter la confiance des électeurs dans les informations électorales, a-t-elle déclaré.

L'erreur a été répétée par l'IA

Le Washington Post a trouvé plusieurs erreurs dans le bulletin de vote.

Une information sur le site Web indiquait que le sénateur républicain de l'Ohio, Jon Husted, avait parrainé un projet de loi. Mais ce projet de loi a été adopté avant son entrée en fonction. Copilot a répété cette erreur en réponse aux questions du Washington Post.

Le site Web a également fusionné deux candidats californiens portant le même nom, Robert Garcia, dans le même profil, et les affectations au comité de plusieurs membres de la Chambre ont également été répertoriées de manière incorrecte.

Les informations fournies par certains membres du Congrès sont assez brèves, ne disposent pas de relevés de vote, et le site Web indique à tort qu'ils ne semblent pas avoir de site Web de campagne.

Ezric a déclaré qu'il travaillait dur pour garantir l'exactitude des informations. Après que le Washington Post lui ait montré les résultats, il a apporté un certain nombre de modifications au fonctionnement du site.

Le but du site Web est de fournir aux électeurs autant d'informations que possible, mais il ne devrait pas être leur seule source d'information, a-t-il déclaré.

Un test couvrant 3 100 comtés à la fois

Pour voir comment les chatbots répondent aux questions électorales, le Washington Post s'est associé à la société de données Promptwatch pour tester les produits d'IA d'OpenAI, Anthropic, Google, Microsoft, Amazon et Perplexity.

Les chercheurs ont ciblé environ

3 100 comtés aux États-Unis

, choisissez une adresse dans chaque comté, posez la même question au chatbot et demandez-lui de créer un guide de l'électeur de novembre 2026 basé sur cette adresse, répertoriant toutes les élections et les positions des candidats sur les questions majeures.

Par conséquent, les chatbots ne parvenaient souvent pas à déterminer correctement à quel district du Congrès appartenait une adresse et refusaient parfois tout simplement de répondre.

Les taux de citation ci-dessus proviennent de ce problème spécifique et de cet environnement de test et ne signifient pas que ChatGPT ou Copilot citeront Ballot Brief avec le même ratio dans toutes les questions électorales.

Le Washington Post a découvert que lors de sa première série de tests en septembre, Ballot Brief était la source la plus fréquemment citée par ChatGPT pour répondre à ces questions. Après que le journal ait informé OpenAI des résultats la semaine dernière, la part des citations de ChatGPT sur le site est tombée à

4 %

lors d'une deuxième série de tests. .

OpenAI a déclaré que l'entreprise espère aider les gens à participer aux élections grâce à des sources d'informations fiables et faisant autorité et à des mesures visant à prévenir les préjugés et les abus ; lorsque des problèmes sont signalés, l’entreprise prendra des mesures pour améliorer les réponses du modèle. Le Washington Post a révélé dans son rapport que le journal avait un partenariat de contenu avec OpenAI.

Le bulletin de vote est également la source la plus fréquemment citée par Copilot lors des tests. Après la publication du rapport, Microsoft a déclaré qu'il avait ajusté l'outil pour donner la priorité aux sources faisant autorité et aux sites Web officiels des élections nationales et qu'il continuerait à tester et à améliorer les réponses liées aux élections.

Claude d'Anthropic a principalement cité les guides électoraux établis gérés par des organisations à but non lucratif lors de la première série de tests, mais a commencé à créer des liens vers Ballot Brief plus fréquemment lors de la deuxième série de tests. Anthropic n'a pas expliqué le changement, affirmant seulement que la société avait testé des modèles, renforcé les garanties et travaillé pour fournir des informations de vote fiables et précises avant les élections de mi-mandat.

Quand l'IA commence à citer du contenu écrit par l'IA

La recherche sur Internet permet aux chatbots d'accéder à des informations plus récentes que leurs données d'entraînement, et leur donne également un meilleur accès au contenu généré par l'IA sur Internet.

Une étude menée par Mowafak Allaham, doctorant à l'université Northwestern, a révélé que **16 %** des sources citées par les chatbots sur des questions telles que la politique, la santé et l'environnement étaient elles-mêmes générées par l'IA.

La manière dont ces systèmes trouvent, filtrent et intègrent les informations n'est pas transparente, a-t-il déclaré.

Deux autres chercheurs qui ont travaillé sur l'analyse des données pour la campagne présidentielle de Kamala Harris en 2024 ont découvert que les chatbots s'appuyaient également largement sur les sites Web générés par l'IA pour répondre aux questions relatives aux élections de mi-mandat. Leurs tests ont également révélé que Ballotpedia, un site Web qui fournit depuis longtemps des informations électorales, avait précédemment bloqué ChatGPT.

Leslie Graves, PDG de Ballotpedia, a déclaré que le blocage était dû à une erreur dans les paramètres de sécurité et que le site avait levé les restrictions la semaine dernière. Ballotpedia compte environ

90 personnes

L’équipe, Ezrick et d’autres espèrent utiliser l’IA pour créer une énorme base de données de candidats à plus petite échelle.

En plus de Ballot Brief, les tests du Washington Post ont également révélé que les chatbots faisaient fréquemment référence à DecodeTheVote et Smarter.Vote. Le premier utilise des personnages d’IA pour présenter les curriculum vitae des candidats, et le second tente également de prédire les résultats des élections.

Le fondateur de Smarter.Vote, Jacob Loukota, a déclaré que son site Web avait été cité par des robots IA

1,7 million de fois

, dépassant de loin le nombre de visites de visiteurs humains. Il pense que les chatbots aiment citer le site, peut-être parce qu'il identifie la source de l'information.

Lukota a déclaré que ce n'était pas son plan initial, mais il a estimé que le résultat était compréhensible et que la forme du site Web était très adaptée à l'utilisation de chatbots IA.