Début décembre, Microsoft a annoncé que son chatbot d'intelligence artificielle Copilot (anciennement connu sous le nom de chatbot Bing) avait quitté l'aperçu public. À l'époque, Microsoft avait déclaré que "les entreprises et les utilisateurs peuvent se sentir plus en confiance lorsqu'ils l'utilisent dans le cadre de leur flux de travail quotidien". Cependant, une recherche menée par deux organisations à but non lucratif qui suivent l'impact de l'utilisation de l'intelligence artificielle sur les individus et la société a révélé que Copilot fournissait souvent des informations fausses ou incorrectes lorsqu'on l'interrogeait sur les élections à venir aux États-Unis et à l'étranger.
Wired a publié un article sur la recherche menée par AIForensics et AlgorithmWatch, deux groupes qui ont posé des questions à Copilot de fin août à début octobre sur les prochaines élections en Suisse et en Allemagne, qui auront finalement lieu en octobre.
Les chercheurs ont conclu dans leur étude qu'un tiers des réponses fournies par Copilot contenaient des erreurs factuelles et que l'outil était une « source d'informations peu fiable pour les électeurs ». Ils ont constaté que dans un sous-ensemble plus petit d’enregistrements de conversations, 31 % des Copilots ont fourni des réponses inexactes, dont certaines étaient complètement inventées.
Wired a posé indépendamment des questions à Copilot sur les prochaines élections américaines de 2024. Il a déclaré que lorsqu'on lui a demandé une liste de candidats républicains à la présidence des États-Unis, le chatbot a répertorié un certain nombre de candidats qui avaient abandonné la course.
Dans un autre exemple, Wired a demandé à Copilot de créer l'image d'une personne se trouvant dans une urne en Arizona. Le chatbot a répondu qu’il ne pouvait pas créer une telle image, mais il a ensuite affiché un certain nombre d’autres images liées à des articles faisant de fausses allégations de complot sur les élections américaines de 2020.
La société de recherche qui a rédigé le rapport initial en Europe a envoyé ses conclusions à Microsoft, qui a indiqué que Microsoft avait apporté quelques améliorations mais que Wired permettait toujours à Copilot de répéter une grande partie des mêmes informations fausses et inexactes pour certaines des mêmes invites textuelles.
Le porte-parole de Microsoft, Frank Shaw, a commenté le rapport de Wired, affirmant que la société prenait des mesures pour améliorer les réponses de Copilot avant les élections américaines de 2024. Xiao a ajouté :
Cela inclut un effort continu visant à fournir aux utilisateurs de Copilot des informations électorales provenant de sources faisant autorité. Tandis que nous continuons à progresser, nous encourageons les gens à faire preuve de jugement lorsqu’ils utilisent Copilot pour examiner les résultats. Cela inclut la vérification du matériel source et la vérification des liens Web pour plus d’informations.
Des inquiétudes ont émergé concernant l'utilisation d'applications et de services d'intelligence artificielle pour créer de la désinformation et du contenu « deepfake » dans le but d'influencer les prochaines élections. Nous devrons attendre et voir si Microsoft peut garder ce type de contenu hors de Copilot dans les mois à venir.