Récemment, lorsque certains internautes ont utilisé Beanbao pour rechercher Li Yuanhong, un personnage de la République de Chine, une photo retouchée de l'acteur Fan Wei est apparue. Cet incident oolong peut sembler amusant, mais en fait, il a révélé les failles d'authenticité de l'IA dans la reconnaissance d'images et la récupération d'informations. De nombreux internautes se sont plaints du fait que l'IA n'était pas assez rigoureuse et que la récupération de personnages historiques sérieux provoquait des erreurs de divertissement, affectant l'exactitude de l'acquisition d'informations.
Selon l'explication officielle, l'oolong est né d'un malentendu répandu sur Internet : Li Yuanhong et Fan Wei sont très similaires en apparence. La fausse photo du PS lors du casting de « La Fondation du Parti » en 2010 a été largement diffusée, et le taux de diffusion a largement dépassé les véritables photos historiques. Certaines galeries de photos et encyclopédies ont été incluses par erreur, ce qui a donné la priorité à cette image composite très populaire lors des recherches effectuées par l'IA.
L'apparition de telles erreurs dans l'IA est essentiellement une manifestation typique de l'illusion d'information.
Les experts soulignent que les grands modèles reposent sur l'apprentissage des données du réseau et manquent de capacités d'auto-vérification. Lorsque des informations erronées apparaissent à plusieurs reprises sur le réseau, l’IA les génère facilement comme des résultats corrects, ce qui entraîne une situation de « grave absurdité ».
La technologie actuelle ne peut pas éliminer complètement les hallucinations. Le taux d'erreur ne peut être réduit qu'en optimisant les sources de données et en améliorant la récupération et la vérification.
Cet incident a également déclenché des discussions parmi les internautes sur la fiabilité de l'IA. Certaines personnes se sont moquées de la possibilité que des erreurs similaires se produisent lors de la recherche d’autres personnages historiques. Certains utilisateurs ont également partagé leurs expériences d’avoir été induits en erreur par les informations sur les erreurs de l’IA et ont appelé à améliorer la précision du contenu de l’IA.
Actuellement, les plateformes concernées optimisent la logique de recherche, en donnant la priorité à la diffusion d'images de documents historiques faisant autorité pour réduire l'interférence de la désinformation sur Internet.
