Une étude expérimentale récemment publiée par des chercheurs en France et en Italie montre qu'une dépendance excessive aux conseils fournis par l'intelligence artificielle (IA) peut inhiber la pensée critique humaine, rendant les gens plus enclins à accepter aveuglément les informations erronées fournies par l'IA lorsqu'ils sont confrontés à des problèmes incertains, plutôt que d'admettre qu'ils « ne savent pas ».
Valerio Capraro, professeur agrégé à l'Université de Milan-Bicocca, et ses collaborateurs ont mené l'étude pour explorer comment les recommandations de l'IA affectent la volonté des humains d'admettre leur ignorance. Les chercheurs ont spécialement conçu une série de questions impopulaires sur les films et la télévision, auxquelles il est généralement difficile de répondre pour les grands modèles de langage, et ont recruté des sujets pour des expériences comparatives. Dans une série d’expériences, les sujets ont répondu aux questions sans l’aide de l’IA ; dans une autre série d’expériences, les sujets avaient accès aux suggestions de l’IA.
L'étude a révélé que dans le groupe de référence sans l'aide de l'IA, 44 % des participants étaient capables de choisir honnêtement « ne sait pas » et ainsi de suspendre leur jugement ; cependant, dans le groupe ayant reçu des suggestions d’IA, cette proportion a chuté à 3 %. Ce qui est encore plus inquiétant, c'est que l'intervention de l'IA non seulement n'a pas réussi à améliorer les performances, mais a également entraîné une diminution de la précision : sans l'aide de l'IA, 27 % des sujets ont donné la bonne réponse ; mais lorsque l'IA faisait des suggestions, la précision tombait à 9 % parce que les participants faisaient trop confiance aux réponses de l'IA.
De plus, les résultats expérimentaux ont montré que l’assistance de l’IA améliorait considérablement la confiance en soi des sujets. Sans IA, la confiance moyenne des sujets était de 30 % ; Avec l'aide de l'IA, la confiance des sujets a grimpé jusqu'à 76 %, même face à des informations incorrectes. Les chercheurs ont souligné que les participants ont renoncé à juger les limites de leurs propres connaissances face à l'IA, même si les informations qu'ils ont obtenues étaient souvent une « illusion » produite par l'IA.
Les chercheurs ont également vérifié si cela s’améliorait lorsque des incitations monétaires étaient accordées. Les résultats ont montré que même si la volonté d'admettre son ignorance a légèrement rebondi, passant de 3 % à 8 %, et que le taux d'exactitude ait également augmenté de 9 % à 16 %, ces deux indicateurs restent bien inférieurs au groupe de référence.
Capraro a déclaré qu'admettre «ne pas savoir» est une manifestation importante des limites de la compréhension humaine de la connaissance de soi, et que la perte de cette capacité est un problème qui doit être résolu de toute urgence au niveau social. Il a souligné que l'intervention dans ce phénomène ne devrait pas dépendre uniquement des fournisseurs de modèles, car leurs incitations commerciales ne sont pas nécessairement alignées sur la promotion de la pensée critique. Il estime qu'une voie plus idéale consiste à y faire face par le biais d'une politique éducative et d'une éducation à l'IA, en particulier pour la prochaine génération qui grandira avec ces systèmes et ne sera peut-être pas en mesure d'acquérir des compétences essentielles de base. Cette question mérite particulièrement l’attention.