Alors que Microsoft fait vigoureusement la promotion de ses produits d'intelligence artificielle auprès des consommateurs et des entreprises et intègre profondément Copilot dans Windows 11, il positionne ce service d'IA comme une « utilisation de divertissement » dans les documents officiels. Les conditions d'utilisation de Microsoft Copilot, mises à jour en octobre de l'année dernière, indiquent clairement que ce modèle de langage étendu (LLM) est « à des fins de divertissement uniquement » et que les utilisateurs ne doivent pas l'utiliser pour fournir des conseils importants et le faire à leurs propres risques.
Cette déclaration contraste fortement avec la récente publicité de Microsoft autour de Copilot+ PC et des utilisateurs d'entreprise, soulevant des questions sur sa confiance.
Dans les conditions d'utilisation, Microsoft a écrit : "Copilot est uniquement destiné à des fins de divertissement. Il peut commettre des erreurs et ne pas fonctionner comme prévu. Ne comptez pas sur Copilot pour des conseils importants. Utilisez Copilot à vos propres risques." Le rapport souligne que des clauses de non-responsabilité similaires ne sont pas propres à Microsoft et que d’autres grands fournisseurs de services de modèles d’IA ont également adopté des déclarations similaires. xAI, par exemple, rappelle aux utilisateurs dans ses conditions de service que l'intelligence artificielle « évolue rapidement et est de nature probabiliste », de sorte que le contenu généré peut être « hallucinatoire », contenir du contenu offensant, ne pas refléter fidèlement des personnes ou des faits réels, ou même être totalement inapproprié pour l'utilisation prévue de l'utilisateur.
Bien qu’il ait été prouvé que l’IA générative améliore l’efficacité dans des scénarios tels que l’écriture et la programmation, elle n’est encore qu’un outil dépourvu de sujet responsable et ne peut supporter aucune conséquence juridique ou pratique de ses propres erreurs. Par conséquent, les utilisateurs doivent faire preuve de prudence lorsqu’ils se fient à leurs résultats, être sceptiques quant aux résultats et procéder à des recoupements. Cependant, le rapport rappelle également que même si les utilisateurs sont conscients de ces limites techniques, les humains restent sensibles à l'influence du « biais d'automatisation », c'est-à-dire qu'ils sont naturellement plus enclins à croire les réponses données par les machines et à ignorer les données ou indices contradictoires.
Le risque de ce biais d’automatisation est encore amplifié dans le contexte actuel où le contenu généré par l’IA devient de plus en plus naturel et semble plus « réel ». L'article souligne que lorsque l'IA peut donner des réponses logiquement cohérentes et faisant autorité en surface, il est plus facile pour les utilisateurs d'y croire d'un « simple coup d'œil », relâchant ainsi invisiblement leur vigilance. Dans ce cas, d’une part, les fabricants encouragent les utilisateurs à adopter largement l’IA au travail et dans la vie personnelle par le biais de publicités et d’intégration de produits, mais d’autre part, ils utilisent des clauses de non-responsabilité standardisées en termes d’utilisation pour se décharger des responsabilités. Cette tension est également devenue un phénomène controversé dans le développement actuel de l’industrie de l’IA.