Margaret Atwood, écrivaine canadienne et auteur de « The Handmaid's Tale » et « The Blind Assassin », a récemment parlé de l'intelligence artificielle générative (IA) au Festival littéraire et culturel Babell à Porto, au Portugal, et a admis qu'elle n'était pas satisfaite de cette technologie. Dans une interview sur place, Atwood a rappelé sa seule expérience d'utilisation d'un chatbot IA. Elle a essayé d'utiliser Claude d'Anthropic pour interroger des informations sur le drame policier britannique "Father Brown", mais a constaté que l'autre partie avait donné des conclusions erronées, ce qui l'a amenée à remettre en question la fiabilité des grands modèles linguistiques actuels.
Atwood a déclaré que Claude « inventait clairement des choses » dans ses réponses aux questions. Elle a souligné que ce n'est pas parce que le système « ment intentionnellement », mais parce qu'il s'agit simplement d'un vaste modèle de langage formé sur d'énormes quantités de texte et qui n'a pas les réelles capacités de compréhension des humains. Selon sa description, Claude semblait « piller et épisser » des informations provenant d'un grand nombre de critiques télévisées et de films, mais les critiques ne révélaient généralement pas directement la fin de l'intrigue, ce qui a amené le modèle à être « induit en erreur » par le corpus de formation sur les points clés de l'intrigue de « Père Brown ».
En plus de critiquer les outils d’IA eux-mêmes, Atwood exprime également son mécontentement à l’égard de ceux qui deviennent accros à une telle technologie. Elle qualifie ces utilisateurs d’« opportunistes », estimant qu’ils essaient de prendre des « raccourcis » à l’aide de l’IA et de « tricher » de manière indétectable, plutôt que d’investir le temps et l’énergie nécessaires pour vérifier ou créer personnellement du contenu. Selon elle, la technologie elle-même ne peut remplacer le jugement et la responsabilité humains. Si la production de contenu est entièrement confiée à des machines non vérifiées, le risque sera finalement supporté par les humains eux-mêmes.
Atwood a souligné que les grands modèles linguistiques actuels s'appuient fortement sur les documents de réseau publiés et les données textuelles explorées. Ces informations peuvent être obsolètes, biaisées ou même fausses. Elle a donc rappelé que les utilisateurs ordinaires et les institutions qui les utilisent à des fins commerciales ne devraient pas considérer les résultats générés par les machines comme « l'autorité ultime », mais devraient procéder à un examen manuel et à une vérification des faits. Elle a souligné que de nombreuses entreprises intègrent l’IA dans leurs processus métier, mais même dans le but d’améliorer l’efficacité, elles doivent accepter le fait que ces systèmes commettront des erreurs et que la qualité du résultat dépend en grande partie de la fiabilité et de l’intégrité des données d’entrée.
Lorsqu’il s’agit des problèmes fondamentaux liés à l’IA générative, Atwood résume son approche par un simple dicton technologique : « Garbage in, garbage out ». Elle estime que si les données de formation elles-mêmes sont erronées ou consistent en un contenu Internet non filtré, quelle que soit la complexité de la structure du modèle et l'énorme échelle des paramètres, elles ne peuvent pas résoudre fondamentalement le problème des erreurs et des biais. Pour elle, il ne s’agit pas seulement de la fiabilité de la technologie, mais d’une réflexion plus large sur la créativité, l’originalité et le rôle de l’écrivain humain.
À la fin de la conversation, Atwood a rappelé une fois de plus au public que les machines ne sont pas des interprètes parfaits comme les robots, encore moins des êtres humains dotés de morale et d'expérience, mais simplement un ensemble d'outils pour lire et réorganiser le texte. Elle préconise que dans les domaines de la création, de la critique et de la production de connaissances, les gens doivent maintenir leur vigilance et leur sens des responsabilités pour éviter que la recherche de la vérité et de l'exactitude ne soit sacrifiée au profit de la « commodité » promise par la technologie.