Résumé :
Selon WIRED, avec la prolifération des contenus générés par l'intelligence artificielle, une controverse autour de « la question de savoir si les romans sont écrits par des humains » se propage dans l'industrie de l'édition. Après qu’il a été découvert qu’environ 78 % du contenu d’un roman d’horreur était probablement généré par l’IA, et que l’éditeur a par la suite retiré son projet de publication, de plus en plus d’écrivains ont commencé à s’inquiéter : même si l’œuvre est entièrement créée par eux-mêmes, ils peuvent être soupçonnés d’utiliser l’IA en raison de leur style d’écriture, et peuvent même être confrontés à des boycotts et à des pertes de réputation.
En mars de cette année, le roman d'horreur "Shy Girl" est devenu le centre de cette controverse. Il y a eu beaucoup de scepticisme sur les réseaux sociaux quant au fait que le livre ait été principalement généré par l'IA. Par la suite, l'éditeur Hachette Book Group a annulé le projet de publication du roman aux États-Unis et a arrêté sa distribution sur le marché britannique.
La société de détection d'IA Pangram affirme qu'environ
78 % du texte du livre a été généré par l'IA
. Cependant, l’auteur du roman Mia Ballard nie avoir utilisé l’IA pour écrire. Elle a déclaré qu’un éditeur avait apporté des modifications assistées par l’IA à une version auto-publiée du livre et qu’elle cherchait à intenter une action en justice."Wired" a souligné qu'après cet incident, des accusations similaires ont commencé à apparaître dans l'industrie de l'édition. Un auteur est interrogé après avoir remporté un prix pour une nouvelle, tandis qu'un autre est impliqué dans une controverse sur l'écriture d'IA après que son roman policier a reçu une offre de plusieurs millions de dollars d'un éditeur. Les deux hommes nient les accusations.
Ce qui inquiète encore plus l'écrivain, c'est qu'il n'existe actuellement aucune méthode généralement acceptée pour prouver qu'une œuvre a été entièrement créée par des humains.
L'auteure à succès Andrea Bartz a déclaré à "Wired" qu'après l'incident de "Shy Girl", elle a réalisé presque immédiatement que cela pourrait déclencher une "chasse aux sorcières" contre les écrivains.
« N'importe qui peut accuser n'importe qui d'utiliser l'IA. »
Une fois que des allégations ont été formulées, même sans preuves solides, le mal pourrait avoir été fait, a-t-elle déclaré.Baltz lui-même est également l'un des principaux plaignants dans le procès pour droits d'auteur contre Anthropic. Le procès accusait Anthropic d'avoir téléchargé un grand nombre de livres protégés par le droit d'auteur à partir de sites Web piratés pour former des modèles d'IA. Anthropic a accepté de payer
1,5 milliard de dollars
l'année dernière Parvenez à un règlement.Face aux doutes de plus en plus répandus concernant l'écriture basée sur l'IA, un groupe d'entreprises technologiques a commencé à lancer des logiciels spécialement conçus pour prouver le processus de création d'œuvres.
Des outils tels que Workings, Blindproof, Wintertext, Human Ink et ObraVera prétendent être capables d'enregistrer le processus de frappe de l'auteur, l'historique des modifications de documents et même d'utiliser des technologies telles que le hachage crypté et l'horodatage pour générer des « empreintes digitales » numériques pour les œuvres écrites afin d'aider les auteurs à fournir des enregistrements créatifs lorsqu'ils sont interrogés.
Cependant, ces outils ne peuvent pas véritablement prouver que l’œuvre n’utilise pas l’IA.
Max Spero, cofondateur et PDG de Pangram, a souligné que même si le logiciel peut enregistrer complètement le processus de saisie, les utilisateurs peuvent toujours saisir textuellement le contenu généré par l'IA ou simuler le processus d'écriture à l'aide de programmes de saisie automatique.
De plus, les écrivains créent souvent de manière complexe. Ils peuvent basculer entre plusieurs documents, réviser des brouillons à plusieurs reprises ou enregistrer des notes vocales via leur téléphone portable. Ces processus sont difficiles à enregistrer complètement par un seul logiciel.
Les développeurs d'ObraVera ont également admis que sa technologie peut prouver quand un certain texte a été enregistré et qui l'a soumis, mais ils ne peuvent pas confirmer de manière indépendante si le texte a été généré par l'IA.
Les outils de détection de l'IA eux-mêmes sont également controversés.
Pangram affirme que le taux de faux positifs de son outil dans le domaine de l'écriture créative n'est que de
0,01 %
. Mais Mary Rasenberger, directrice générale de la Authors Guild, a déclaré que l'association avait entendu parler de plusieurs cas où des personnes avaient soumis leurs propres œuvres manuscrites à des tests, pour ensuite être jugées comme ayant été générées par l'IA.Raxenberg estime qu'exiger des écrivains qu'ils fournissent des preuves supplémentaires démontrant qu'ils sont des auteurs humains est une charge déraisonnable en soi. Elle a souligné que l’association ne soutient pas le fait d’obliger les écrivains à utiliser de tels outils, et a rappelé aux auteurs de ne pas accuser facilement leurs pairs d’utiliser l’IA.
Jane Friedman, experte du secteur de l'édition, souligne qu'il est peu probable que les éditeurs et les agents littéraires acceptent universellement les systèmes d'authentification de la paternité qui nécessitent des frais supplémentaires ou prennent beaucoup de temps. Même si des normes unifiées sont établies, il reste difficile d’éviter que les documents de certification ne soient falsifiés ou manipulés.
Cette méfiance a affecté l'évaluation marchande de l'œuvre.
Baltz a révélé qu'elle avait entendu parler d'écrivains recevant de nombreuses mauvaises critiques sur le site de critiques de livres Goodreads simplement parce que leurs œuvres « se lisent comme si elles avaient été écrites par l'IA ». Certains lecteurs ont même déclaré qu’ils ne souhaitaient pas lire les ouvrages publiés après 2022, car ils craignaient qu’ils soient mélangés à du contenu généré par l’IA.
Ironiquement, le nouveau roman de Baltz, « Supprimez votre compte », dont la publication est prévue pour 2027, se trouve être basé sur l'IA générative. Dans son livre, elle a délibérément imité les expressions de grands modèles de langage pour créer des enregistrements de discussion fictifs et des textes marketing IA.
Maintenant, elle commence à craindre que ces mots qui imitent délibérément l'IA ne la rendent suspecte.
"Que dois-je faire si l'un des contenus est considéré comme étant une écriture d'IA ?"
» dit Baltz."Wired" a souligné qu'avec le développement continu des outils d'écriture d'IA et des technologies de détection, l'industrie de l'édition est confrontée à un problème difficile à résoudre :
Alors que les machines imitent de mieux en mieux l'écriture humaine et que les mots humains peuvent être mal jugés par les machines, comment les écrivains peuvent-ils prouver que leurs œuvres sont de leurs propres mains ?
Commentaires