OpenAI a développé un outil qui pourrait potentiellement empêcher les étudiants de tricher en demandant à ChatGPT de rédiger des devoirs – mais le Wall Street Journal rapporte que la société se demande si elle doit réellement publier un tel outil. Dans un communiqué, un porte-parole d'OpenAI a confirmé que la société travaillait sur la méthode de tatouage de texte décrite dans le rapport du Daily News, mais a déclaré qu'elle adoptait une « approche réfléchie » en raison de « la complexité impliquée et de l'impact que cela pourrait avoir sur l'écosystème plus large au-delà d'OpenAI ».

"La méthode de tatouage de texte que nous développons est techniquement prometteuse, mais pendant que nous étudions des alternatives, nous évaluons les risques importants, notamment la facilité de contournement par des acteurs malveillants et le potentiel d'impact disproportionné sur des groupes tels que les non-anglophones", a déclaré le porte-parole.

Il s’agirait d’une approche différente de la plupart des efforts précédents visant à détecter le texte généré par l’IA, qui se sont révélés largement inefficaces. OpenAI a même fermé son précédent détecteur de texte à intelligence artificielle l'année dernière en raison d'une "faible précision".

En termes de filigrane de texte, OpenAI se concentrera uniquement sur la détection de texte dans ChatGPT, plutôt que sur les modèles d'autres entreprises. À cette fin, OpenAI apportera des modifications mineures à la façon dont ChatGPT sélectionne le texte, créant un filigrane invisible dans le texte qui sera ensuite détecté par un outil distinct.

Après la publication du rapport, OpenAI a également mis à jour un article de blog en mai pour présenter ses recherches sur la détection de contenu généré par l'intelligence artificielle. La mise à jour indique que les filigranes de texte se sont révélés « très précis et même efficaces contre la falsification localisée, telle que la paraphrase », mais se sont révélés « moins robustes face à la falsification globalisée, comme l'utilisation d'un système de traduction, la reformulation avec un autre modèle génératif ou l'exigence du modèle d'insérer un caractère spécial entre chaque mot, puis de supprimer ce caractère ».

En conséquence, écrit OpenAI, cette méthode est « facilement contournable par les abuseurs ». La mise à jour d'OpenAI fait également écho au point de vue du porte-parole concernant les non-anglophones, affirmant que le filigrane de texte pourrait « ternir l'utilisation de l'IA en tant qu'outil d'écriture utile pour les anglophones non natifs ».

apprendre encore plus:

https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/