De grands modèles linguistiques ont été utilisés pour tricher dans les écoles et diffuser de la désinformation dans les reportages. Aujourd’hui, ils s’infiltrent dans les salles d’audience, exacerbant les faux litiges auxquels sont confrontés les juges chargés d’affaires lourdes et posant de nouveaux risques à un système judiciaire déjà surchargé.

Un récent rapport d'Ars Technica détaille une décision de la Cour d'appel de Géorgie qui met en évidence un risque croissant auquel est confronté le système judiciaire américain : des hallucinations générées par l'IA s'insinuent dans les documents judiciaires et influencent même les décisions judiciaires. Dans le litige de divorce, les avocats du mari ont soumis un projet d’ordonnance rempli de références à des cas inexistants – des cas qui ont probablement été fabriqués par des outils d’IA générative comme ChatGPT. Le tribunal de première instance a signé le document et a ensuite statué en faveur du mari.

Ce n’est que lorsque l’épouse a fait appel que les fausses assignations à comparaître ont été révélées. Une commission d'appel dirigée par le juge Jeff Watkins a annulé l'ordonnance, soulignant que les fausses affaires compromettaient la capacité du tribunal à réviser le verdict. Watkins a été franc, affirmant que les assignations à comparaître pourraient être une hallucination générée par l'IA. Le tribunal a condamné l'avocat du mari à une amende de 2 500 $.

Cela peut sembler un cas isolé, mais en février de cette année, un avocat a été condamné à une amende de 15 000 $ dans une situation similaire. Les experts juridiques ont averti que cela pourrait être un signe avant-coureur de choses à venir. Les outils d’IA générative sont connus pour falsifier facilement les informations avec une confiance convaincante – un comportement connu sous le nom d’« hallucination ». Alors que l’intelligence artificielle devient de plus en plus accessible aux avocats débordés et aux plaideurs non représentés, disent les experts, les juges seront de plus en plus confrontés à des documents contentieux remplis de fausses affaires, de faux précédents et de raisonnements juridiques confus se faisant passer pour légitimes.

Cela aggrave encore le problème dans un système judiciaire déjà mis à rude épreuve. Dans de nombreuses juridictions, les juges approuvent souvent les jugements rédigés par les avocats sans arrière-pensée. Cependant, le recours à l’intelligence artificielle exacerbe ce risque.

Avis de la Cour d'appel sur les fausses citations juridiques

    "J'imagine que cela pourrait être le cas dans des situations où les juges de première instance traitent de nombreuses affaires", a déclaré le juriste John Browning, ancien juge de la Cour d'appel du Texas qui a beaucoup écrit sur l'éthique de l'intelligence artificielle en droit.

    Browning a déclaré à Ars Technica qu'il pensait qu'il était « très probable » que ce type d'erreur devienne plus courant. Lui et d’autres experts préviennent que les tribunaux, en particulier au niveau local, ne sont pas prêts à faire face à de telles pratiques aléatoires induites par l’IA. Actuellement, seuls deux États, le Michigan et la Virginie occidentale, exigent que les juges maintiennent des « compétences techniques » de base en matière d’intelligence artificielle. Certains juges ont totalement interdit l’utilisation de documents générés par l’IA ou ont rendu obligatoire la divulgation de l’utilisation de l’IA, mais ces politiques sont incomplètes, incohérentes et difficiles à appliquer en raison du grand nombre de cas.

    Dans le même temps, les documents générés par l’IA ne sont pas toujours évidents. Les grands modèles linguistiques concoctent souvent des noms de cas à consonance réaliste, des citations spécieuses et des termes juridiques à consonance formelle. Browning a déclaré qu'il existe des signes révélateurs qu'un juge peut surveiller : le mauvais sténographe judiciaire, un numéro de dossier fictif comme "123456", ou un langage guindé et stéréotypé. Cependant, à mesure que les outils d’IA deviennent plus sophistiqués, ces indices pourraient progressivement disparaître.

    Des chercheurs tels que Peter Henderson du laboratoire Polaris de l’Université de Princeton développent des outils pour suivre l’impact de l’intelligence artificielle sur les documents judiciaires et plaident en faveur d’une bibliothèque de cas juridiques ouverte pour simplifier la vérification. D'autres ont proposé de nouvelles solutions, comme un « système de primes » qui récompense ceux qui détectent les faux cas avant qu'ils ne soient détectés.

    Pour l’instant, l’affaire du divorce en Géorgie est un avertissement – ​​non seulement contre les avocats imprudents, mais aussi contre le risque que les systèmes judiciaires soient submergés et incapables de suivre l’utilisation de l’intelligence artificielle dans chaque document juridique. Comme l’a prévenu le juge Watkins, si les hallucinations générées par l’IA continuent de s’infiltrer sans contrôle dans les dossiers judiciaires, elles pourraient miner la confiance dans le système judiciaire lui-même.