Le quartier de Palisades à Los Angeles a été frappé par un grave incendie de forêt le jour du Nouvel An 2025, devenant l'un des incendies de forêt les plus meurtriers de l'histoire de la ville. Les autorités ont accusé Jonathan Rinderknecht d'incendie criminel. Au cours du procès, ils ont obtenu les données de localisation de son iPhone, les vidéos de surveillance environnantes et les déclarations des témoins afin de prouver qu'il était présent près de l'incendie et qu'il avait participé à l'incendie criminel. Outre les preuves traditionnelles, les enregistrements de ses conversations et la génération d'images à l'aide de ChatGPT ont été présentés au tribunal, ce qui est encore rare dans les affaires pénales.

Selon les procureurs du procès, Lindknecht a demandé à ChatGPT de générer des images liées au « feu » et s'est plaint au chatbot de « pourquoi il était toujours aussi en colère ». De plus, il a divagué au cours de la conversation, accusant les gens riches de « ruiner le monde », et aurait demandé à ChatGPT si un incendie avait été déclenché par la cigarette de quelqu'un, si cette personne serait tenue pour responsable. Le procureur a tenté d'utiliser cela pour façonner l'état mental et la motivation de l'accusé, laissant entendre qu'il avait une concentration anormale sur les flammes et qu'il éprouvait un fort ressentiment envers l'injustice sociale.

Cependant, cet argument, construit autour des enregistrements de chat ChatGPT, n’a pas convaincu le jury. Le jury aurait voté 10 contre 2 en faveur de la défense lors d'un vote final, laissant le verdict dans l'impasse. Dans le système de justice pénale américain, les affaires majeures nécessitent souvent que les jurys parviennent à un verdict unanime ou quasi unanime, et une impasse signifie l'incapacité de parvenir à un verdict clair de culpabilité ou d'innocence. Le juge a alors déclaré que le jury était « divisé », le jugeant « dans l'impasse » conformément à la loi et déclarant le procès nul.

Une jurée a déclaré au média local CBS LA qu'elle ne pensait pas que les enregistrements ChatGPT prouvaient quoi que ce soit de substantiel. Elle a avoué qu'elle "avait beaucoup discuté avec ChatGPT" et avait trouvé "irritante" la tentative de l'accusation de déduire des défauts de caractère à partir des journaux de discussion. Selon elle, l'interaction avec les chatbots fait désormais partie de la vie quotidienne des gens ordinaires, et ces journaux à eux seuls sont difficiles à utiliser comme base pour juger si une personne a des tendances criminelles.

Cette affaire reflète de nouvelles controverses sur l'utilisation des outils d'intelligence artificielle dans des scénarios judiciaires : d'une part, les procureurs et les agences d'enquête sont de plus en plus enclins à considérer les données des appareils personnels, les enregistrements d'activités en ligne et même le contenu d'interaction avec l'IA comme sources potentielles de preuves ; d’un autre côté, le public et les jurés ont encore de sérieux doutes quant à la manière d’interpréter ces données et quant à savoir si elles reflètent adéquatement les véritables motivations et comportements. Dans l'affaire des incendies de forêt de Palisades, les enregistrements ChatGPT n'ont pas réussi à détenir la clé d'une condamnation et ont plutôt alimenté le ressentiment des jurés à l'égard de la stratégie de preuve de l'accusation.

À mesure que l’IA générative est de plus en plus intégrée dans l’utilisation quotidienne, des conflits similaires risquent de se répéter dans davantage de cas à l’avenir. La manière dont le système judiciaire distingue les « discussions quotidiennes » des « signaux d'alarme » et la manière d'éviter la stigmatisation généralisée des utilisateurs de technologies deviendront des questions pratiques qui nécessiteront une réponse urgente à l'intersection du droit et de la technologie.