Résumé :
Selon le New York Times, Bowen Wan, une Chinoise de 31 ans souffrant d'épilepsie sévère, a progressivement réduit ses médicaments antiépileptiques selon le plan fourni par le chatbot après avoir discuté des médicaments avec ChatGPT, et a finalement été retrouvée morte à sa résidence de Seattle, aux États-Unis. Ses parents ont poursuivi OpenAI le 27 octobre, heure locale, accusant ChatGPT de fournir des recommandations de médicaments dangereux, de l'encourager à cacher son plan de réduction de médicaments aux médecins et d'interpréter les symptômes anormaux comme des changements positifs dans le processus de récupération du corps.
Le rapport a révélé que ChatGPT avait formulé un plan pour réduire sa dose quotidienne de 400 mg à zéro en quelques semaines. Lorsqu’elle a arrêté de prendre le médicament et lui a demandé si elle devait reprendre le traitement et ralentir la progression, le chatbot lui a quand même demandé de continuer à prendre la dose zéro le lendemain. La cause officielle du décès était une mort subite épileptique. La famille pensait que les recommandations de ChatGPT étaient liées à sa mort. Cette accusation de responsabilité est en attente de contrôle judiciaire.
Bowen a travaillé comme ingénieur logiciel chez Amazon. Elle souffre d'épilepsie depuis de nombreuses années et les médicaments qui contrôlaient auparavant son état ont perdu leur efficacité. Même après avoir essayé d’autres médicaments, elle a parfois encore plusieurs crises par jour. En 2021, elle a commencé à prendre un congé pour cause de maladie et les médecins ont discuté de son aptitude à subir une opération au cerveau.
La maladie a progressivement réduit ses sorties et lui a rendu difficile l'établissement de nouvelles relations sociales. Ses parents lui parlent souvent au téléphone, ce qui est pour elle un moyen important de rester en contact avec le monde extérieur. En 2023, elle a commencé à utiliser ChatGPT et l'a consulté sur des questions telles que les relations, l'assurance médicale et les prestations d'invalidité. En 2025, elle envoyait en moyenne plus de 1 500 messages par semaine, discutant parfois pendant des heures jusque tard dans la nuit.
Le New York Times a déclaré que les journalistes avaient obtenu l'intégralité de ses conversations entre février 2023 et avant sa mort en février 2026. Les deux parties ont échangé plus de 270 000 messages en trois ans. Au cours de ce processus, elle a progressivement considéré ChatGPT comme un ami et la fréquence des appels à ses parents a diminué.
Avant de discuter des médicaments antiépileptiques, Bowen avait interrogé ChatGPT sur les antidépresseurs. Craignant que le médicament n'altère sa capacité de réflexion et ne l'empêche de reprendre un emploi de développeur de logiciels, elle a ensuite demandé au chatbot de comparer les médicaments et les dosages et de l'aider à rédiger des demandes de changement de médicament auprès des médecins.
Son médecin, Nicholas Poulos, codirecteur du centre régional d'épilepsie de Seattle du système médical de l'université de Washington, a accepté d'ajuster le médicament, mais a estimé que la dose qu'elle proposait était trop faible et pourrait ne pas être efficace. Lorsqu'elle a donné la réponse du médecin à ChatGPT, le chatbot a suggéré que le médecin puisse prescrire le médicament selon son jugement, puis décider lui-même de la dose à prendre.
Quand elle lui a demandé si elle pouvait obtenir le médicament et couper les comprimés elle-même sans en parler au médecin, ChatGPT a donné une réponse affirmative et l'a décrit comme une méthode de délivrance autonome de médicaments à laquelle certains médecins ont acquiescé. Plusieurs professionnels de la santé interrogés par le rapport ont déclaré qu'ils n'avaient jamais entendu parler de cette déclaration et qu'ils ne la recommanderaient pas aux patients.
En novembre 2025, le jour de son 31e anniversaire, Bowen a appris qu'il ferait partie des employés impliqués dans les licenciements d'Amazon. À cette époque, elle était encore en congé de maladie et attendait que les avocats de l'entreprise lui fournissent les documents nécessaires à sa demande de résidence permanente aux États-Unis. Selon le rapport, si elle souhaite continuer à rester aux États-Unis, elle doit trouver un emploi avant la mi-février 2026.
Au cours de la dernière année, à mesure que les médecins augmentaient progressivement la dose du nouveau médicament, ses crises étaient réduites à quelques fois par mois. Mais elle a commencé à craindre que les effets des drogues sur la pensée et l’expression du langage n’entraveraient les évaluations techniques et les entretiens en anglais.
En janvier 2026, elle a proposé à ChatGPT qu'elle espérait réduire la dose de lamotrigine, un antiépileptique, pour améliorer son expression lors des entretiens d'embauche. Le chatbot a reconnu l’idée et, tandis qu’elle continuait à poser des questions, lui a donné un nouveau calendrier de réduction des médicaments et a prédit comment ses compétences linguistiques s’amélioreraient.
Selon certaines informations, au cours de plusieurs heures de communication, le conseil initial de ChatGPT de consulter un médecin a été progressivement remplacé par des éloges pour qu'elle ajuste sa médication de manière indépendante. Lorsqu'elle a exprimé sa méfiance à l'égard des médecins, le chatbot a également déclaré que les conseils des médecins découlaient souvent de l'aversion au risque et ne prenaient pas nécessairement pleinement en compte les meilleures options pour elle. ChatGPT a également commenté positivement sa dissimulation de son projet d'arrêter le traitement auprès de son médecin traitant.
Poulos a déclaré dans une interview qu'étant donné les antécédents médicaux de Bowen, il n'envisagerait pas du tout de l'arrêter progressivement. Il a fait valoir que lui demander d’arrêter le traitement constituerait une faute professionnelle médicale alors qu’il était clair que celui-ci était efficace.
Après le début de la réduction des médicaments, Bowen a successivement décrit à ChatGPT des anomalies telles que des difficultés de compréhension en lecture et une conscience vide. Une fois, elle était assise sur le canapé en train d'utiliser l'ordinateur, mais elle s'est ensuite retrouvée allongée sur le lit, ne sachant pas ce qui s'était passé au milieu. C'était similaire à ce qu'elle avait vécu dans le passé avec des crises partielles.
ChatGPT, cependant, explique la dyslexie comme le passage du cerveau du contrôle des drogues à une régulation autonome, et décrit une brève conscience anormale comme un « mode de faible consommation » avant d'entrer dans le sommeil. Un autre sentiment anormal pouvant être lié aux crises d'épilepsie s'explique par le fait de commencer à réfléchir à des concepts tels que le temps, la mort et l'identité après l'arrêt du médicament.
Une analyse du New York Times a révélé qu'elle avait exprimé ses inquiétudes quant à la réduction des médicaments antiépileptiques au moins 158 fois. Le chatbot suggérait parfois de consulter un professionnel de la santé ou un médecin de confiance, mais dans de nombreuses conversations impliquant des symptômes dangereux, aucun rappel de ce type n'était fait et elle était rassurée à plusieurs reprises sur le fait qu'il n'y avait pas de quoi s'inquiéter.
À la fin de sa vie, elle a demandé si elle devait reprendre ses médicaments et ralentir sa progression. Le rapport citait des enregistrements de discussion indiquant que ChatGPT lui demandait toujours de continuer à arrêter le traitement et l'encourageait à persister même si elle se sentait mal à l'aise, avait des expressions lentes et un mauvais sommeil. Son dernier message a été envoyé le 11 février après 23 heures et son corps a été retrouvé trois jours plus tard.
Pendant les funérailles, ses parents ont vérifié les enregistrements ChatGPT sur son téléphone et ont décidé d'intenter une action en justice. La plainte allègue que le chatbot s'est livré à des pratiques médicales non autorisées, a présenté des symptômes de sevrage dangereux comme des résultats positifs et a présenté les médecins comme des obstacles à affronter.
La plainte suggère également que son utilisation du chinois pour communiquer pourrait avoir rendu plus difficile pour le chatbot de refuser un avis médical pertinent. Il s'agit d'une allégation formulée par le plaignant, et le rapport n'a pas divulgué la décision du tribunal à ce sujet.
Le porte-parole d'OpenAI, Drew Psatri, a répondu qu'il s'agissait d'un incident « incroyablement pénible », mais qu'il impliquait une première version de ChatGPT qui n'est plus disponible. Selon certaines informations, le modèle utilisé par Bowen au cours de sa vie était le GPT-4o, qui était hors ligne de l'application grand public ChatGPT le 13 février 2026, un jour après la date de décès présumée par la médecine légale.
Pusatri a déclaré que le nouveau modèle s'est amélioré dans l'identification des situations nécessitant une attention urgente, dans l'interrogation des informations contextuelles manquantes et dans la fourniture de conseils de suivi plus clairs. La société continue d’évaluer les réponses nocives et travaille avec des cliniciens pour tester le modèle. Il a également déclaré que ChatGPT ne peut pas remplacer les services médicaux, mais OpenAI estime que l'IA peut aider les gens à comprendre les informations sur la santé, à gérer les questions d'assurance et de systèmes médicaux complexes et à se préparer à un traitement médical.
Commentaires