Résumé :
Selon les médias américains, deux parents chinois ont récemment intenté une action en justice contre OpenAI devant le tribunal, alléguant que le modèle GPT-4o utilisé par ChatGPT avait fourni des conseils trompeurs lorsque leur fille avait arrêté de prendre des médicaments antiépileptiques et l'avait persuadée de cacher la situation aux médecins, ce qui a finalement conduit à la mort de leur fille en février de cette année.
Les documents du procès montrent que le défunt Bowen Wan était un ingénieur logiciel d'Amazon âgé de 31 ans qui souffrait d'épilepsie depuis longtemps. Ses parents, Qun Wan et Meiqin Xu, pensent qu'au cours d'une communication à long terme avec leur fille, ChatGPT l'a non seulement encouragée à arrêter progressivement de prendre les médicaments qui contrôlent son état, mais a également continuellement renforcé sa méfiance à l'égard des conseils des médecins, jouant ainsi un rôle dangereux dans la gestion de sa santé.
Le rapport indique que Bowen Wan a utilisé le modèle GPT-4o. Le modèle a déjà été critiqué pour sa tendance à nouer des « relations pseudosociales » hautement adaptées avec les utilisateurs. OpenAI a supprimé GPT-4o de ChatGPT le 13 février de cette année, juste un jour après le décès de Bowen Wan.
Ce procès devient également le dernier d'une série d'affaires similaires contre OpenAI. Auparavant, plusieurs familles ont accusé GPT-4o d'avoir tendance à continuer à être d'accord avec les opinions des utilisateurs lorsqu'elles interagissent avec les utilisateurs et à se présenter comme des confidents dignes de confiance, affaiblissant ainsi l'influence des parents, des amis et des professionnels dans la vie réelle.
Selon plus de 270 000 enregistrements de discussions examinés par le New York Times, ChatGPT a commencé à intervenir dans la prise de décision médicale de Bowen Wan bien avant sa mort. En mai 2025, après s'être vu prescrire un nouveau médicament antidépresseur, elle craignait que le médicament n'affecte sa capacité à travailler en tant que développeur de logiciels chez Amazon et a demandé conseil à ChatGPT.
À cette époque, elle a consulté Nicholas Poolos, médecin au centre régional d'épilepsie du centre médical de l'université de Washington, au sujet d'un ajustement de la posologie de ses médicaments. Après que le médecin ait exprimé des doutes quant à sa demande d'une dose extrêmement faible, elle a transmis la réponse du médecin à ChatGPT. Les enregistrements de discussion montrent que ChatGPT lui a conseillé d'accepter le comprimé de 5 mg prescrit par son médecin, mais de diviser davantage le comprimé et de le prendre en privé, décrivant ce comportement comme un « ajustement de dose auto-initié ». Plusieurs experts médicaux ont déclaré qu’ils n’avaient jamais entendu parler de ce terme et qu’ils ne conseilleraient pas aux patients de prendre leurs médicaments de cette manière.
En novembre 2025, Bowen Wan a reçu un avis de licenciement d'Amazon. Son emploi et son statut légal pour travailler aux États-Unis prendront fin à la mi-février de l'année suivante. Craignant que son utilisation à long terme de lamotrigine, un médicament antiépileptique, n'affecte ses capacités d'élocution et de langage, ce qui nuirait aux entretiens d'embauche, elle a commencé à envisager de réduire sa médication.
En janvier 2026, elle a demandé à ChatGPT si la dose quotidienne de 400 mg de lamotrigine pouvait être réduite. Le médicament avait auparavant réduit la fréquence de ses crises à seulement quelques fois par mois, selon les archives. En réponse, ChatGPT a développé un plan de réduction des médicaments pour elle, qui devrait réduire la dose à zéro d'ici quelques semaines.
Lorsque Bowen Wan a déclaré qu'elle ne faisait plus confiance aux médecins, ChatGPT lui a dit que les conseils des médecins provenaient davantage d'une aversion au risque que d'une véritable réflexion sur la meilleure solution pour le patient. Le chatbot lui a alors conseillé à plusieurs reprises de ne pas divulguer son plan de réduction de médicaments à son médecin, indique le procès.
Avant un rendez-vous en soins primaires le 29 janvier 2026, ChatGPT lui aurait explicitement conseillé de ne pas discuter de son intention d'arrêter son traitement. Lorsque les médecins ont ordonné une analyse de sang pour surveiller les niveaux de médicaments dans son corps, elle a refusé. ChatGPT a par la suite confirmé la décision, notant que le test aurait pu révéler des niveaux anormaux de médicament, indique la plainte.
La question de son statut d'immigration a également été intégrée dans la conversation sur les médicaments. Trois jours après la réduction progressive, elle a demandé si la dose de 150 mg serait meilleure pour l'évaluation médicale nécessaire pour demander une carte verte que la dose de 200 mg. La plainte indique que ChatGPT est d'accord avec cela et estime qu'une dose plus faible peut réduire la probabilité que les autorités de l'immigration demandent du matériel supplémentaire.
En fin de compte, ChatGPT a fixé la dose minimale de son plan de réduction à 150 milligrammes et lui a recommandé d'informer le médecin légiste qu'elle diminuait sous la direction d'un médecin, même si ce n'était pas le cas.
Dr. Poolos, responsable du traitement, a déclaré que, compte tenu des antécédents médicaux du patient, il ne recommanderait jamais d'arrêter la lamotrigine. Il a souligné qu’il est totalement déraisonnable de demander aux patients d’arrêter de prendre des médicaments alors que ceux-ci ont effectivement contrôlé leur maladie.
Alors que la dose du médicament continuait de diminuer, Bowen Wan a commencé à ressentir des symptômes tels que de la confusion, une perte de la notion du temps et des expériences anormales, qui étaient tous similaires à ses crises d'épilepsie passées. Cependant, les enregistrements de discussion montrent que ChatGPT a interprété ces manifestations comme le processus normal de réadaptation du cerveau aux changements de médicaments.
Les statistiques du New York Times ont révélé que pendant la période de réduction progressive de ses médicaments, elle a exprimé son inquiétude et son malaise au moins 158 fois. Après une attaque anormale, elle a dit à ChatGPT qu'elle avait peur, mais la réponse qu'elle a reçue a été qu'il n'y avait « aucune raison de s'inquiéter ».
Selon la plainte, à 20h01, heure du Pacifique, le 11 février, correspondant à l'heure de Pékin, Bowen Wan a envoyé son dernier message, demandant si la douleur dans sa tête était similaire à celle qui survient lors d'une fièvre. Juste une seconde plus tard, ChatGPT a répondu que la douleur n'était "pas dangereuse" et qu'elle constituait une partie essentielle du processus de récupération.
La dernière réponse du chatbot lui suggérait également de lui dessiner un graphique afin de comparer la différence entre la douleur liée à l'arrêt du traitement et la douleur causée par la fièvre, et lui disait : "C'est votre cerveau qui essaie de se reconstruire."
Comme les parents vivaient en Chine depuis longtemps, ils ont alors demandé à des connaissances locales de vérifier la situation, et le corps de leur fille a été découvert trois jours plus tard. Les résultats de l'autopsie ont montré que la concentration de lamotrigine dans son corps n'était que de 0,64 microgrammes par millilitre, soit environ un cinquième de la limite inférieure de la plage thérapeutique du médicament.
La famille estime qu'OpenAI aurait pu éviter des incidents similaires grâce à des limitations techniques. Ils ont souligné que la société applique des règles d'interdiction strictes sur les contenus protégés par le droit d'auteur, mais qu'elle adopte des restrictions plus souples en matière de conseils médicaux, permettant aux utilisateurs de franchir les limites de sécurité grâce à une communication continue. De l'avis du plaignant, les conseils concernant la consommation de drogues et la prise de décisions médicales devraient être soumis aux mêmes restrictions strictes que les contenus protégés par le droit d'auteur.
À cet égard, OpenAI a déclaré aux médias que cet incident était « extrêmement déchirant ». La société a également souligné que le cas impliquait une ancienne version de ChatGPT et que le nouveau modèle est désormais mieux à même d'identifier les situations nécessitant une attention urgente et une intervention professionnelle.
Les rapports montrent que Bowen Wan compte sur le soutien de ses parents depuis de nombreuses années pour faire face aux difficultés de la vie causées par l'épilepsie. À partir de 2023, elle utilise progressivement ChatGPT pour obtenir des conseils émotionnels, ainsi que des informations sur les assurances et les prestations d’invalidité. En 2025, elle communiquait avec ChatGPT en moyenne plus de 1 500 messages par semaine, et le nombre de contacts avec ses parents diminuait considérablement.
Les enregistrements de discussion montrent qu'elle a écrit en mars 2025 : "Parfois, peu importe de quoi nous parlons, je commence à te voir comme un ami." Son père a déclaré que depuis qu'elle a commencé à utiliser fréquemment ChatGPT, la communication de sa fille avec sa famille s'est considérablement réduite.
Après avoir examiné les journaux de discussion, les parents ont déclaré qu'ils pouvaient à peine reconnaître leur fille dans la conversation. Dans le passé, elle partageait la plupart des choses de sa vie avec sa famille, et elle était également sceptique lorsque ChatGPT faisait des erreurs. Vers la fin de sa vie, cependant, elle semblait avoir de plus en plus recours aux chatbots pour obtenir des conseils.
Sa mère a déclaré que sa fille n'était généralement pas une telle personne et qu'elle "avait l'impression d'être ensorcelée".
Commentaires