Résumé :
Le 11 février 2026 à 20h01, Bowen Wan a interrogé ChatGPT sur ses maux de tête. Elle voulait confirmer si la douleur qu'elle ressentait ressemblait un peu à celle d'une fièvre. ChatGPT lui a dit : "Ce n'est pas dangereux, c'est une structure nécessaire à la récupération."
C'était son dernier message à ChatGPT. Peu de temps après, Bowen Wan a été retrouvé mort dans sa résidence de Seattle. Les données médico-légales ont classé la cause du décès comme étant une mort subite par épilepsie (SUDEP).
Il y a quatre mois, Bowen Wan a appris qu'elle était licenciée par Amazon.
Une femme de 31 ans originaire du Jiangsu, en Chine, qui travaille comme ingénieure en logiciels d'apprentissage automatique aux États-Unis, a perdu son emploi, son visa de travail américain expirera dans quelques mois et elle souffre également.
Elle souffre d'épilepsie et doit prendre de la lamotrigine pendant une longue période pour contrôler son état. Elle craint que le médicament n’affecte son expression linguistique et ses performances de réflexion, ce qui à son tour affectera son entretien d’embauche ultérieur.
Bowen Wan a l'habitude de parler à ChatGPT de sa douleur et de sa confusion, et de demander conseil, si le médicament affectera sa réflexion, si la dose peut être réduite et si l'inconfort après la réduction du médicament est acceptable.
ChatGPT l'a soutenue et a développé un plan de réduction progressive des médicaments antiépileptiques.
270 000 enregistrements de conversations avec ChatGPT
Bowen a travaillé pendant un certain temps en tant qu'ingénieur logiciel d'apprentissage automatique chez Amazon. Elle a toujours eu des problèmes d'épilepsie, c'est pourquoi elle prend de la lamotrigine pour contrôler son état.
Pour elle, il ne s'agit pas seulement d'un problème physique, mais aussi d'un problème étroitement lié au travail et à la vie.
Bowen Wan à la cérémonie de remise des diplômes de l'Arizona State University
En novembre 2025, elle a reçu un avis d'Amazon l'informant qu'elle était sur le point d'être licenciée. Elle craignait que les médicaments à long terme n'entravent le développement de ses capacités de langage et de réflexion et n'entraînent de mauvaises performances lors des entretiens techniques. Elle a un jour demandé à ChatGPT si la réduction de la dose de médicament aurait un impact sur l'examen médical requis pour une demande de carte verte.
Quand il y avait des incertitudes concernant son travail, sa santé et son statut d'immigration, ses communications avec Chat GPT sont devenues de plus en plus fréquentes.
Le New York Times a rapporté que les parents de Bowen ont consulté plus de 270 000 conversations entre elle et ChatGPT. Le rapport mentionne qu'en 2025, elle enverrait en moyenne plus de 1 500 messages à ChatGPT par semaine.
Il s'agit d'un ensemble de données très étonnant.
ChatGPT ne sera pas seulement utilisé comme un outil pour rechercher des informations en cas de besoin, mais il sera également impliqué dans de nombreuses petites choses privées de sa vie. Ce qui l'inquiète, ce qu'elle envisage de faire, ses réflexions sur l'avenir et certains problèmes qui ne peuvent pas être vérifiés immédiatement seront abordés dans la communication avec le modèle.
C'est comme entrer dans une clinique et avant même que le médecin vous le demande, il y a un dossier médical sur la table documentant vos problèmes à long terme, les changements dans votre vie et vos préoccupations personnelles.
Les médecins n’ont pas besoin de « voir, entendre, demander et comprendre ». Tout est déjà clair. Avant même que vous ayez le temps de faire le tri dans vos pensées, ChatGPT a peut-être été connecté dans l'historique précédent.
Bowen a accumulé de nombreuses conversations avec ChatGPT. Lorsqu'un modèle est exposé aux problèmes de santé, au stress professionnel, aux problèmes d'immigration et aux projets d'avenir d'un utilisateur au fil du temps, il est susceptible de donner des réponses plus pertinentes par rapport à la situation personnelle de l'utilisateur.
De plus, le modèle utilisé par Bowen est GPT-4o, qui a déjà attiré l'attention d'OpenAI car il répondait trop aux besoins du public.
OpenAI a clairement indiqué dans sa note officielle du 29 avril 2025 que, parce que la mise à jour de GPT-4o était trop flatteuse et flatteuse pour les utilisateurs, la société a annulé la mise à jour, permettant aux utilisateurs de ChatGPT de revenir à une version antérieure avec un comportement plus équilibré.
En plus des éloges excessifs, cela amplifiera également la colère ainsi que les doutes déraisonnables des utilisateurs et donnera une fausse reconnaissance aux comportements impulsifs.
Ce problème de « flagornerie » a été évoqué à de nombreuses reprises. Lorsque l’intelligence artificielle suit trop facilement vos instructions, elle peut modifier la perception des risques.
Je me suis inquiété 158 fois mais je ne me suis pas arrêté
Ce qui rend la rencontre de Bowen troublante, ce n'est pas seulement une simple question-réponse.
Selon les transcriptions de discussions publiées par le New York Times, elle a mentionné avoir réduit sa consommation de drogue 158 fois.
Quant à savoir si ces 158 conversations déclencheront des invites de contrôle des risques dans le backend OpenAI, cela n'est pas clair pour le moment.
Dès mai 2025, Bowen avait déjà demandé si les antidépresseurs nouvellement prescrits affecteraient son travail de programmation. ChatGPT l'a aidée à trier les discussions avec son médecin sur les changements de pansement et les ajustements de posologie.
Lorsqu'un médecin remet en question la posologie souhaitée, Bowen envoie la réponse du médecin à ChatGPT.
Selon la plainte, ChatGPT lui a ensuite suggéré d'aller à la pharmacie pour acheter des pilules, puis de couper les pilules en petits morceaux pour les manger, appelant cette méthode « dosage auto-ajusté ».
ChatGPT peut aider les patients à comprendre la terminologie médicale, à organiser leur état de santé et à préparer leur prochaine visite chez le médecin. Mais lorsque cela peut aider les utilisateurs à contourner les décisions des médecins et à modifier eux-mêmes les médicaments sur ordonnance, la situation devient différente.
D'ici janvier 2026, la situation sera encore pire.
Selon la plainte et les rapports connexes, alors qu'elle réduisait sa consommation de drogue, Bowen est devenue confuse et a perdu la notion du temps, comme si elle se trouvait dans un autre monde. ChatGPT attribuait constamment ce phénomène au fait que son cerveau ajustait le dosage du médicament et lui disait : « Vous n'avez pas du tout besoin de vous inquiéter. »
Le soir du 11 février, Bowen est venu comme d'habitude pour s'enquérir d'une douleur à la tête. La réponse donnée par ChatGPT est « La douleur fait partie du processus d'auto-guérison du corps. »
Bowen a été retrouvé mort le lendemain.
Le niveau de lamotrigine trouvé dans son sang à l'autopsie était d'environ 0,64 microgrammes par millilitre, soit un cinquième de la limite inférieure de référence thérapeutique.
Les niveaux de médicaments dans le sang ne peuvent à eux seuls expliquer toutes les causes de décès, et ils ne peuvent pas non plus prouver que les recommandations de l'IA ont causé la mort. Mais à en juger par d'autres allégations contenues dans la plainte, les risques encourus lors du processus de réduction des drogues sont devenus un point de discorde majeur dans cette affaire.
L'IA peut-elle supporter le poids de la vie
Musc a publiquement accusé OpenAI à plusieurs reprises. Il a signé une lettre ouverte en 2023, déclarant que « personne ne se suicidera à cause de Grok, mais certaines personnes se suicideront à cause de ChatGPT ».
Bien que l'attribution des responsabilités n'ait pas encore été déterminée, ce n'est pas la première fois qu'une tragédie similaire se produit.
En 2025, les parents d'Adam Raine, 16 ans, ont intenté une action en justice contre OpenAI. Ils ont accusé ChatGPT de ne pas bien gérer le risque de suicide au cours de leur relation à long terme avec leur fils.
L'allégation est que, dans certaines conversations, ChatGPT a donné des informations dangereuses et n'a pas réussi à empêcher efficacement que la situation ne se développe.
OpenAI, d'autre part, a également fourni différentes explications pour les accusations liées. Par exemple, les enregistrements de discussion pertinents doivent être compris avec un historique complet, et il est dit que ChatGPT a fourni des ressources d'aide en cas de crise. Il y avait des désaccords évidents sur le comportement du modèle, la situation de l'utilisateur à ce moment-là et la relation entre ces interactions et la tragédie ultime.
Dans le processus de responsabilisation proprement dit, les IA comme ChatGPT ne disposent généralement pas de personnalité juridique indépendante, mais cela ne signifie pas que les dommages causés ne peuvent pas être tenus pour responsables. Les lois et réglementations en vigueur peuvent également recourir à la responsabilité du fait des produits, à la responsabilité pour négligence, à la protection des droits des consommateurs et à d'autres méthodes pour restreindre le comportement illégal des développeurs et des opérateurs.
Les entreprises d'IA sont souvent au centre de la responsabilité, car elles contrôlent des aspects importants tels que la formation des modèles, la conception des produits, les tests de sécurité et le contrôle des risques.
Mais la question de savoir si l'entreprise doit assumer la responsabilité ne nécessite pas seulement un accident. La difficulté consiste à déterminer si les risques peuvent être raisonnablement prévus, s'il y a des problèmes avec le produit, si l'entreprise a fait un bon travail en matière de protection de la sécurité et s'il existe une relation légalement reconnue entre ces facteurs et la perte finale.
« Qui assume la responsabilité ? Allocation de responsabilité légale pour la conduite des agents d'IA dans l'écosystème de plate-forme » propose que les responsabilités soient attribuées de manière dynamique en fonction du degré d'autonomie du système, de la prévisibilité du comportement et de la capacité de toutes les parties à contrôler les risques, plutôt que de simplement attribuer toutes les responsabilités aux développeurs ou aux utilisateurs.
En 2024, une mère américaine a intenté une action en justice contre Character.AI et Google au nom de son fils de 14 ans, affirmant que la communication à long terme d'AI avec son fils avait conduit au suicide de celui-ci.
En mai 2025, le tribunal n'a pas accédé à la demande du défendeur de classer l'affaire par anticipation au motif que les allégations pertinentes ne pouvaient pas être défendues sur la seule base de la liberté d'expression et avaient été exclues dès le début du litige.
OpenAI n'agit pas, mais son action est assez vaste et a successivement annoncé des améliorations pour répondre aux conversations sensibles et aux risques pour la santé mentale. En octobre 2025, OpenAI a également déclaré que la société avait travaillé avec plus de 170 experts en santé mentale possédant une expérience clinique pour améliorer la réponse du modèle dans des situations pertinentes.
Concernant l'incident de Bowen, le porte-parole d'OpenAI, Drew Pusateri, a déclaré aux médias : « Il s'agit d'une situation extrêmement déchirante et nous exprimons nos condoléances à toutes les personnes touchées. »
Aujourd'hui, Open AI a annoncé de nouvelles valeurs de modèle, réorganisant les principes directeurs de la spécification autour de cinq valeurs fondamentales :
Fidèle à l'intention humaine
,Minimiser les dégâts
,Honnêteté et transparence
,Autonomie humaine
etsoins
.L'une d'elles consiste à minimiser les dommages, ce qui signifie adhérer à des limites de sécurité insurmontables et prendre en compte les conséquences prévisibles des actions du modèle. Cependant, il n’existe aucune réponse quant à la manière de responsabiliser, de punir et de s’adapter après un préjudice réel tel qu’un suicide.
Actuellement, la plupart des pays ne disposent pas d'un ensemble de règles de responsabilité pouvant s'appliquer à tous les incidents de préjudice causés par l'IA. Des cas spécifiques doivent déterminer si des règles telles que la responsabilité du fait des produits, la responsabilité pour négligence et la protection des droits des consommateurs sont applicables en fonction des lois de l'État, du but d'utilisation du produit, des preuves réelles et des relations juridiques pertinentes.
La question de savoir si le modèle a dépassé les conseils médicaux, comment le produit était censé empêcher les réactions dangereuses et quel rôle ces réactions ont joué dans la mort de Bowen restent à clarifier dans cette affaire.
Lors de la dernière conversation entre Bowen et ChatGPT, après que l'IA ait expliqué le mal de tête, elle a suggéré qu'elle pourrait lui dessiner une autre image afin de comparer la douleur après l'arrêt du médicament avec la douleur pendant la fièvre.
Il a demandé : Le voulez-vous ?
Commentaires