Plus de 40 millions d'Américains utilisent ChatGPT chaque jour pour obtenir des informations sur la santé et les soins médicaux et utilisent l'outil pour se repérer dans le système de santé américain complexe et opaque, selon un nouveau rapport partagé exclusivement avec Axios par OpenAI. Dans l'analyse d'un grand nombre de conversations réelles et anonymes et de questionnaires à l'appui, les patients considèrent généralement ChatGPT comme un « allié » qui les aide à comprendre les informations et à prendre des décisions au cours du processus de traitement médical. Surtout lorsqu’ils sont confrontés à la terminologie professionnelle, aux détails de facturation et aux processus de réclamation d’assurance, les patients sont plus enclins à « apprendre » d’abord des chatbots.
Les utilisateurs utilisent souvent ChatGPT pour démonter les factures médicales, identifier les surfacturations et préparer des documents d'appel en cas de refus d'assurance. Dans les régions où les ressources médicales sont limitées et les rendez-vous médicaux limités, certaines personnes s'en serviront pour se faire une opinion préliminaire ou pour les aider à gérer leur état de santé lorsqu'elles ne sont pas en mesure de consulter un médecin à temps.
Les rapports montrent que les conversations liées à la santé et à la médecine représentent plus de 5 % du volume mondial de messages de ChatGPT. OpenAI estime recevoir chaque semaine environ 1,6 à 1,9 million de questions sur l'assurance maladie, se concentrant sur la comparaison de différents régimes d'assurance, le traitement des réclamations et des litiges de facturation, ainsi que d'autres types de demandes de couverture. Dans les zones rurales isolées où les ressources médicales sont relativement rares, les utilisateurs envoient en moyenne près de 600 000 messages liés à la santé chaque semaine, et environ 70 % des conversations liées à la santé ont lieu en dehors des heures traditionnelles des cliniques, ce qui souligne le rôle de cet outil pour combler le vide en matière de consultation en ligne et de consultation pendant les « heures hors service ».
Dans des scénarios d'utilisation spécifiques, les patients saisissent souvent leurs symptômes, les conseils antérieurs reçus des médecins et leurs antécédents médicaux personnels dans ChatGPT, et le système combinera ces informations pour donner des conseils sur les risques sur la gravité de certaines situations. Lorsqu'un traitement médical n'est pas disponible à court terme, ce type de « préjugé » aide certains usagers à décider s'ils peuvent attendre un rendez-vous ambulatoire ou s'ils doivent se rendre immédiatement aux urgences pour se faire soigner en face à face. OpenAI souligne dans son rapport que la fiabilité des réponses augmente considérablement lorsqu'elles sont basées sur un contexte personnel spécifique, tel que les documents du régime d'assurance d'un utilisateur, les instructions écrites fournies par un médecin et les données personnelles provenant de portails médicaux.
Cependant, le rapport souligne également une « vérification de la réalité » : ChatGPT n'est pas toujours correct et est particulièrement susceptible de donner des conseils erronés, voire dangereux, dans des domaines sensibles tels que la santé mentale. Actuellement, OpenAI fait face à des poursuites judiciaires pour plusieurs accusations. Les plaignants affirment que leurs proches et amis ont été grièvement blessés et se sont même suicidés après avoir interagi avec la technologie, ce qui a déclenché une remise en question constante de la « limite de responsabilité ». Plusieurs États ont introduit de nouvelles lois ciblant spécifiquement l'application des chatbots IA dans des scénarios médicaux, interdisant aux applications ou services associés de fournir des fonctions telles que l'aide à la décision en psychothérapie, dans le but d'utiliser les cadres réglementaires pour tracer une « ligne rouge » pour la technologie.
Dans le même temps, certains cas viraux montrent une autre image : de plus en plus de patients téléchargent des factures médicales détaillées vers des outils d’IA pour une analyse article par article. Ces outils ont été exposés à plusieurs reprises pour révéler des problèmes tels que des doubles factures, un codage inapproprié ou des violations des règles fédérales de l'assurance maladie (Medicare) dans les factures, fournissant ainsi aux patients un outil puissant pour négocier avec les hôpitaux ou les compagnies d'assurance. De telles histoires circulent fréquemment sur les réseaux sociaux, renforçant encore les attentes du public quant à la capacité de l’IA à gérer des formalités administratives et des règles fastidieuses.
Dans les coulisses, OpenAI a déclaré qu'il continuait à renforcer la façon dont ChatGPT répond aux scénarios de santé. La société a déclaré qu'elle évaluerait en permanence les performances du modèle afin de réduire le risque de réponses nuisibles ou trompeuses, et qu'elle travaillerait avec des cliniciens de première ligne pour identifier les problèmes potentiels et optimiser la conception des interactions. Selon OpenAI, le modèle GPT-5 de nouvelle génération est plus susceptible de demander de manière proactive des informations supplémentaires, de récupérer les derniers résultats de recherche, d'utiliser des expressions plus prudentes lors des conversations sur la santé et de recommander aux utilisateurs de demander une évaluation médicale professionnelle lorsque cela est nécessaire, plutôt que de s'en tenir aux « réponses sur un écran ».
Le rapport souligne également qu’à mesure que les subventions améliorées de la loi sur les soins abordables expirent et que les coûts d’assurance augmentent, les personnes non assurées ou sous-assurées peuvent de plus en plus compter sur les chatbots comme canal alternatif pour obtenir des conseils médicaux. Ce « changement tranquille » devrait s’accélérer. Sans la participation en temps réel des médecins, à l’avenir, l’exactitude des conseils médicaux de l’IA, la répartition des responsabilités entre les fournisseurs de technologie et les utilisateurs, ainsi que la refonte des règles d’accès et d’utilisation des données des patients deviendront une préoccupation constante dans le domaine de la réglementation médicale et technologique aux États-Unis.