UnitedHealthcare, la plus grande compagnie d'assurance maladie américaine, est poursuivie en justice pour avoir utilisé un modèle d'intelligence artificielle défectueux. Le système aurait refusé à tort l'assurance maladie aux patients âgés gravement malades et aurait été en désaccord avec les jugements des médecins.
La poursuite, déposée devant le tribunal de district américain du district du Minnesota, émane des familles de deux hommes aujourd'hui décédés qui avaient besoin de soins de longue durée dans un établissement de soins post-aigus. Les familles de ces hommes ont été contraintes de payer de leur poche un total de 210 000 dollars pour leur traitement et leurs soins avant leur décès.
Le procès allègue que UnitedHealth a refusé à plusieurs reprises et à tort de payer les réclamations médicales des deux personnes âgées, qui utilisaient les plans Medicare Advantage. Le procès allègue également que de tels incidents se produisent depuis au moins 2020, lorsque UnitedHealth a acquis la société de gestion des soins post-aigus Navihealth.
Le procès fait suite à une enquête de StatNews sur l’utilisation d’un algorithme d’intelligence artificielle appelé nHPredict développé par Navihealth. L'algorithme est utilisé pour prédire combien de temps un patient restera dans un centre de réadaptation après une blessure, une maladie ou un événement aigu. Les soins post-aigus comprennent les maisons de retraite et les centres de réadaptation. L'algorithme estimerait les besoins médicaux d'un patient et la durée de son séjour en examinant une base de données de cas médicaux provenant de 6 millions de patients.
Le procès allègue que le système d'intelligence artificielle présentait un taux d'erreur allant jusqu'à 90 % et annulait les avis des médecins en matière de soins post-aigus. Le procès allègue également que nHPredict n'a pas pris en compte les besoins individuels des patients, tels que les comorbidités (avoir plusieurs problèmes de santé) et contracter une maladie pendant leur séjour à l'hôpital. Une autre partie choquante du procès indique que même si seule une poignée de patients ont fait appel des refus de couverture sur la base des estimations de nHPredict, plus de 90 pour cent de ces appels ont été annulés par le processus d'appel interne ou par le processus du juge administratif fédéral.
"Dans le cadre des plans Medicare Advantage, les patients hospitalisés pendant trois jours ont généralement le droit de rester dans une maison de retraite jusqu'à 100 jours", indique le procès, citant l'enquête de Stat. "Grâce au modèle nHPredictAI, il n'a fallu qu'une fraction du temps à [United Healthcare] pour interrompre les paiements. Les patients restaient rarement dans une maison de retraite pendant plus de 14 jours avant de commencer à recevoir des notifications de refus de paiement."
D'anciens employés de NaviHealth ont déclaré à Stat qu'après la prise de contrôle d'UnitedHealth, l'attention était passée de l'aide aux patients au maintien des bénéfices et à la minimisation du temps de suivi. Le podcast de la société cite Patrick Conway, directeur de UnitedHealth qui supervise NaviHealth : « Si [les gens] vont dans une maison de retraite, comment pouvons-nous les faire sortir de l'hôpital le plus rapidement possible ? »
nHPredict est toujours utilisé aujourd'hui. OptumHealth, une filiale de UnitedHealth, a déclaré : « L'outil prédictif NaviHealth n'est pas utilisé pour déterminer la couverture. L'outil est utilisé comme guide pour nous aider à informer les prestataires, les familles et autres soignants du type d'assistance et de soins dont les patients peuvent avoir besoin dans un établissement médical et à leur retour à la maison. Les décisions de couverture sont basées sur les normes de souscription de CMS et les conditions des régimes des membres. Ce procès est sans fondement et nous nous défendrons vigoureusement.