Résumé :
L'Utah, aux États-Unis, étend encore le champ d'application de l'intelligence artificielle médicale et permet aux systèmes d'IA d'évaluer directement les patients, de décider des plans de traitement et de délivrer des ordonnances dans des conditions spécifiques. Avec le lancement de nouveaux programmes pilotes, l’Utah est en train de devenir l’un des terrains d’essai les plus agressifs en matière de réglementation de l’IA médicale aux États-Unis.
Ce nouveau projet est lancé par la startup d'IA médicale Nolla Health, ciblant principalement les patients souffrant d'acné légère à modérée. Les utilisateurs doivent d’abord prendre une photo du visage via l’application et remplir leurs antécédents médicaux et leurs informations personnelles. L'IA analyse ensuite l'état de la peau, évalue la gravité de l'acné, puis sélectionne un plan de traitement approprié parmi une liste de médicaments approuvés en fonction des informations médicales fournies par le patient.
À la différence de la télémédecine traditionnelle, l'essentiel de ce processus n'est pas de laisser l'IA effectuer d'abord le dépistage, puis de poser le diagnostic final par le médecin. Au lieu de cela, cela permet à AI de prendre la décision finale de prescrire ou non des médicaments et d’envoyer l’ordonnance directement à la pharmacie désignée par le patient.
Cependant, le projet n’a pas complètement éliminé dès le départ la participation des médecins. Dans la phase initiale du projet pilote, chaque ordonnance générée par l’IA devra être examinée et signée par un médecin agréé de l’Utah. À mesure que le projet progresse, la participation des médecins diminuera progressivement, permettant à terme à AI de délivrer des ordonnances qualifiées sans examen préalable par les médecins.
Dans le cadre de l'accord pilote annoncé par les responsables de l'Utah, Nolla Health ne peut actuellement traiter que l'acné légère à modérée chez les patients adultes, et la gamme de prescriptions est strictement limitée à un petit nombre de médicaments topiques, y compris des crèmes et des gels désignés. Le système ne peut pas être utilisé pour traiter l’acné sévère, ni prescrire des options de traitement plus risquées telles que des médicaments oraux ou de l’isotrétinoïne.
Les patients doivent également subir une vérification de leur identité et de leur âge, et les ordonnances ne peuvent être envoyées qu'à des adresses en Utah. Pour les patientes souffrant d'acné sévère, qui sont enceintes ou envisagent de le devenir, qui allaitent, dont le système immunitaire est affaibli et qui ont eu des réactions indésirables à des médicaments associés, le système d'IA doit arrêter le processus de prescription automatique et le transférer au personnel médical humain.
La raison pour laquelle l'Utah peut mener une telle expérience est liée au système de « bac à sable réglementaire de l'IA » mis en place par l'État ces dernières années. Le système permet aux entreprises de tester des produits d’intelligence artificielle sous la supervision du gouvernement tout en exemptant temporairement certaines exigences réglementaires existantes dans des limites clairement définies.
Cela signifie que l'entreprise n'obtient pas de « licence médicale IA » illimitée, mais qu'après avoir signé un accord avec le gouvernement de l'État et les agences de réglementation compétentes, elle peut effectuer des tests sur des produits spécifiques, des maladies spécifiques et des groupes spécifiques pendant une durée limitée. Les entreprises devront toujours se conformer à d’autres exigences légales qui ne sont pas exemptées de l’accord.
En fait, plus tôt cette année, l'Utah est devenu le premier État des États-Unis à autoriser l'IA à gérer de manière autonome le renouvellement des ordonnances. À cette époque, Doctronic a lancé un service médical d’IA qui pourrait represcrire certains médicaments contre les maladies chroniques aux patients ayant reçu un traitement à long terme sans la participation directe des médecins.
Ce programme couvre environ 190 médicaments non contrôlés couramment utilisés, mais n'inclut pas les analgésiques, les médicaments injectables et certains médicaments utilisés pour traiter le TDAH. Les patients doivent d'abord passer une vérification d'identité et une vérification des informations médicales, et l'IA décidera ensuite d'autoriser ou non le renouvellement en fonction des ordonnances antérieures et de l'état actuel du patient.
La nouvelle politique actuelle de l'Utah signifie que les essais médicaux sur l'IA évoluent de plus en plus du « renouvellement automatique » à la « première prescription ». Il existe une nette différence entre les deux : le renouvellement signifie que le patient s'est déjà vu prescrire un plan de traitement par un médecin, tandis que prescrire pour la première fois signifie que l'IA doit prendre de nouvelles décisions cliniques en fonction de l'état actuel du patient.
C'est pourquoi le projet Nolla Health a fait l'objet d'une attention particulière.
Les responsables de l'Utah exigent que Nolla Health demande à deux médecins certifiés d'examiner chaque ordonnance au début du programme. Au fur et à mesure que le projet progresse, la méthode d'audit peut progressivement évoluer vers un audit post-audit et une inspection aléatoire, mais chaque fois qu'elle entre dans une nouvelle étape, elle doit obtenir l'approbation écrite du gouvernement de l'État.
Les entreprises doivent également souscrire une assurance responsabilité professionnelle et signaler les événements indésirables aux régulateurs une fois qu'ils se produisent. Dans le même temps, les pharmacies doivent être clairement informées que les ordonnances sont générées par des systèmes d’IA et pouvoir contacter les médecins concernés pour résoudre les problèmes.
Les régulateurs de l'Utah exigent également que les entreprises ne vendent ni ne transfèrent les données des patients à d'autres fins, et doivent régulièrement soumettre des données sur les opérations du projet, y compris des indicateurs tels que le degré de cohérence entre l'IA et le jugement des médecins.
Le gouvernement de l'Utah estime que ce modèle peut déterminer si l'IA peut réduire les coûts médicaux dans certains scénarios médicaux courants à faible risque et atténuer le problème du manque de ressources médicales. Pour certains patients souffrant de pathologies relativement simples, la possibilité de réaliser des évaluations et de prescrire des médicaments par téléphone mobile pourrait potentiellement réduire le temps et les dépenses liés au déplacement jusqu'à la clinique.
Cependant, ce modèle a suscité une controverse évidente au sein de la communauté médicale.
Les critiques estiment que même pour des maladies apparemment simples, les médecins doivent prendre en compte l'âge du patient, ses antécédents médicaux, les autres médicaments, les allergies et certains signaux cliniques qui ne sont pas faciles à découvrir au moyen de questions et réponses standardisées lors de la prescription de médicaments. Si vous comptez entièrement sur l’IA pour votre jugement, une fois que le système manque des informations importantes, cela peut entraîner un traitement incorrect.
Plus tôt cette année, un test de sécurité du système de recharge de médicaments par IA de l'Utah a également suscité la controverse. Les chercheurs en sécurité ont utilisé des attaques de mots relativement simples pour amener les systèmes d'IA associés à générer des conseils médicaux incorrects, notamment en augmentant de manière incorrecte la dose de certains médicaments et en donnant des recommandations sur des médicaments dangereux. De tels tests mettent en évidence les différences entre l’IA médicale et les chatbots ordinaires.
L'un des plus grands risques de l'IA médicale est que les mauvaises réponses des chatbots ordinaires peuvent simplement conduire à des informations trompeuses. Cependant, une fois que l’IA médicale a le pouvoir de prescrire des médicaments, les erreurs peuvent directement se traduire par des conséquences médicales réelles.
Par conséquent, le projet pilote actuel dans l'Utah explore en fait une question très importante : dans quelles conditions l'intelligence artificielle peut passer d'un "outil auxiliaire pour les médecins" à un "exécuteur des décisions médicales".
Les partisans estiment que l’IA ne doit pas nécessairement remplacer les médecins, mais qu’elle peut prendre en charge un grand nombre de tâches standardisées, répétitives et relativement peu risquées. Par exemple, la simple évaluation d’une maladie de peau, le renouvellement des médicaments pour les maladies chroniques à long terme et d’autres situations conformes à des directives cliniques claires pourraient devenir les premiers domaines dans lesquels l’IA entrera dans le système médical.
Les opposants soutiennent que même si certains cas semblent simples, on ne peut pas supposer que tous les patients correspondent au modèle standard. Surtout lorsque l’IA a le pouvoir de prescrire, le coût des erreurs système sera nettement plus élevé que les erreurs ordinaires de questions et réponses d’information.
Actuellement, l'Utah n'autorise pas l'IA à « devenir médecin » sans restrictions. Le traitement de l'acné de Nolla Health et les précédents projets de recharge de médicaments contre l'IA sont strictement limités à des médicaments spécifiques, à des patients spécifiques et à des processus spécifiques, et les entreprises doivent accepter une supervision continue.
Mais du point de vue du développement industriel, l’importance de l’Utah reste très particulière. Dans le passé, l’IA médicale était principalement utilisée pour la reconnaissance d’images, le diagnostic auxiliaire, la collecte de dossiers médicaux et l’aide à la décision des médecins, mais l’IA commence désormais progressivement à acquérir une véritable autorité en matière de prise de décision clinique.
Si ces projets pilotes peuvent prouver que l'IA peut accomplir en toute sécurité certaines tâches médicales à faible risque sous des restrictions strictes et un examen continu, alors d'autres États américains pourraient se référer à des modèles similaires à l'avenir pour assouplir davantage la portée des applications de l'IA dans le domaine médical.
À l'inverse, si de graves erreurs médicales se produisent au cours du processus pilote, si le système est attaqué ou si les jugements de l'IA s'écartent considérablement de ceux des médecins professionnels, l'expérience de l'Utah peut également devenir un cas important pour les agences de réglementation souhaitant renforcer l'autorité de l'IA médicale.
Quel que soit le résultat final, l'expérience en cours dans l'Utah signifie un changement évident : l'étape de l'intelligence artificielle entrant dans l'industrie médicale passe progressivement de « aider les médecins à travailler » à « prendre directement des décisions médicales dans un cadre limité ». La question de savoir si l’IA peut assumer cette responsabilité ne sera plus seulement une question technique en laboratoire, mais sera de plus en plus testée sur de vrais patients et de vraies prescriptions.
Commentaires