Les IA médicales génèrent des erreurs dans les diagnostics et les noms de médicaments
Des médecins du National Health Service (NHS), le système de santé public britannique, utilisent de plus en plus des outils d'intelligence artificielle pour enregistrer et retranscrire automatiquement leurs consultations. Healthwatch England, l'organisme de surveillance du NHS, alerte sur les erreurs générées par ces dispositifs, rapportées par The Guardian. Parmi les cas recensés, une patiente a découvert dans sa transcription un diagnostic de démyélinisation totalement erroné, une hallucination de l'IA, alors que son IRM montrait en réalité une absence de démyélinisation. Dans un autre cas, un système a confondu deux médicaments aux noms proches, inscrivant un traitement différent de celui réellement prescrit par le médecin. Un troisième patient, souffrant de migraines, a constaté que le caractère répétitif de sa prescription n'avait pas été retranscrit, ce qui aurait pu lui bloquer l'accès à ses médicaments. Dans les trois cas, ce sont les patients eux-mêmes, et non les médecins, qui ont repéré les erreurs. Au Royaume-Uni, au moins 27 outils différents de "scribe IA" sont déjà déployés dans le personnel de santé.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Next INpact. Lire l'article original →
Ces erreurs de transcription posent un risque direct pour la sécurité des patients, selon Healthwatch England et plusieurs associations de patients, puisqu'un diagnostic faux ou un nom de médicament erroné peut entraîner un traitement inadapté, un retard de prise en charge ou une rupture de prescription. Le problème dépasse le seul cadre du NHS: de nombreux logiciels médicaux privés intègrent désormais des fonctionnalités d'IA générative similaires, tandis que des acteurs grand public s'orientent vers le secteur de la santé, à l'image d'OpenAI, dont ChatGPT Health permet désormais aux médecins américains d'importer des dossiers patients et d'interroger le modèle à leur sujet. Ces technologies s'accompagnent aussi d'autres biais documentés, comme des recommandations différenciées selon le genre des patients pour des symptômes identiques, certains outils orientant davantage les hommes vers les urgences et les femmes vers une simple prise de rendez-vous.
Ces alertes interviennent alors que le gouvernement britannique mise sur l'IA générative pour transformer le NHS sur le long terme: un plan sur dix ans prévoit de généraliser ces outils de retranscription afin de "libérer les équipes de leur charge administrative" et de leur redonner du temps pour le soin direct aux patients. Cette promesse d'efficacité se heurte toutefois à la propension persistante de ces systèmes à halluciner des informations, un défaut technique déjà documenté dans d'autres usages médicaux de l'IA générative. La question posée par Healthwatch England est désormais de savoir si ces "scribes IA" doivent être encadrés comme de véritables outils de santé, avec des exigences de fiabilité et de contrôle renforcées, avant leur déploiement généralisé dans les hôpitaux et cabinets britanniques.
Le NHS britannique n'est pas soumis au droit de l'UE, mais ces risques d'hallucination documentes alimentent le débat européen sur l'encadrement des IA de transcription médicale, y compris en France.