Les IA médicales génèrent des erreurs dans les diagnostics et les noms de médicaments
Des médecins du National Health Service (NHS), le système de santé public britannique, utilisent de plus en plus des outils d'intelligence artificielle pour enregistrer et retranscrire automatiquement leurs consultations. Healthwatch England, l'organisme de surveillance du NHS, alerte sur les erreurs générées par ces dispositifs, rapportées par The Guardian. Parmi les cas recensés, une patiente a découvert dans sa transcription un diagnostic de démyélinisation totalement erroné, une hallucination de l'IA, alors que son IRM montrait en réalité une absence de démyélinisation. Dans un autre cas, un système a confondu deux médicaments aux noms proches, inscrivant un traitement différent de celui réellement prescrit par le médecin. Un troisième patient, souffrant de migraines, a constaté que le caractère répétitif de sa prescription n'avait pas été retranscrit, ce qui aurait pu lui bloquer l'accès à ses médicaments. Dans les trois cas, ce sont les patients eux-mêmes, et non les médecins, qui ont repéré les erreurs. Au Royaume-Uni, au moins 27 outils différents de "scribe IA" sont déjà déployés dans le personnel de santé.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Next INpact. Lire l'article original →
Ces erreurs de transcription posent un risque direct pour la sécurité des patients, selon Healthwatch England et plusieurs associations de patients, puisqu'un diagnostic faux ou un nom de médicament erroné peut entraîner un traitement inadapté, un retard de prise en charge ou une rupture de prescription. Le problème dépasse le seul cadre du NHS: de nombreux logiciels médicaux privés intègrent désormais des fonctionnalités d'IA générative similaires, tandis que des acteurs grand public s'orientent vers le secteur de la santé, à l'image d'OpenAI, dont ChatGPT Health permet désormais aux médecins américains d'importer des dossiers patients et d'interroger le modèle à leur sujet. Ces technologies s'accompagnent aussi d'autres biais documentés, comme des recommandations différenciées selon le genre des patients pour des symptômes identiques, certains outils orientant davantage les hommes vers les urgences et les femmes vers une simple prise de rendez-vous.
Ces alertes interviennent alors que le gouvernement britannique mise sur l'IA générative pour transformer le NHS sur le long terme: un plan sur dix ans prévoit de généraliser ces outils de retranscription afin de "libérer les équipes de leur charge administrative" et de leur redonner du temps pour le soin direct aux patients. Cette promesse d'efficacité se heurte toutefois à la propension persistante de ces systèmes à halluciner des informations, un défaut technique déjà documenté dans d'autres usages médicaux de l'IA générative. La question posée par Healthwatch England est désormais de savoir si ces "scribes IA" doivent être encadrés comme de véritables outils de santé, avec des exigences de fiabilité et de contrôle renforcées, avant leur déploiement généralisé dans les hôpitaux et cabinets britanniques.
Le NHS britannique n'est pas soumis au droit de l'UE, mais ces risques d'hallucination documentes alimentent le débat européen sur l'encadrement des IA de transcription médicale, y compris en France.
Ce qui devrait t'inquiéter, c'est pas que l'IA se trompe, c'est que dans les trois cas rapportés par le Guardian, ce sont les patients qui ont repéré l'erreur, jamais les médecins censés relire la transcription. Un scribe IA qui invente un diagnostic de démyélinisation ou confond deux noms de médicaments, c'est pas un gain de temps, c'est un nouveau maillon faible dans le parcours de soin. Le NHS mise sur ces outils pour libérer ses équipes sur dix ans, mais sans relecture systématique obligatoire, il transfère juste la charge de vérification aux patients eux-mêmes.