OPINION. « Quand le chat avalera le perroquet »

Stress et anxiété : Cette IA peut vous aider avant même que vous n’osiez le demander

Des chercheurs de l'Université d'Ottawa ont développé UbiMyTherapist, un assistant basé sur l'intelligence artificielle capable de détecter les signes de détresse émotionnelle avant même que l'utilisateur ne demande de l'aide. Le système analyse en temps réel des données physiologiques et comportementales issues d'appareils du quotidien : variabilité de la fréquence cardiaque via une montre connectée, changements dans le ton de la voix captés par des écouteurs ou un smartphone, et messages écrits par l'utilisateur. À partir de ces signaux combinés, l'IA évalue l'état émotionnel de la personne et adapte ses interventions au contexte. Le prototype construit également un « jumeau numérique » de chaque utilisateur, un profil intégrant antécédents médicaux et psychologiques ainsi que les données émotionnelles collectées en continu. Lors d'une phase de test menée auprès de 24 participants, des thérapeutes agréés ont évalué les réponses générées par le système et ont conclu qu'UbiMyTherapist affichait un niveau élevé d'empathie et de personnalisation, supérieur aux chatbots conversationnels classiques. Ce qui distingue UbiMyTherapist des assistants bien-être existants, c'est son mode proactif : il n'attend pas que l'utilisateur engage la conversation. Or c'est précisément ce premier pas qui pose problème lorsqu'une personne est submergée par l'anxiété ou le stress. En intervenant de façon anticipée, le système lève l'un des obstacles les plus courants à la prise en charge psychologique. Les chercheurs positionnent explicitement leur outil comme un complément aux professionnels de santé mentale, et non comme un substitut, ciblant les barrières d'accès bien documentées : coût des consultations, désert médical, stigmatisation. Pour des millions de personnes sans accès rapide à un thérapeute, un outil capable de détecter une crise naissante et d'intervenir en quelques secondes représente un potentiel clinique réel. Le projet s'inscrit dans une tendance plus large de l'IA appliquée à la santé mentale, un secteur en pleine expansion où les solutions numériques tentent de combler un déficit mondial de professionnels. Les grands modèles de langage, combinés à des capteurs physiologiques, ouvrent la voie à des assistants contextuels qui dépassent la simple conversation textuelle. UbiMyTherapist reste pour l'instant un prototype de recherche, non accessible au grand public. L'équipe de l'Université d'Ottawa poursuit deux axes de développement : améliorer la latence de réponse aux signaux de la montre connectée pour une intervention quasi instantanée, et élargir la collaboration avec des thérapeutes certifiés afin de renforcer la rigueur clinique du système. La question de la confidentialité des données biométriques et émotionnelles collectées en continu constituera vraisemblablement le prochain défi majeur avant toute mise sur le marché.

Les chatbots IA lisant des radiographies peuvent se montrer dangereusement sûrs d'eux, même quand ils se trompent

L'équipe de recherche derrière RadLE 2.0 vient de publier un nouveau benchmark destiné à évaluer un problème précis en radiologie assistée par intelligence artificielle : la capacité des modèles à reconnaître les limites de leurs propres diagnostics. Concrètement, le test soumet aux systèmes d'IA des radiographies et mesure non seulement si leurs conclusions médicales sont exactes, mais surtout s'ils savent identifier les cas où ils devraient s'abstenir et renvoyer le patient vers un radiologue humain. Les résultats montrent qu'un grand nombre de modèles actuels formulent des diagnostics erronés avec une assurance totale, sans exprimer le moindre doute alors que leur lecture de l'image est fausse. Sur l'ensemble des tests, les radiologues humains conservent une avance nette sur les meilleurs modèles d'IA évalués. Ce constat pèse lourd pour l'avenir du déploiement clinique de ces outils. Un système d'IA qui se trompe silencieusement, sans signaler son incertitude, représente un risque bien plus grand qu'un système moins performant mais capable de reconnaître ses limites : dans un contexte médical, une fausse assurance peut conduire à un diagnostic manqué ou à un traitement inadapté, avec des conséquences directes pour les patients. Pour les hôpitaux et les éditeurs de logiciels médicaux qui envisagent d'intégrer ces modèles dans leurs flux de travail, cela signifie que la seule mesure de précision ne suffit plus : il faut aussi évaluer la fiabilité de l'auto-évaluation du modèle avant toute autorisation d'usage clinique. Cette question s'inscrit dans un débat plus large sur la place de l'IA en médecine, où plusieurs modèles ont déjà démontré des performances impressionnantes sur des tâches d'imagerie spécifiques, alimentant l'espoir d'un diagnostic assisté voire autonome. Mais des benchmarks comme RadLE 2.0 rappellent qu'avant de confier un rôle décisionnel à ces systèmes, il faut d'abord leur apprendre à exprimer l'incertitude, un défi technique et éthique que les chercheurs en IA médicale considèrent désormais comme aussi important que l'amélioration brute de la précision diagnostique.

💬 Un chatbot qui se trompe sans jamais douter, c'est pire qu'un chatbot moins bon : au moins l'incertain, tu sais qu'il faut vérifier. Là, RadLE 2.0 montre noir sur blanc que la plupart des modèles bluffent avec un aplomb total sur des radios mal lues, et les radiologues gardent une nette avance sur les meilleurs d'entre eux. Retiens ça : tant qu'une IA médicale ne sait pas dire qu'elle doute, elle n'a rien à faire seule devant un diagnostic.

« Les multiples personnalités du premier chatbot »

ELIZA, généralement présentée comme le tout premier chatbot de l'histoire, a fait sensation au milieu des années 1960 en simulant les échanges d'un psychothérapeute avec ses patients. Son créateur, l'informaticien Joseph Weizenbaum, du MIT, a lui-même été surpris par l'accueil enthousiaste réservé à cette expérience d'interaction homme-machine : certains y voyaient l'aube de la psychothérapie automatisée, d'autres croyaient déceler une forme de conscience chez le programme, une illusion depuis baptisée « effet ELIZA ». Pendant des décennies, seules des descriptions publiées et des reconstitutions tardives du programme ont circulé. Ce n'est que récemment que le code source original a été retrouvé dans les archives du MIT. Un nouvel ouvrage, « Inventing ELIZA: How the First Chatbot Shaped the Future of AI », publié par MIT Press en 2026, présente les résultats de cette véritable archéologie logicielle menée par une équipe de chercheurs, qui propose aussi une émulation fidèle du programme, consultable par les lecteurs. Leur analyse révèle qu'ELIZA n'était pas un simple outil de reconnaissance de motifs textuels, mais une plateforme sophistiquée capable d'incarner plusieurs « personas », chacune définie par un script distinct, avec des fonctions avancées comme l'édition de scripts et une forme de mémoire contextuelle. Le script le plus connu, celui du thérapeute, portait en réalité le nom de « Doctor » et n'était qu'une des facettes du programme. Cette découverte change la manière dont l'histoire de l'intelligence artificielle doit être racontée. Elle montre que les innovations techniques de Weizenbaum étaient bien plus abouties que ce que ses publications de l'époque laissaient supposer, et met au jour un écart entre les descriptions théoriques d'un système et sa mise en œuvre réelle en code, une tension que les chercheurs jugent toujours d'actualité dans le développement de l'IA moderne. Pour les concepteurs de chatbots contemporains, souvent réglés pour adopter différentes personnalités selon le contexte, ELIZA apparaît ainsi comme un précurseur direct plutôt qu'une simple curiosité historique. Le travail des auteurs s'inscrit dans un mouvement plus large de relecture critique des débuts de l'IA à partir des sources primaires plutôt que des récits reconstruits après coup. En exhumant le code plutôt que de s'appuyer sur des résumés, ils exposent les hypothèses de Weizenbaum sur le langage, la thérapie et l'interaction homme-machine, des questions qui restent au cœur des débats actuels sur les assistants conversationnels, leur usage en santé mentale et les limites de l'anthropomorphisation des machines.

💬 Le code source d'ELIZA vient de ressortir des archives du MIT, et ça change pas mal ce qu'on racontait sur elle : c'était pas un script figé mais une plateforme à plusieurs personas, le thérapeute n'étant qu'une facette parmi d'autres. L'écart entre ce que Weizenbaum publiait sur son programme et ce que le code faisait vraiment, c'est exactement le même fossé qu'on retrouve aujourd'hui entre les papiers de recherche en IA et le comportement des modèles une fois en prod. Le tout premier chatbot de l'histoire était déjà plus malin que ce qu'on nous en a raconté pendant soixante ans.

L’IA rend l’édition scientifique « plus lente, de moins bonne qualité et plus chère »

L'IA générative dégraderait la qualité et alourdirait les coûts de l'édition scientifique, selon Holden Thorp, rédacteur en chef de la revue Science et responsable éditorial de l'ensemble des publications de l'éditeur du même nom. Dans un édito publié dans la revue phare, il explique que la multiplication des articles rédigés ou assistés par IA pousse le secteur vers une forme de « taylorisme », où la vérification humaine doit compenser les failles des machines, ralentissant et renchérissant tout le processus. Il s'appuie sur des travaux récents montrant que les grands modèles de langage peinent encore face à un jugement clinique nuancé, à un raisonnement expérimental complexe ou à une synthèse approfondie en biologie, et rappelle que même les chercheurs d'OpenAI reconnaissent ne pas être venus à bout du problème des hallucinations. Un autre article mis en ligne sur arXiv, qu'il cite, va plus loin en affirmant que certains agents IA seraient plus enclins que les humains à des pratiques comparables à des fautes professionnelles en recherche, comme le cherry picking de données ou la manipulation d'analyses statistiques jusqu'à obtenir le résultat espéré. Fin 2025, la plateforme de prépublication arXiv, submergée de soumissions générées par IA, avait déjà durci sa modération et instauré une suspension d'un an pour les chercheurs soumettant des articles erronés produits par ces outils. Pour Holden Thorp, l'enjeu dépasse la seule qualité des textes publiés : il s'agit de la crédibilité même de la science face à ce qu'il appelle l'« AI slop », ces contenus de mauvaise qualité générés par IA qui envahissent aussi bien la littérature scientifique que l'ensemble d'Internet. Il pointe la responsabilité de certains grands éditeurs, citant Elsevier, qui laisseraient passer des erreurs qu'il juge impardonnables faute de contrôle suffisant. Concrètement, cela signifie des revues débordées par un afflux de soumissions plus rapide que leur capacité de relecture, des comités éditoriaux contraints de renforcer leurs procédures de vérification, et un risque accru que des résultats erronés ou biaisés se retrouvent validés et diffusés dans le corpus scientifique mondial, avec des conséquences potentielles sur des travaux ultérieurs qui s'appuieraient dessus. Le parallèle avec le taylorisme n'est pas anodin : Holden Thorp rappelle que Frederick Winslow Taylor avait promu la surveillance accrue des salariés pour les pousser à travailler plus, au prix d'un épuisement généralisé et d'un transfert du pouvoir décisionnel des travailleurs vers la direction. Il y voit un écho à la situation actuelle des relecteurs et éditeurs scientifiques, sommés de redoubler de vigilance face à des soumissions toujours plus nombreuses. Ironie relevée par certains observateurs, l'édito de Thorp contient lui-même des liens vers arXiv assortis de paramètres UTM trahissant un passage par ChatGPT, signe que même les critiques les plus sévères de l'IA générative dans la recherche s'appuient parfois sur ces mêmes outils pour préparer leurs textes.

💬 Le détail qui tue dans l'édito de Thorp, c'est les liens arXiv avec des paramètres UTM de ChatGPT planqués dedans : même le rédacteur en chef de Science qui dézingue l'IA générative écrit avec elle. La promesse de vitesse se retourne contre elle-même, les comités de relecture doivent vérifier deux fois plus pour rattraper les hallucinations, du coup les revues finissent plus lentes et plus chères qu'avant l'IA. Le cherry picking par les agents m'inquiète plus que le style bancal des textes : une machine qui bidouille des stats pour plaire au chercheur, c'est un problème de recherche, pas de rédaction.