L’IA de Doctrine.fr a « halluciné » une décision de la CEDH qui disait tout le contraire

L'intelligence artificielle de Doctrine.fr, présentée comme « La 1re plateforme d'IA juridique » française, a produit un résumé radicalement erroné d'une décision de la Cour européenne des droits de l'homme, inversant purement et simplement le sens du jugement. La découverte a été faite par Pa2chant.bis, une contributrice de Wikipédia, qui a remarqué que la synthèse automatique générée par Doctrine.fr indiquait que la requête de l'homme d'affaires franco-suisse Alain Duménil avait été « rejetée », au motif que « le requérant avait eu l'opportunité de se défendre sur les faits qui lui étaient reprochés ». Or, la CEDH avait non seulement accepté cette requête, introduite en 2013 et communiquée à la cour en 2019, mais avait également condamné la France à verser 15 000 euros à Duménil pour frais et dépens. La conclusion générée par l'IA était donc l'exact opposé de la réalité juridique. Cette erreur figurait dans les synthèses visuelles que Doctrine.fr a déployées en mars 2025 sur des millions de pages de décisions, accompagnées d'une mention indiquant que le contenu avait été généré par IA et invitant l'utilisateur à en vérifier l'exactitude.

Pour un outil utilisé par des avocats et des juristes dans le cadre de recherches et de préparation de dossiers, une telle hallucination représente un risque professionnel direct. Une erreur d'appréciation sur le sens d'une décision de justice peut conduire à des stratégies contentieuses mal calibrées, à des argumentaires fondés sur une jurisprudence inexistante ou, pire, contraire à ce que l'on croit citer. Ce cas illustre aussi une faille systémique des LLMs appliqués au droit : la génération fluide et confiante de conclusions inexactes, dans un domaine où la précision du détail est constitutive de la valeur même du service. La mention de vérification recommandée par Doctrine.fr ne suffit pas lorsque l'accès à la source primaire est lui-même conditionné à un abonnement et à la communication d'un numéro de téléphone, comme le souligne Pa2chant.bis.

Doctrine.fr se trouve à un moment charnière : la plateforme est actuellement en négociations pour un rachat par RELX, le géant britannique de l'information professionnelle et juridique, propriétaire notamment de LexisNexis. Cette acquisition potentielle donnerait à l'outil un rayonnement bien supérieur à son marché actuel. Face à la polémique, la société a répondu que « d'après nos benchmarks, les hallucinations sont résiduelles », et Hugo Ruggieri, directeur juridique et affaires publiques de Doctrine, est intervenu directement sur Wikipédia pour rappeler qu'« aucune intelligence, humaine ou artificielle, n'est infaillible ». Ce cas s'inscrit dans un débat plus large sur la fiabilité des outils d'IA appliqués aux professions réglementées, où plusieurs barreaux et organisations professionnelles appellent à encadrer strictement leur usage, en particulier pour tout ce qui touche à la recherche jurisprudentielle.