Aller au contenu principal
Quand Claude hallucine au tribunal : l'affaire Latham & Watkins et la responsabilité des avocats
RégulationMarkTechPost6sem· 2 min de lecture

Quand Claude hallucine au tribunal : l'affaire Latham & Watkins et la responsabilité des avocats

Source originale ↗·

En mai 2025, le cabinet d'avocats Latham & Watkins, l'un des plus prestigieux au monde avec des honoraires dépassant 2 000 dollars de l'heure pour ses associés, a déposé devant un tribunal fédéral américain une déclaration contenant des citations académiques erronées dans l'affaire Concord Music Group v. Anthropic. Le détail qui rend l'incident saisissant : ces erreurs ont été générées par Claude, le modèle d'IA d'Anthropic que Latham & Watkins défendait précisément dans cette même procédure. Un collaborateur du cabinet avait trouvé une source académique via Google, puis demandé à Claude de formater la citation légale en lui fournissant l'URL correcte. Claude a restitué le bon lien et la bonne année de publication, mais s'est trompé sur le titre et les auteurs. L'équipe a vérifié que l'URL fonctionnait, sans contrôler si les métadonnées générées par le modèle étaient exactes. La partie adverse a repéré l'erreur. Le juge a ordonné la divulgation explicite de l'usage de l'IA et imposé des exigences de vérification humaine pour toutes les pièces futures.

Ce qui rend cet incident structurellement dangereux, c'est précisément sa nature : Claude n'a pas inventé une source fantôme, il a mal décrit une source réelle. Ce type d'erreur est bien plus difficile à détecter qu'une citation entièrement fabriquée, puisque le lien fonctionne, le document existe et l'année est correcte. L'erreur se niche au niveau des métadonnées, pas de l'existence. C'est l'équivalent légal de citer un vrai texte de loi en lui attribuant la mauvaise juridiction. La sortie de Claude était formatée, fluide, professionnelle, retournée en quelques millisecondes, sans aucun signe d'hésitation ni marqueur d'incertitude. C'est exactement cet habillage professionnel qui trompe même des avocats expérimentés.

L'incident pose une question structurelle pour l'ensemble de la profession juridique, bien au-delà d'un seul cabinet. La règle 11 des Federal Rules of Civil Procedure exige des avocats américains qu'ils certifient par leur signature que toute affirmation factuelle dans un dépôt repose sur des preuves vérifiables. Cette règle a été conçue pour un monde où la fabrication supposait l'intention ou la négligence grave. Elle n'anticipait pas un modèle capable de produire des erreurs avec une assurance totale et un rendu impeccable. Un précédent aggravant est apparu fin 2024 dans l'affaire Gauthier v. Goodyear Tire & Rubber Co., dans le district est du Texas, où un avocat avait soumis un mémoire contenant deux citations de jurisprudence inexistantes et plusieurs citations inventées, également générées par Claude. Ces deux affaires consécutives signalent une tendance : l'IA devient un vecteur de risque disciplinaire systémique pour les professions réglementées, à mesure que sa confiance apparente dépasse sa fiabilité réelle.

Impact France/UE

Les barreaux français et européens sont directement interpellés : l'usage de l'IA dans la rédaction juridique sans vérification systématique des métadonnées expose les avocats à des sanctions disciplinaires, et les ordres professionnels devront probablement formaliser des règles de vérification avant que des incidents similaires ne surviennent devant les juridictions européennes.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Un tribunal allemand déclare Google responsable des réponses fausses de son AI Overview
1Next INpact 

Un tribunal allemand déclare Google responsable des réponses fausses de son AI Overview

Le tribunal régional de Munich a prononcé une injonction provisoire contre Google en Allemagne, lui interdisant de diffuser de fausses informations sur deux éditeurs munichois via sa fonctionnalité AI Overview. Ces résumés générés automatiquement par intelligence artificielle, affichés en tête des pages de résultats, avaient associé à tort les deux sociétés à des escroqueries, des abonnements trompeurs et des pratiques commerciales douteuses. Le tribunal a tranché clairement : Google est directement responsable de ces allégations mensongères, car elles émanaient de ses propres systèmes d'IA et non des pages tierces indexées. Aucun des résultats de recherche sous-jacents n'établissait de lien entre les plaignants et des pratiques frauduleuses, l'IA avait fabriqué ces connexions de toutes pièces. Cette décision remet en cause un principe juridique fondamental dont Google bénéficiait jusqu'ici : le statut d'hébergeur neutre, qui protège les plateformes de toute responsabilité pour les contenus tiers qu'elles référencent. Le tribunal a jugé que ce bouclier ne s'applique pas aux AI Overviews, puisque ces résumés constituent une production propre de Google, synthétisant plusieurs sources en un texte cohérent et autonome. La mention « créé avec l'IA » ne suffit pas à exonérer l'entreprise. Le tribunal a d'ailleurs invoqué le droit local de la presse, qui rend un média responsable de ses titres et chapeaux au même titre que du reste de l'article, même si le lecteur ne va pas plus loin. L'argument de Google, selon lequel les utilisateurs savent généralement qu'il ne faut pas faire aveuglément confiance aux résultats IA, a été balayé, d'autant que l'entreprise déploie activement cette fonctionnalité à l'échelle mondiale. Cette affaire s'inscrit dans un contexte de tension croissante entre les outils de résumé automatique et les droits des éditeurs et des tiers cités. Des études montrent déjà une chute significative des clics vers les sources originales lorsque Google affiche un AI Overview, ce qui fragilise économiquement les médias tout en amplifiant le risque de désinformation. En qualifiant les résultats de l'AI Overview de « propres déclarations de Google » et en précisant que les textes algorithmiques ne sont pas « l'expression d'une conviction établie mais le résultat d'un algorithme », le tribunal de Munich pose un précédent qui pourrait faire jurisprudence en Europe. Si ce raisonnement s'étend, Google et ses concurrents proposant des fonctionnalités similaires, comme Microsoft Copilot dans Bing ou Perplexity AI, pourraient se retrouver exposés à des responsabilités éditoriales inédites, les contraignant à repenser en profondeur la vérification de leurs sorties IA avant publication.

UELe tribunal de Munich pose un précédent juridique majeur qui pourrait s'imposer dans toute l'UE : les éditeurs et toute entreprise citée à tort dans un AI Overview disposeront d'un recours direct contre Google et ses concurrents (Bing Copilot, Perplexity), contraignant ces plateformes à instaurer une vérification éditoriale rigoureuse avant publication sous peine d'engager leur responsabilité civile.

💬 Je l'attendais, cette décision. Depuis le départ, AI Overview génère du contenu inventé de toutes pièces, et si tu crois que Google pouvait encore se cacher derrière le statut de plateforme neutre, le tribunal de Munich vient de lui répondre. Reste à voir si ça fait jurisprudence au-delà de l'Allemagne, mais Perplexity et Bing ont un dossier ouvert chez leurs juristes ce matin.

RégulationReglementation
1 source
Claude Max : un abonné accuse Anthropic de l’avoir trompé, la justice s’en mêle
2Le Big Data 

Claude Max : un abonné accuse Anthropic de l’avoir trompé, la justice s’en mêle

Un développeur basé à Washington, Karl Kahn, a déposé lundi 15 juin 2026 une plainte fédérale devant le tribunal du district nord de Californie contre Anthropic, la société mère de Claude. L'action en justice, présentée comme un potentiel recours collectif, cible spécifiquement les offres Claude Max : le forfait Max 5x, facturé 100 dollars par mois, et le Max 20x, à 200 dollars mensuels. Ces abonnements premium sont commercialisés avec la promesse, respectivement, de cinq et vingt fois plus d'utilisation que l'offre Pro standard. Selon la plainte, la réalité serait radicalement différente : Kahn affirme avoir épuisé environ 15 % de son quota hebdomadaire au cours d'une seule session de travail de cinq heures, se heurtant ensuite à des limitations bloquant la poursuite normale de son activité. Les avocats réclament le remboursement de tous les abonnés ayant souscrit à ces offres depuis avril 2025. L'affaire pointe un angle mort croissant dans le secteur des abonnements à l'IA : la lisibilité des conditions réelles d'utilisation. Le grief central ne porte pas sur l'existence même des plafonds, qu'Anthropic avait documentés dès 2025 pour freiner les usages les plus intensifs, mais sur la manière dont les multiplicateurs "5x" et "20x" ont été présentés au public. Pour les plaignants, ces labels publicitaires créent une attente disproportionnée par rapport à ce que les utilisateurs peuvent réellement consommer au quotidien, sans qu'aucun outil de mesure ne leur permette de vérifier l'adéquation entre la promesse et la pratique. À 100 ou 200 dollars par mois, le décalage perçu entre l'offre et la réalité est d'autant plus difficile à accepter pour des développeurs et professionnels qui structurent leurs workflows autour de ces capacités annoncées. Cette plainte s'inscrit dans un contexte de montée en pression générale sur les modèles économiques des plateformes d'IA générative. Anthropic, qui a levé des milliards de dollars ces dernières années pour concurrencer OpenAI et Google, mise sur ses abonnements premium pour générer des revenus récurrents significatifs. La multiplication des offres à paliers, Pro, Max 5x, Max 20x, reproduit la logique des opérateurs télécom ou des FAI, avec des "promesses de performance" qui ont déjà valu des condamnations dans d'autres secteurs. Si le recours collectif est certifié par le tribunal, des milliers d'abonnés pourraient être concernés. Anthropic n'a pas commenté les accusations, qui restent pour l'instant de simples allégations. Mais la procédure, même à ses débuts, envoie un signal à l'ensemble du secteur : la transparence sur les limites réelles des abonnements IA n'est plus optionnelle.

UELes abonnés européens à Claude Max sont exposés aux mêmes pratiques d'opacité sur les quotas réels, et ce recours collectif américain pourrait inciter la CNIL ou la Commission à examiner la conformité de ces abonnements avec la directive sur les pratiques commerciales déloyales.

💬 Le "20x" sans unité précise, c'était une invitation à se faire poursuivre. Si tu structures ton workflow autour d'un quota annoncé et que tu l'épuises en une session, la confiance s'effondre, et le ticket de caisse est là pour le prouver. Anthropic a fait ce que font tous les télécoms depuis 30 ans : vendre du "jusqu'à" comme du garanti.

RégulationReglementation
1 source
☕️ La vérification d’identité d’Anthropic limite l’accès de Claude en Chine
3Next INpact 

☕️ La vérification d’identité d’Anthropic limite l’accès de Claude en Chine

Depuis la semaine dernière, Anthropic exige de certains de ses abonnés une vérification d'identité avec pièce officielle avec photo avant de continuer à utiliser Claude. Sans détailler publiquement les critères exacts, la société américaine confirme au site The Information que la mesure vise à bloquer l'accès commercial depuis des pays considérés comme adversaires des États-Unis, notamment la Chine, la Russie et la Corée du Nord. Anthropic invoque des raisons de sécurité nationale et indique que son équipe chargée des garde-fous « applique activement ces règles » et « prend des mesures contre les comptes en infraction ». Pour l'instant, la vérification ne touche pas l'ensemble des utilisateurs chinois, mais ses effets se font déjà sentir chez les startups qui ont bâti leur activité sur l'API Claude. Sur Idle Fish, la marketplace entre particuliers du groupe Alibaba, des vendeurs proposent déjà des contournements : comptes Claude Code préenregistrés, accès à des comptes existants, ou vente de pièces d'identité étrangères. Cette décision illustre la montée en puissance des considérations géopolitiques dans l'industrie de l'IA. Anthropic rejoint ainsi OpenAI, qui restreint déjà l'accès à ChatGPT dans plusieurs pays et exclut officiellement la Chine, la Russie et la Corée du Nord de sa liste de territoires autorisés, sans toutefois avoir mis en place à ce jour de vérification d'identité formelle. Pour les entreprises technologiques chinoises qui s'appuyaient sur Claude, cette coupure représente une rupture opérationnelle réelle, les forçant soit à migrer vers d'autres modèles, soit à adopter des pratiques de contournement risquées. Plus largement, ce type de restriction tend à accélérer la fragmentation du paysage mondial de l'IA entre blocs technologiques distincts. Ce blocage s'inscrit dans un contexte de tensions croissantes entre Washington et Pékin autour des technologies d'intelligence artificielle, qui fait suite aux restrictions déjà en vigueur sur l'exportation de semi-conducteurs américains avancés vers la Chine. Ces limitations ont poussé des acteurs comme Huawei et Baidu à intensifier le développement de leurs propres puces dédiées à l'IA. La même logique s'applique aux modèles de langage : coupée des outils américains les plus performants, la Chine a accéléré la construction de ses propres alternatives, dont la plus spectaculaire reste l'émergence de DeepSeek début 2025, qui a surpris l'ensemble de l'industrie par ses capacités. Si les restrictions d'Anthropic venaient à se généraliser ou à se durcir, elles pourraient paradoxalement renforcer l'écosystème IA chinois en lui donnant une raison supplémentaire de ne plus dépendre des modèles occidentaux.

RégulationReglementation
1 source
4Next INpact 

☕️ Linux clarifie les règles d’utilisation de l’IA dans les contributions au noyau

Le dépôt officiel du noyau Linux, administré par Linus Torvalds, intègre depuis le 6 janvier 2026 un nouveau fichier de documentation baptisé coding-assistants.rst. Ce document, passé inaperçu pendant plusieurs mois, a émergé sur Hacker News le 11 avril et fixe les règles d'utilisation des assistants d'IA générative dans les contributions au noyau. La position adoptée est pragmatique : tout code produit avec l'aide de l'IA est soumis exactement aux mêmes exigences que le code écrit par un humain seul. Le point central est la signature : seul un humain peut certifier le Developer Certificate of Origin (DCO), et le développeur qui soumet un patch assume l'entière responsabilité de son contenu, qu'il ait utilisé GitHub Copilot, ChatGPT ou tout autre outil. Le document encourage également une attribution explicite lorsque l'IA a contribué au développement, afin de suivre l'évolution de son rôle dans le processus. Ces lignes directrices ont une portée concrète pour les dizaines de milliers de contributeurs du noyau Linux, base logicielle qui alimente les serveurs, smartphones Android et systèmes embarqués de la planète entière. En exigeant que chaque commit soit endossé par un humain identifiable et juridiquement responsable, le projet préserve la conformité à la licence GPL 2.0 tout en évitant les zones grises liées au droit d'auteur du code généré par IA, un sujet encore non tranché dans la plupart des juridictions. La règle d'attribution, bien que non obligatoire, permet aussi aux mainteneurs de détecter d'éventuels problèmes de qualité ou de licence liés à des générations automatiques non vérifiées, et donne de la visibilité sur la façon dont l'IA s'intègre progressivement dans l'un des projets open source les plus complexes au monde. Cette prise de position s'inscrit dans une évolution plus large de l'attitude de Torvalds envers l'IA. Fin 2025, lors de l'Open Source Summit au Japon, il avait publiquement exprimé son scepticisme face au battage médiatique autour de l'IA tout en reconnaissant ses qualités réelles, notamment pour la maintenance du code. Plus révélateur encore, il a lui-même pratiqué le "vibe-coding" pour un projet personnel, AudioNoise, mentionné explicitement dans son fichier README. Le noyau Linux, avec ses règles désormais clarifiées, reflète donc un consensus émergent dans l'industrie : ni interdiction dogmatique ni adoption aveugle, mais responsabilité humaine maintenue au centre du processus. La réaction lapidaire d'un internaute sur Hacker News résume bien le sentiment général : "C'est... étonnamment normal ?"

UELes développeurs et entreprises européens contribuant au noyau Linux doivent désormais respecter ces règles explicites sur la responsabilité humaine du code généré par IA, clarifiant les risques juridiques liés à la GPL 2.0 dans un contexte de droit d'auteur encore non tranché en Europe.

💬 La règle est simple : tu utilises de l'IA, tu assumes quand même. C'est la seule position qui tienne, parce qu'interdire les outils aurait été ridicule et laisser un flou juridique sur la GPL encore plus dangereux pour le projet. Et Torvalds qui fait du vibe-coding pour un projet perso pendant ce temps, c'est le détail qui dit tout.

RégulationReglementation
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, rédigé par un humain · désinscription en un clic