Aller au contenu principal
Ces avocats ont laissé l’IA rédiger leurs dossiers, la juge les sanctionne et annule le procès
ÉthiqueLe Big Data · 2 min de lecture

Ces avocats ont laissé l’IA rédiger leurs dossiers, la juge les sanctionne et annule le procès

Source originale ↗·

Une juge fédérale du Mississippi, Sharion Aycock, a annulé un procès et sanctionné quatre avocats après avoir découvert que les deux parties avaient utilisé des outils d'intelligence artificielle pour rédiger leurs mémoires juridiques, sans vérifier les contenus produits. L'affaire opposait l'avocat Tom Withers à la ville d'Aberdeen dans l'État du Mississippi, Withers réclamant des honoraires impayés. Les représentants des deux camps ont reconnu avoir délégué une partie de leur travail de recherche juridique à des systèmes automatisés, et avoir soumis ces documents au tribunal sans contrôle sérieux. La juge a suspendu la procédure, interdit deux des avocats de plaider pendant deux ans et infligé des amendes allant de 1 000 à 3 500 dollars selon le niveau de responsabilité de chacun.

Ce qui rend cette affaire particulièrement grave, c'est qu'elle ne concerne pas des particuliers sans formation juridique tentant maladroitement de se défendre seuls, mais des professionnels du droit expérimentés. Depuis l'émergence de modèles comme ChatGPT, les tribunaux américains voient se multiplier les dossiers contenant des références juridiques inventées, des citations inexistantes et des faits erronés générés par des intelligences artificielles. Que des avocats professionnels commettent les mêmes erreurs que des justiciables non formés envoie un signal alarmant à toute la profession. Dans son ordonnance, la juge Aycock a expressément évoqué les « délires liés à l'intelligence artificielle », une formule qui traduit son exaspération face à la fréquence croissante de tels incidents. La simultanéité des fautes des deux parties est par ailleurs exceptionnelle : il est rarissime que des avocats adverses soient sanctionnés en même temps pour des comportements identiques.

Le phénomène s'inscrit dans une tendance documentée à grande échelle. Le juriste Damien Charlotin, qui recense les cas de documents judiciaires contenant des éléments fabriqués par l'IA, a déjà répertorié 1 598 cas. Les juges américains sont désormais contraints d'exercer une vigilance accrue pour détecter les références fictives avant qu'elles ne s'intègrent dans des décisions de justice et ne créent des précédents corrompus. Car une citation inventée, si elle passe inaperçue, peut influencer durablement l'interprétation du droit. Cette affaire soulève une question qui dépasse les prétoires : à mesure que les outils d'IA s'imposent dans les professions réglementées, qui est responsable de la vérification des contenus produits ? La réponse de la juge Aycock est claire : l'avocat qui signe le document, quels que soient les outils qu'il a utilisés pour le préparer.

Impact France/UE

Les avocats et professionnels du droit français et européens sont exposés aux mêmes risques liés aux hallucinations IA dans les documents judiciaires, bien qu'aucune sanction équivalente n'ait encore été prononcée dans l'UE.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Vos morceaux préférés ont-ils servi à entraîner l’IA ? Cet outil a la réponse
1Le Big Data 

Vos morceaux préférés ont-ils servi à entraîner l’IA ? Cet outil a la réponse

The Atlantic a lancé un outil public baptisé AI Watchdog, développé par le journaliste Alex Reisner, permettant à n'importe qui de rechercher si ses morceaux préférés ont été utilisés pour entraîner des modèles d'intelligence artificielle. Reisner a mis la main sur quatre bases de données musicales employées dans l'entraînement de ces systèmes, deux d'entre elles étant particulièrement massives : l'une contient environ 12 millions de titres, l'autre près de 9 millions. Les deux restantes dépassent chacune les 100 000 chansons. Ces ensembles ont été téléchargés des milliers de fois par des développeurs. On y retrouve des artistes aussi divers que Lady Gaga, Radiohead, Aphex Twin, Wu-Tang Clan, Fred again.. ou Bruce Springsteen, mais aussi des compositeurs expérimentaux comme Hainbach. L'outil permet également d'explorer les livres et autres œuvres présents dans ces corpus, même si, pour l'heure, il ne précise pas quelles entreprises ont utilisé chaque jeu de données, seuls Google et Stability AI ont reconnu publiquement en avoir exploité certains. Cette transparence inédite met en lumière une pratique jusqu'ici peu visible : la collecte massive de contenus protégés sans accord explicite des ayants droit. Certaines sources sont accessibles gratuitement, comme la Free Music Archive, qui autorise l'écoute personnelle mais exige une licence pour tout usage commercial. Or, entraîner un modèle d'IA génératif est bien un usage commercial. Pire, trois des quatre bases ne contiennent pas directement des fichiers audio, mais des listes de liens pointant vers YouTube ou Spotify ; les développeurs recourent ensuite à des outils automatisés pour aspirer les fichiers, contournant parfois les systèmes publicitaires et les mécanismes de monétisation qui rémunèrent les artistes, en violation des conditions d'utilisation de ces plateformes. Ce travail d'investigation s'inscrit dans un bras de fer qui oppose depuis plusieurs années artistes, labels et développeurs d'IA générative musicale. Des startups comme Suno et Udio font face à des poursuites judiciaires de la part de grandes maisons de disques, qui leur reprochent exactement ce type de pratiques. La question du consentement et de la rémunération des créateurs n'est toujours pas résolue, ni dans la musique, ni dans l'écrit ou l'image. AI Watchdog ne prouve pas en soi qu'un acte illégal a été commis, l'utilisation de données pour l'entraînement fait l'objet de débats juridiques actifs dans plusieurs pays, mais il offre aux artistes, aux avocats et aux régulateurs un outil concret pour documenter l'étendue du phénomène, à un moment où les procès se multiplient et où la pression politique sur les géants de l'IA s'intensifie.

UELes artistes français et européens peuvent désormais vérifier si leurs œuvres ont été utilisées sans consentement pour entraîner des IA génératives, dans un contexte où l'exception de fouille de données prévue par l'AI Act reste un enjeu législatif actif en Europe.

💬 On savait que les IA musicales avaient pompé des millions de titres, mais personne ne pouvait le montrer, artiste par artiste, avec des chiffres. AI Watchdog change ça brutalement : 12 millions de morceaux dans une seule base, et trois des quatre datasets ne contiennent même pas d'audio, juste des liens YouTube que des scripts ont aspirés en contournant la monétisation. C'est la première pièce à conviction exploitable pour les avocats, au moment où les procès contre Suno et Udio commencent à s'accumuler.

ÉthiqueReglementation
1 source
2Le Big Data 

France Travail veut confier à l’IA le tri des demandeurs d’emploi, et les tests sont déjà en cours

Après la Caisse d'allocations familiales, c'est au tour de France Travail de s'appuyer sur l'intelligence artificielle pour cibler ses contrôles. Selon des documents révélés par La Quadrature du Net en partenariat avec Radio France, l'opérateur public de l'emploi expérimente depuis fin 2025 un projet baptisé « Ciblage du contrôle de la recherche d'emploi », présenté à cette date devant son comité d'éthique dédié à l'IA. Le système repose sur un modèle statistique entraîné à partir de 60 000 contrôles réalisés par le passé. Il croise 26 variables issues des dossiers des demandeurs d'emploi : ancienneté d'inscription, visibilité du CV, métier recherché, niveau de formation, entretiens récents ou activités déclarées. L'algorithme classe ensuite les profils selon leur probabilité d'être contrôlés et transmet une liste priorisée aux agents, qui restent seuls décisionnaires sur la suite à donner. Une première campagne a déjà porté sur 7 000 contrôles visant des personnes inscrites après une rupture conventionnelle : elle a débouché sur une sanction ou un accompagnement renforcé dans 50,4 % des cas, contre 33,2 % avec les méthodes traditionnelles. Une seconde expérimentation de même ampleur était en cours au moment de la présentation du projet. Cette évolution change concrètement la manière dont les demandeurs d'emploi peuvent être surveillés au quotidien. L'IA ne prononce aucune sanction elle-même, mais elle détermine qui sera examiné en priorité, ce qui revient à orienter fortement le sort administratif de milliers de personnes sans qu'elles en aient toujours conscience. Pour France Travail, l'intérêt est clair : selon ses propres chiffres, cibler via l'algorithme rend les contrôles nettement plus « rentables » que le tirage traditionnel. Mais pour les associations et observateurs qui suivent le dossier, ce gain d'efficacité repose sur un raisonnement fragile, puisqu'aucune des 26 variables utilisées ne prouve en elle-même qu'une personne ne cherche pas activement du travail. Un CV peu visible en ligne, par exemple, peut simplement traduire des difficultés d'usage du numérique plutôt qu'un manque d'implication dans la recherche d'emploi. Ce type d'outil s'inscrit dans une tendance plus large de numérisation des contrôles sociaux en France, après les algorithmes de notation déjà utilisés par la CAF pour détecter des fraudes présumées, qui avaient eux-mêmes suscité de vives critiques sur les biais qu'ils pouvaient introduire contre certaines catégories d'allocataires. Avec France Travail, le débat se déplace vers le monde du chômage, où plusieurs acteurs redoutent qu'un système entraîné sur des données historiques ne reproduise, voire n'amplifie, des inégalités déjà présentes dans les pratiques de contrôle passées, sans offrir de garanties claires de transparence ou de recours pour les personnes concernées.

UECe dispositif algorithmique deploye par France Travail, operateur public francais, etend la notation automatisee des demandeurs d'emploi et souleve des risques de biais et d'absence de recours pour les personnes concernees.

ÉthiqueReglementation
1 source
Pourquoi ne pas laisser la sélection du modèle par défaut dans Copilot, Gemini et autres outils IA
3The Decoder 

Pourquoi ne pas laisser la sélection du modèle par défaut dans Copilot, Gemini et autres outils IA

Le mathématicien Adam Kucharski a mis en évidence une faille frappante dans Microsoft Copilot : lorsqu'il a soumis à l'outil des jeux de données strictement identiques en changeant uniquement les étiquettes de pays, Copilot a produit des analyses détaillées faisant état de différences nationales qui n'existaient tout simplement pas. Au lieu de détecter l'absence de variation dans les chiffres, le modèle par défaut a généré des stéréotypes circonstanciés, présentant des résultats fabriqués comme s'ils étaient fondés sur les données réelles. Cette expérience, reproductible avec d'autres plateformes comme Gemini, révèle un angle mort systématique dans les outils d'IA généraliste utilisés au quotidien. Le problème n'est pas anodin : des professionnels s'appuient sur ces outils pour analyser des données économiques, sociales ou médicales, et un modèle qui confond ses propres biais culturels avec une analyse factuelle peut conduire à des décisions erronées sans que l'utilisateur s'en aperçoive. Les modèles dits "de raisonnement" (o3 d'OpenAI, les modes thinking de Gemini, etc.) parviennent à détecter ce type de piège, mais uniquement si l'utilisateur choisit activement de les activer, ce que la grande majorité ne fait pas. Ce constat pointe vers un problème de conception plus large : les interfaces de Copilot, Gemini ou ChatGPT proposent un modèle par défaut qui n'est pas nécessairement adapté à toutes les tâches, sans guider l'utilisateur vers le bon outil. Alors que Microsoft et Google intègrent l'IA dans des environnements professionnels sensibles, la question de la sélection automatique ou assistée du modèle selon le contexte d'usage devient un enjeu de fiabilité critique, que les éditeurs n'ont pas encore pleinement résolu.

UELes professionnels européens utilisant Copilot ou Gemini pour analyser des données économiques, sociales ou médicales s'exposent à des décisions fondées sur des analyses fabriquées, un risque de fiabilité directement dans le viseur de l'AI Act pour les systèmes à usage professionnel sensible.

💬 Le test d'Adam Kucharski est glaçant: données identiques, étiquettes de pays changées, et Copilot invente des différences nationales bien argumentées. Le modèle ne ment pas au sens classique, il comble les vides avec ses biais culturels, et ça passe parce que c'est fluide et ça semble fondé. Utiliser ces outils sur des données pro sans activer les modes raisonnement, c'est signer un rapport avec un outil qui hallucine en silence.

ÉthiqueOpinion
1 source
IA : Le propriétaire de Peppa Pig veut cloner la voix des enfants acteurs
4Le Big Data 

IA : Le propriétaire de Peppa Pig veut cloner la voix des enfants acteurs

Hasbro, le géant américain du jouet et du divertissement qui détient les droits de Peppa Pig, aurait intégré dans les contrats des jeunes comédiens de la série une clause autorisant le clonage de leur voix par intelligence artificielle. L'information, révélée par Deadline, a provoqué une levée de boucliers immédiate : l'Association des agents de jeunes artistes (AYPA) a publié une lettre ouverte cosignée par plus de 1 000 professionnels du secteur, exigeant que « tout accord concernant la voix d'un enfant soit totalement exempté de toute utilisation de l'IA ». Hasbro n'est pas nommé explicitement dans ce document, qui évoque « un grand studio détenant les droits d'une franchise internationale pour enfants », mais Deadline ne laisse guère de doute sur l'identité visée. Face à la polémique, un porte-parole de la société a affirmé que « la protection des enfants artistes est au cœur de l'identité d'Hasbro », tout en refusant de commenter les négociations contractuelles en cours. L'enjeu dépasse largement un simple désaccord contractuel. La cession de droits vocaux à une IA permettrait à un studio de reproduire la voix d'un enfant à volonté, pendant des années, sans rémunération supplémentaire ni contrôle de l'artiste. Or, comme le souligne la lettre de l'AYPA, un enfant ne peut pas donner un consentement éclairé et légal, et l'accord d'un parent ne saurait constituer un blanc-seing absolu pour cloner et réutiliser indéfiniment sa voix. Cette affaire marque un tournant : jusqu'ici, les débats sur l'IA vocale dans le doublage concernaient principalement les adultes. Désormais, les mineurs sont directement dans le viseur des studios, ce qui soulève des questions éthiques et juridiques d'une tout autre gravité. Cette controverse s'inscrit dans un mouvement plus large de résistance aux usages de l'IA dans l'industrie du divertissement. Depuis la grève historique de la SAG-AFTRA en 2023, les acteurs américains se battent pour encadrer le recours à leurs données biométriques. La pression s'étend désormais à l'animation : le scénariste et réalisateur Jorge Gutierrez, primé aux Emmy Awards, a dû renoncer à un projet de série développée avec MGM Studios (Amazon) après une tempête de critiques sur les réseaux sociaux, accusé de trahir les artistes en intégrant l'IA dans le processus créatif. Ces épisodes successifs montrent que ni les grandes franchises, ni les créateurs réputés ne sont à l'abri d'une réaction publique violente dès lors que l'IA semble menacer l'emploi ou l'intégrité des artistes, et que la question du consentement des enfants pourrait devenir le prochain front législatif du secteur.

UECette affaire pourrait accélérer l'encadrement réglementaire européen sur le clonage vocal de mineurs, notamment via l'AI Act et le RGPD qui imposent déjà des protections renforcées pour les données biométriques des enfants.

ÉthiqueOpinion
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic