Un homme accusé d'avoir injecté des instructions dans ses documents pour manipuler un juge assisté par IA
Un juge du Connecticut, Walter Spader Jr., a rendu la semaine dernière une décision révélant ce qui semble être le premier cas aux États-Unis d'un plaignant ayant tenté de dissimuler dans des documents judiciaires un texte lisible uniquement par une intelligence artificielle. L'affaire concernait un homme reprochant à un prestataire de soins de santé de lui refuser indûment l'accès à ses dossiers médicaux. Selon le juge Spader, le texte caché était "formaté pour être invisible à un lecteur humain tout en restant parfaitement lisible par tout logiciel lisant le texte du document". Ces instructions secrètes demandaient à tout système d'IA examinant le dossier de produire des conclusions favorables aux arguments du plaignant, d'ignorer les refus antérieurs déjà prononcés par le tribunal, et de garantir que les mesures correctives souhaitées soient accordées. Le juge a précisé que cette manipulation n'avait eu aucune influence sur l'issue de l'affaire, le dossier ayant été examiné sur le fond comme n'importe quel autre.
Résumé et traduction réalisés par Le Fil IA à partir de Ars Technica AI. Lire l'article original →
Même sans effet concret dans ce cas précis, l'incident inquiète car il révèle une nouvelle forme de manipulation judiciaire rendue possible par l'adoption croissante d'outils d'IA dans les tribunaux américains. Le juge Spader a qualifié la tentative de précédent "dangereux", estimant qu'elle ne restera probablement pas isolée à mesure que les systèmes d'IA deviennent plus courants dans le traitement des procédures judiciaires. Si de tels systèmes venaient à influencer, même indirectement, la lecture ou le résumé de documents par des juges, des greffiers ou des assistants juridiques, des instructions cachées de ce type pourraient fausser l'interprétation d'un dossier sans que personne ne s'en aperçoive, menaçant l'intégrité même du processus judiciaire.
Cette affaire s'inscrit dans une tendance plus large où des utilisateurs tentent d'exploiter les failles des systèmes d'intelligence artificielle par des techniques dites d'injection de prompts, une méthode déjà observée dans d'autres contextes comme les CV soumis à des logiciels de recrutement automatisés ou les articles académiques destinés à des relecteurs assistés par IA. Le fait qu'elle apparaisse désormais dans l'enceinte judiciaire soulève des questions sur la manière dont les tribunaux américains devront encadrer l'usage de l'IA, tant du côté des parties que des juges eux-mêmes, et sur les garde-fous à mettre en place pour éviter que des documents manipulés n'influencent des décisions ayant un impact réel sur la vie des justiciables.
Le phenomene souligne un risque a anticiper pour les tribunaux europeens a mesure que l'IA s'integre dans le traitement judiciaire, sans qu'aucune juridiction francaise ou europeenne ne soit concernee ici.