Un plaignant cache des instructions IA invisibles dans des documents judiciaires pour influencer un examen automatisé
Un plaignant du Connecticut a été sanctionné après avoir dissimulé des instructions destinées à une intelligence artificielle dans des documents judiciaires qu'il a déposés. Le texte, rédigé en caractères blancs de 3 points sur fond blanc, était invisible à l'œil nu mais lisible par un système automatisé, dans le but d'influencer une éventuelle relecture par IA des pièces du dossier. La juge Spader, qui a découvert la manœuvre, a comparé cette tentative à une manipulation secrète d'un jury et a immédiatement révoqué les droits de dépôt électronique du plaignant, l'obligeant désormais à soumettre ses documents par des voies traditionnelles.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Cette affaire illustre un risque nouveau et concret pour l'intégrité des procédures judiciaires à mesure que les tribunaux intègrent, ou envisagent d'intégrer, des outils d'intelligence artificielle dans leurs processus de vérification. Même en l'absence d'un système d'IA effectivement utilisé, la simple intention de tromper un futur mécanisme automatisé a suffi à justifier une sanction, signal fort envoyé aux plaideurs et aux avocats tentés de manipuler des relectures assistées par machine. L'épisode pourrait inciter d'autres juridictions à renforcer leurs contrôles contre ce type de texte caché.
Le tribunal du Connecticut a précisé qu'il n'utilise pas actuellement l'IA pour examiner les dépôts, ce qui rend la tentative du plaignant d'autant plus révélatrice d'une anticipation, correcte ou non, de l'évolution des pratiques judiciaires. À mesure que les administrations et cours de justice à travers les États-Unis explorent l'automatisation de certaines tâches de révision documentaire, ce cas pourrait devenir une référence pour définir de nouvelles règles encadrant l'usage détourné de contenus destinés spécifiquement à manipuler des systèmes d'IA, un enjeu appelé à se multiplier bien au-delà du seul domaine juridique.
Aucun impact direct, mais le cas pourrait inciter les juridictions françaises et européennes a se prémunir contre ce type de manipulation si elles adoptent des outils d'IA pour la révision de documents.
Un texte invisible pour l'humain mais lisible par une machine, glissé dans un dossier judiciaire : c'est le prompt injection version tribunal, et ça marche déjà même sans IA en place côté cour. Ce qui compte ici, ce n'est pas la sanction, c'est le signal : selon Le Fil IA, dès qu'une administration laisse entendre qu'elle pourrait faire relire ses dossiers par un modèle, elle crée une incitation à tricher pour des systèmes qui n'existent pas encore. Reste à voir combien de juridictions vont devoir se doter de scanners anti-texte-caché avant même d'avoir déployé la moindre IA.