Détection de PII indépendante du modèle grâce aux LLM
La société technologique a publié un système de détection d'informations personnelles identifiables (PII) fonctionnant sur n'importe quel grand modèle de langage (LLM) hébergé via Amazon Bedrock, dont les modèles Mistral et OSS-GPT. Baptisé pii-detector, l'outil est distribué en open source dans le dépôt sample-llm-pii-détection et a été testé sur cinq corpus publics de données personnelles, en comparaison directe avec neuf détecteurs concurrents basés sur des LLM, parmi lesquels le PrivacyFilter d'OpenAI. Le système repose sur un composant appelé Inferencer, une interface uniforme qui accepte aussi bien un modèle géré dans le cloud qu'un modèle open source déployé sur une infrastructure propre, comme OSS-GPT 20B tournant sur un seul GPU dans un environnement isolé sans accès à internet. Contrairement aux outils classiques, la détection ne repose plus sur un modèle entraîné à reconnaître des catégories figées, mais sur des instructions données au LLM au moment de l'inférence, ce qui lui permet de repérer des entités dans huit langues sans étape de traduction.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de AWS ML Blog. Lire l'article original →
Cette approche répond à un problème concret pour les équipes qui affinent des modèles sur des données réelles : les journaux d'assistance client, dossiers RH ou historiques de conversation regorgent de noms, adresses, numéros de téléphone, identifiants nationaux, coordonnées bancaires ou dates de naissance. Un modèle entraîné sur ces textes non nettoyés peut mémoriser ces informations et les restituer plus tard dans une réponse, exposant des données personnelles à travers une simple requête. Les outils traditionnels de détection, des classificateurs de type transformeur bidirectionnel, appliquent une liste d'entités figée à l'entraînement : ajouter un identifiant spécifique à un secteur, comme un numéro d'employé ou une adresse de portefeuille de cryptomonnaie, oblige à réétiqueter et réentraîner tout le modèle. Avec la nouvelle méthode, il suffit de modifier une ligne dans les instructions transmises au LLM pour ajouter ou retirer un type de donnée à surveiller, sans réentraînement ni redéploiement, ce qui réduit considérablement le coût d'adaptation pour les équipes de conformité et de sécurité des données.
Cette évolution s'inscrit dans une tendance plus large où les grands modèles de langage remplacent des outils NLP spécialisés et rigides par des composants configurables au moment de l'exécution. Le choix du modèle sous-jacent, qu'il s'agisse d'un modèle de pointe géré dans le cloud ou d'un petit modèle open source local, permet aux entreprises d'arbitrer entre précision, latence et coût selon leurs contraintes, y compris dans des environnements sensibles ou déconnectés qui ne peuvent pas envoyer de données vers un service externe. Reste à voir si cette architecture générique tiendra la comparaison en conditions réelles face à des modèles spécialisés sur de très gros volumes, et comment les équipes de gouvernance des données intégreront cet outil dans leurs pipelines existants de préparation de jeux d'entraînement.
Les entreprises européennes traitant des données clients avec des LLM pourraient utiliser cet outil open source pour faciliter leur conformité au RGPD, même si aucune entité française ou européenne n'est directement impliquée.