Ablation, ablitération : c’est quoi cette technique pour « débrider » les IA génératives ?
L'ablitération est une technique qui permet de retirer, en partie ou en totalité, les protections intégrées à un modèle de langage pour l'empêcher de répondre à des requêtes jugées dangereuses ou malveillantes. Comme l'explique le média Next dans un article consacré au sujet, l'entraînement des IA génératives se déroule en plusieurs étapes : une première phase d'ingestion massive de données, souvent l'intégralité du web, qui ajuste les centaines de milliards de paramètres du modèle, suivie d'une phase de fine-tuning et d'alignement où le système apprend à distinguer une intention légitime d'une intention malveillante formulée avec les mêmes mots. Des chercheurs ont montré dès 2024 que ce refus ne correspond pas à une règle binaire mais à un vecteur qui traverse l'ensemble des couches du réseau de neurones. Dans le fonctionnement concret d'un assistant IA, un prompt utilisateur passe généralement par un classificateur de risques, comme Shieldstral développé par Mistral, avant d'atteindre le cœur du modèle puis de subir un second contrôle sur la réponse générée avant transmission à l'utilisateur.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Next INpact. Lire l'article original →
Cette architecture de sécurité, censée bloquer les demandes liées à la fabrication d'armes, de substances chimiques, à l'automutilation, à la fraude ou à la création de malwares, peut être contournée de trois façons distinctes. Le jailbreak consiste à reformuler le prompt pour ne pas éveiller les soupçons du modèle, sans toucher à celui-ci. L'ablitération, elle, va plus loin : elle modifie directement les poids du modèle de manière ciblée pour supprimer son mécanisme d'inhibition, le rendant durablement moins réticent à répondre à des demandes sensibles. La troisième méthode, la plus lourde, consiste à réentraîner complètement le modèle sur des données dépourvues de toute notion de refus. Ces techniques posent un risque direct pour la sécurité publique, puisqu'elles peuvent transformer un modèle grand public, initialement bridé, en un outil capable de fournir des informations dangereuses sans filtre, avec des conséquences potentielles en matière de cybercriminalité, de fabrication d'armes ou de production de contenus nuisibles.
L'existence de ces contournements illustre la fragilité intrinsèque des dispositifs d'alignement actuels, qui reposent sur des ajustements statistiques plutôt que sur des interdictions absolues gravées dans le modèle. Les éditeurs de modèles, comme Mistral avec son classificateur Shieldstral, multiplient les couches de contrôle en amont et en aval du LLM pour limiter les risques, mais la disponibilité croissante de modèles open source rend leur modification par des tiers plus difficile à empêcher. L'article de Next précise que la suite de son enquête, réservée aux abonnés, doit détailler comment contourner spécifiquement les protections de ChatGPT par le seul biais du prompt, ce qui suggère que le débat sur la robustesse des garde-fous des IA génératives grand public reste pleinement ouvert.
Mistral, entreprise française, est directement citée via son classificateur de sécurité Shieldstral, confronte aux limites de ces techniques de contournement.