Les systèmes d'IA face aux enjeux de sécurité actuels et futurs
Les systèmes d'intelligence artificielle font face à un double défi sécuritaire que les organisations ne peuvent plus ignorer : des menaces immédiates sur les données d'entraînement et les modèles eux-mêmes, et une menace à horizon décennal liée à l'essor de l'informatique quantique. C'est le constat dressé par Utimaco dans un livre blanc intitulé "AI Quantum Resilience", qui identifie trois vecteurs d'attaque principaux pesant sur l'ensemble du cycle de vie des systèmes IA.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de AI News. Lire l'article original →
L'enjeu dépasse largement les risques habituellement médiatisés autour du prompt engineering ou du vol de propriété intellectuelle au moment de l'inférence. Selon Utimaco, la valeur d'un système IA repose entièrement sur la qualité et la confidentialité des données qui l'alimentent, ce qui en fait une cible de choix dès la phase d'ingestion et d'entraînement. Pour les entreprises qui développent leurs propres outils IA, l'absence de protection à ce stade expose l'intégralité de leur avantage concurrentiel.
Les trois menaces identifiées sont : la manipulation des données d'entraînement (qui dégrade les sorties du modèle de façon difficile à détecter), l'extraction ou la copie de modèles (érosion des droits de propriété intellectuelle), et l'exposition de données sensibles lors de l'entraînement ou de l'inférence. Sur le front quantique, le rapport estime que la cryptographie à clé publique actuelle deviendra vulnérable dans les dix prochaines années. Des groupes bien organisés collecteraient dès aujourd'hui des données chiffrées pour les déchiffrer ultérieurement, une stratégie dite "harvest now, decrypt later". Utimaco préconise une migration vers des algorithmes post-quantiques, notamment ceux standardisés par le NIST, selon un principe de "crypto-agilité" permettant de changer d'algorithme sans refonte des systèmes sous-jacents. Des modules matériels de gestion des clés (hardware security modules) viendraient compléter ce dispositif pour isoler les opérations cryptographiques sensibles et produire des journaux infalsifiables compatibles avec des cadres réglementaires comme l'EU AI Act.
La migration vers une cryptographie résistante au quantique affectera protocoles, gestion des clés et interopérabilité des systèmes, un chantier qui, selon les auteurs du rapport, prendra plusieurs années. Les décisions d'infrastructure prises aujourd'hui doivent donc déjà intégrer cette contrainte future, sous peine d'exposer durablement des actifs à haute valeur : données d'entraînement, modèles propriétaires et données financières en tête.
La migration vers la cryptographie post-quantique recommandée par les standards NIST concerne directement les entreprises et institutions européennes soumises aux réglementations NIS2 et DORA.