Les systèmes d'IA face aux enjeux de sécurité actuels et futurs
Les organisations considèrent les risques de sécurité comme le principal frein à l'adoption de l'IA, selon un rapport d'Utimaco qui identifie trois menaces majeures : la manipulation des données d'entraînement, l'extraction de modèles, et l'exposition de données sensibles. La cryptographie à clé publique actuelle deviendra vulnérable dans les dix prochaines années avec l'émergence de l'informatique quantique — des groupes collectent déjà des données chiffrées pour les déchiffrer plus tard. Utimaco préconise une migration vers la cryptographie post-quantique via une approche dite de « crypto-agilité » (hybridation des algorithmes actuels avec les standards NIST), combinée à des modules matériels isolant les clés cryptographiques tout au long du cycle de vie de l'IA.
La migration vers la cryptographie post-quantique recommandée par les standards NIST concerne directement les entreprises et institutions européennes soumises aux réglementations NIS2 et DORA.