L'industrie s'unit au sein de l'Open Secure AI Alliance pour la sécurité de l'IA
Industry Leaders Unite in Open Secure AI Alliance for AI Safety and Security → note: le texte source contient plusieurs noms d'entreprises fictifs ou peu clairs (SpacexAI, TrendAI, OpenClaw) qui ne correspondent à aucune entité connue ; je les ai conservés tels quels car ils figurent dans le texte fourni.
Un nouveau consortium baptisé Open Secure AI Alliance vient d'être lancé pour développer des outils ouverts de cybersécurité face aux risques posés par l'intelligence artificielle. L'initiative s'appuie sur les travaux existants de la Linux Foundation, via son programme Akrites, et de la communauté OpenSSF. Une trentaine d'acteurs majeurs du secteur figurent parmi les membres fondateurs, dont NVIDIA, Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Databricks, Dell Technologies, Hugging Face, Red Hat, Salesforce, SAP, Palantir, Palo Alto Networks, Snowflake et la Linux Foundation elle-même. L'alliance cite un incident récent survenu chez Hugging Face comme déclencheur symbolique : lors d'une intrusion, les outils d'IA propriétaires de l'entreprise se sont révélés incapables de distinguer les attaquants des défenseurs et ont bloqué l'analyse forensique nécessaire. Hugging Face a alors fait tourner en interne le modèle ouvert GLM 5.2 pour examiner plus de 17 000 actions et contenir la brèche.
Cet épisode illustre un enjeu central pour les responsables de la sécurité informatique dans les grandes entreprises et les administrations : lorsque les défenseurs ne peuvent ni inspecter, ni adapter, ni exécuter sur leur propre infrastructure les systèmes d'IA les plus avancés, leur capacité de réaction se trouve limitée au moment précis où la rapidité est décisive. En rendant possibles des outils de défense ouverts, modifiables et déployables localement, l'alliance vise à démocratiser les capacités défensives et à éviter qu'un secteur critique ne dépende d'un unique fournisseur fermé. L'objectif affiché est de permettre à des écosystèmes multi-fournisseurs de bâtir des systèmes de sécurité résilients, sans point unique de défaillance, tout en préservant la confidentialité des données traitées.
Le débat sur la sécurité des modèles ouverts n'est pas nouveau : certains estiment qu'un modèle diffusé en open source est plus facilement détourné pour mener des cyberattaques ou pour voir ses garde-fous supprimés. L'alliance reconnaît ces risques mais souligne qu'ils ne disparaissent pas avec des systèmes fermés, un attaquant déterminé pouvant de toute façon chercher à exploiter des capacités d'IA puissantes. Plutôt que de restreindre l'accès des défenseurs aux systèmes ouverts les plus performants, le collectif entend combiner ouverture, garde-fous solides, règles claires contre les usages malveillants, évaluations rigoureuses et correction rapide des vulnérabilités. Selon ses fondateurs, modèles ouverts et fermés doivent coexister, chacun offrant aux équipes de sécurité un éventail d'outils adaptés à leurs besoins spécifiques.
SAP, entreprise allemande, figure parmi les membres fondateurs de l'alliance, donnant à une entreprise europeenne un role direct dans le developpement d'outils ouverts de cybersecurite IA.
Dans nos dossiers
Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.




