Timnit Gebru, critique éthique des géants de l’IA

L'insécurité numérique à l'ère de l'IA

Lors de la conférence EmTech AI organisée par le MIT Technology Review, Tarique Mustafa, cofondateur et PDG de GCCybersecurity, Inc., a présenté un état des lieux alarmant de la cybersécurité à l'heure de l'intelligence artificielle. Son argument central : l'IA ne se contente pas de transformer les outils de défense, elle redéfinit en profondeur la surface d'attaque, rendant les approches héritées des décennies précédentes structurellement inadaptées. Mustafa, qui dirige également Chorology, Inc., une filiale spécialisée dans la conformité des données, a passé plus de vingt ans à développer des systèmes autonomes de protection contre les fuites de données, aboutissant à une plateforme de quatrième et cinquième génération capable d'opérer sans intervention humaine. L'enjeu dépasse la simple mise à jour technologique. En intégrant l'IA dans les infrastructures d'entreprise, les organisations multiplient les points d'entrée potentiels pour des attaquants qui, eux aussi, exploitent des modèles automatisés. Une défense pensée après coup, superposée à des systèmes existants, ne suffit plus : la sécurité doit être architecturée dès la conception, avec l'IA comme composante centrale plutôt que comme couche additionnelle. Pour les entreprises qui déploient massivement des outils d'IA générative, des agents autonomes ou des pipelines de traitement de données à grande échelle, ce changement de paradigme est immédiat et concret. La classification des données, la prévention des fuites (DLP) et la gestion de la posture de sécurité des données (DSPM) deviennent des disciplines critiques dans un environnement où les volumes traités et la vitesse d'exécution dépassent les capacités humaines de supervision. Mustafa incarne une génération d'experts qui ont traversé plusieurs cycles technologiques dans la sécurité. Passé par Symantec, MCI WorldCom et EDS, il a fondé NexTier Networks en Californie avant de créer GCCybersecurity. Titulaire de plusieurs brevets américains (USPTO) en représentation de la connaissance et en planification par IA, il a contribué à formaliser des approches que l'industrie commence seulement à adopter à grande échelle. Sa présence à EmTech AI reflète une prise de conscience croissante dans les milieux technologiques : la course entre attaquants et défenseurs est désormais une course entre systèmes automatisés, et les organisations qui n'intègrent pas cette réalité dans leur stratégie de sécurité risquent de prendre un retard difficile à combler.

Des millions d'agents IA menacés par une faille critique dans un paquet open source

Des millions d'agents et d'outils d'intelligence artificielle sont exposés à une faille critique découverte dans Starlette, un framework open source téléchargé 325 millions de fois par semaine selon son propre développeur. La vulnérabilité permet à des attaquants de s'introduire dans les serveurs qui hébergent ces agents et de dérober des données sensibles ainsi que des identifiants donnant accès à des services tiers. Starlette est une implémentation de l'ASGI (Asynchronous Server Gateway Interface), une interface conçue pour traiter efficacement de très nombreuses requêtes simultanées. Il constitue le socle de FastAPI et de nombreux autres frameworks Python très répandus, si bien que des milliers de projets open source dépendant de Starlette se retrouvent également vulnérables. La gravité de la situation tient à ce que Starlette, et plus largement l'écosystème ASGI, fournit l'infrastructure sur laquelle s'appuient les serveurs MCP (Model Context Protocol). Ce protocole, adopté par les principaux fournisseurs d'agents IA, permet à ces agents d'accéder à des ressources externes : bases de données utilisateurs, messageries, agendas et bien d'autres services. Pour fonctionner, les serveurs MCP stockent les identifiants de connexion à chacun de ces systèmes, ce qui en fait des cibles particulièrement lucratives pour un attaquant. La faille serait en outre triviale à exploiter, ce qui signifie qu'elle ne nécessite pas de compétences avancées pour être mise en oeuvre. Cette découverte illustre les risques systémiques liés à la dépendance de l'écosystème IA moderne vis-à-vis de composants open source largement partagés. Le MCP, popularisé par Anthropic et rapidement adopté par les grandes plateformes, a accéléré l'intégration des agents IA dans des environnements sensibles, sans que les audits de sécurité des couches sous-jacentes aient suivi le même rythme. Une seule bibliothèque compromise peut ainsi propager une vulnérabilité à travers toute une chaîne de dépendances, touchant simultanément des millions de déploiements. Les équipes de sécurité et les développeurs utilisant FastAPI ou tout projet fondé sur Starlette sont invités à appliquer les correctifs dès leur disponibilité et à auditer les identifiants potentiellement exposés.

💬 325 millions de téléchargements par semaine, ça donne une idée de la surface d'attaque. On a adopté le MCP à toute vitesse, en empilant des agents au-dessus de FastAPI sans jamais trop regarder ce qui était en dessous. Si tu as un serveur MCP en prod, tu vérifies ta version de Starlette maintenant, pas ce soir.

Le système de tatouage numérique IA de Google a-t-il été percé ?

Un développeur indépendant affirme avoir réingénié SynthID, le système de tatouage numérique développé par Google DeepMind pour identifier les images générées par intelligence artificielle. L'individu, qui se présente sous le pseudonyme Aloshdenny, a publié son travail en open source sur GitHub et décrit sa méthode sur Medium : il aurait utilisé seulement 200 images générées par Gemini, des techniques de traitement du signal, et beaucoup de temps libre. Selon lui, aucun réseau de neurones ni accès propriétaire n'ont été nécessaires. Google conteste ces affirmations et affirme que SynthID n'a pas été compromis. Si la démonstration s'avérait fondée, les conséquences seraient significatives : SynthID est présenté comme un outil clé pour lutter contre la désinformation et les deepfakes, en permettant de tracer l'origine des contenus synthétiques. Pouvoir retirer ou insérer ces marqueurs invisibles à la demande remettrait en cause toute la chaîne de confiance que Google cherche à construire autour de ses modèles génératifs, avec des implications directes pour les plateformes, les journalistes et les régulateurs. SynthID a été lancé en 2023 par Google DeepMind comme solution technique à la prolifération des images artificielles non détectables. Le système intègre un filigrane imperceptible directement dans les pixels générés, censé résister aux modifications courantes. La controverse s'inscrit dans un débat plus large sur la robustesse des systèmes de provenance des contenus IA, alors que l'Union européenne et d'autres régulateurs poussent à l'adoption de standards de traçabilité. L'affaire souligne combien ces mécanismes, s'ils ne sont pas cryptographiquement solides, peuvent offrir une fausse sécurité.

Huit géants technologiques signent des contrats avec le Pentagone pour bâtir une force combattante axée sur l'IA sur des réseaux classifiés

Le Pentagone a signé des contrats avec huit entreprises technologiques pour déployer des solutions d'intelligence artificielle sur ses réseaux classifiés, dans le cadre d'une initiative visant à bâtir ce que le département de la Défense appelle une "force de combat orientée IA en priorité". Ces accords matérialisent l'ambition américaine d'intégrer l'IA au coeur même de ses opérations militaires les plus sensibles. Anthropic, le créateur du modèle Claude, est ostensiblement absent de cette liste après avoir refusé de signer une clause d'utilisation imposée par le Pentagone, ce qui lui a valu d'être officiellement signalé comme "risque de sécurité". L'intégration de l'IA dans des réseaux militaires classifiés représente un tournant structurant pour l'industrie technologique américaine. Ces contrats ouvrent la voie à une utilisation opérationnelle de l'IA dans des environnements de haute sécurité, potentiellement de la logistique jusqu'à la prise de décision tactique. Le cas Anthropic illustre une tension croissante entre les garde-fous éthiques que s'imposent certains acteurs de l'IA et les exigences sans concession des forces armées, une ligne de fracture appelée à s'approfondir à mesure que les usages militaires se multiplient. Cette dynamique s'inscrit dans une course aux armements numériques entre grandes puissances, les États-Unis cherchant à conserver leur avance technologique face à la Chine. Le Pentagone intensifie depuis plusieurs années ses partenariats avec le secteur privé, de Project Maven à JEDI, pour moderniser ses capacités numériques. Le refus d'Anthropic rappelle la résistance qu'avaient manifestée des ingénieurs de Google lors de Project Maven en 2018, posant une question désormais centrale: jusqu'où les entreprises d'IA dites "responsables" sont-elles prêtes à collaborer avec les militaires?