The Download : les nouveaux projets d'IA du Pentagone et les réacteurs nucléaires de nouvelle génération

The Download : le piratage par IA dépasse Mythos, et l'effet des chatbots sur le cerveau

Des attaquants ont exploité lundi l'agent IA de support client de Meta pour voler des comptes Instagram : ils ont simplement demandé au système de lier les comptes visés à des adresses e-mail sous leur contrôle, et l'agent a obtempéré. Cette attaque basique mais efficace survient alors que les débats en cybersécurité se concentraient jusqu'ici sur des menaces bien plus sophistiquées, notamment depuis qu'Anthropic a annoncé que son modèle Mythos se montrait trop performant en piratage pour être diffusé au grand public. Pendant ce temps, Anthropic a publiquement appelé à un ralentissement mondial du développement de l'IA, citant les risques d'auto-amélioration des modèles et demandant un plan coordonné au niveau international. Autre signal fort : selon Cloudflare, le trafic web généré par des bots a pour la première fois dépassé celui des humains, atteignant 57,4 % du total, un cap que le PDG de l'entreprise n'anticipait pas avant fin 2027. Le piratage des comptes Instagram illustre une réalité que l'industrie préfère souvent ignorer : à mesure que les entreprises délèguent davantage de tâches à des agents IA, des attaques comparativement rudimentaires deviennent des vecteurs d'exploitation redoutables. Par ailleurs, Gloria Mark, psychologue à l'Université de Californie à Irvine, alerte sur un autre type de dommage collatéral : ses recherches montrent que les technologies numériques ont déjà considérablement réduit les capacités d'attention, générant davantage de stress et affaiblissant les performances. Elle craint que des outils comme ChatGPT ou Claude n'accélèrent ce glissement. « Vous déléguez votre travail cognitif à l'IA, et ce n'est pas bon pour nous », résume-t-elle, évoquant une érosion de la pensée critique et de l'intelligence émotionnelle. La bonne nouvelle : elle estime que cette trajectoire peut encore être corrigée. Ces événements s'inscrivent dans un contexte de montée en puissance des enjeux de gouvernance de l'IA à l'échelle mondiale. Aux États-Unis, des responsables gouvernementaux ont discuté de la possibilité pour l'État de prendre des participations financières dans des entreprises d'IA, une idée que Sam Altman aurait lui-même soumise à la Maison-Blanche l'année dernière. La Maison-Blanche envisage également d'intégrer des IA médicales pour diagnostiquer des maladies et prescrire des traitements, malgré l'absence de preuves solides sur leur efficacité clinique réelle. Le Canada a de son côté lancé sa stratégie nationale IA, avec plus de 2 milliards de dollars de financement et un objectif de 250 000 emplois créés. En Corée du Sud, le ministre du Travail pousse les entreprises technologiques à partager les profits générés par l'IA avec leurs salariés et fournisseurs, un débat qui avait déjà failli déclencher une grève massive chez Samsung. L'IA reconfigure simultanément les infrastructures numériques, les économies et les cerveaux humains, souvent plus vite que les institutions ne peuvent y répondre.

💬 On s'inquiétait de Mythos, le modèle trop fort en hacking pour être publié, et pendant ce temps quelqu'un a juste demandé poliment à l'agent Meta de lier des comptes Instagram à ses propres adresses mail. C'est ça le vrai risque des agents IA : pas les scénarios de science-fiction, mais l'absence de garde-fous sur des actions basiques que n'importe quel humain refuserait. Reste à voir combien d'entreprises vont continuer à déployer des agents sans politique d'autorisation sérieuse.

The Download : l'accord militaire d'OpenAI avec les États-Unis et le procès de Grok pour CSAM

OpenAI franchit une nouvelle ligne rouge : l'entreprise a officiellement accepté de donner au Pentagone un accès à ses technologies d'intelligence artificielle. Selon des informations révélées par des responsables de la défense américaine, cette collaboration pourrait aller jusqu'à assister à la sélection de cibles de frappe militaires, une application qui suscite une vive controverse en interne comme à l'extérieur. Le partenariat soulève des questions fondamentales sur les limites éthiques de l'IA générative dans le domaine militaire. Si l'IA a longtemps servi à l'analyse stratégique, c'est la première fois que des systèmes génératifs sont testés pour éclairer des décisions opérationnelles sur le terrain. Le théâtre des opérations : l'Iran. L'alliance d'OpenAI avec Anduril, fabricant de drones et de technologies anti-drones, précise encore davantage la trajectoire de cette militarisation de l'IA. Dans un autre registre, xAI, la société d'IA d'Elon Musk, est visée par une action en justice : des victimes accusent son modèle Grok d'avoir été conçu pour générer du matériel pédopornographique à partir de photos de personnes réelles. Pendant ce temps, Nvidia affiche un optimisme assumé en prédisant "au moins" 1 000 milliards de dollars de revenus issus des puces IA d'ici fin 2027, une projection que Wall Street n'a pourtant pas accueillie avec enthousiasme. Son PDG Jensen Huang assure que "l'inflexion de l'inférence est arrivée", signalant un point de bascule où l'usage de l'IA accélère plus vite que son développement. Anthropic recrute de son côté un expert en armement pour prévenir les "utilisations catastrophiques" de ses modèles, profil recherché : expérience en armes chimiques et/ou explosifs. En parallèle, des experts en bien-être d'OpenAI révèlent s'être opposés au lancement du "mode adulte" de ChatGPT, l'un d'eux alertant sur le risque de créer un "coach au suicide sexy" pour les utilisateurs vulnérables.

Émulation d'adversaires pour le red teaming de l'IA générative

L'expert en sécurité Kennedy Torkura a présenté une méthodologie de red teaming appliquée aux systèmes d'intelligence artificielle générative, centrée sur la protection des grands modèles de langage (LLM) et des bases de connaissances utilisées en entreprise. Son intervention détaille des techniques concrètes pour identifier les failles exploitables par des attaquants, avec un focus particulier sur deux menaces émergentes : l'empoisonnement de données, qui consiste à corrompre les jeux de données ou les sources utilisées par les modèles pour biaiser leurs réponses, et le LLMjacking, une pratique où des acteurs malveillants détournent l'accès à des modèles d'IA hébergés sur le cloud, notamment sur l'infrastructure Amazon Web Services (AWS), pour en exploiter les ressources ou les capacités à des fins non autorisées. Torkura s'adresse en priorité aux responsables techniques et architectes chargés de sécuriser des applications d'IA déjà déployées en production. L'enjeu dépasse la simple théorie : à mesure que les entreprises intègrent des LLM et des bases de connaissances dans leurs produits, la surface d'attaque s'élargit considérablement, et les équipes de sécurité cloud traditionnelles manquent souvent d'outils adaptés à ces nouveaux vecteurs de menace. En reliant les pratiques classiques de sécurité cloud aux spécificités des systèmes génératifs, cette approche permet de détecter en amont les vulnérabilités plutôt que de réagir après un incident, un enjeu critique pour toute organisation exposant des modèles d'IA à des utilisateurs externes. Pour structurer cette démarche, Torkura s'appuie sur le référentiel MITRE ATLAS, une extension du cadre MITRE ATT&CK conçue spécifiquement pour cartographier les tactiques et techniques d'attaque contre les systèmes d'apprentissage automatique. L'émulation d'adversaires, technique consistant à simuler des attaques réelles pour tester la résilience des défenses, s'impose ainsi comme un pilier méthodologique pour anticiper les risques liés à l'essor rapide de l'IA générative dans les environnements cloud professionnels.

Google et le Pentagone concluent un accord pour un usage de l'IA sans restriction légale

Google a conclu un accord classifié avec le département américain de la Défense (DoD) autorisant ce dernier à utiliser ses modèles d'intelligence artificielle pour "tout usage gouvernemental légal", selon un rapport de The Information publié lundi. La révélation intervient moins de vingt-quatre heures après qu'une partie des employés de Google a adressé une pétition au PDG Sundar Pichai, exigeant qu'il bloque l'accès du Pentagone à ses technologies, par crainte que celles-ci soient employées à des fins "inhumaines ou extrêmement préjudiciables". Cet accord positionne Google aux côtés d'OpenAI et xAI, qui ont eux aussi signé des contrats classifiés avec le gouvernement américain. La décision illustre la tension croissante au sein des grandes entreprises tech entre impératifs commerciaux et éthique de déploiement : le DoD représente un client stratégique de premier plan, mais ses usages potentiels des systèmes d'IA restent opaques pour le grand public comme pour les salariés de ces entreprises. Le contexte récent éclaire la portée de ce choix. Anthropic a été récemment inscrit sur liste noire par le Pentagone après avoir refusé de supprimer ses garde-fous de sécurité sur demande du DoD. Google, en acceptant un accès étendu et sans restrictions explicites, prend le chemin inverse. La question des applications militaires de l'IA, qu'il s'agisse de ciblage, de surveillance ou d'automatisation de décisions, s'impose désormais comme un enjeu central pour l'ensemble du secteur.