SécuritéMIT Technology Review12sem· 1 min de lecture

The Download : l'accord militaire d'OpenAI avec les États-Unis et le procès de Grok pour CSAM

OpenAI franchit une nouvelle ligne rouge : l'entreprise a officiellement accepté de donner au Pentagone un accès à ses technologies d'intelligence artificielle. Selon des informations révélées par des responsables de la défense américaine, cette collaboration pourrait aller jusqu'à assister à la sélection de cibles de frappe militaires — une application qui suscite une vive controverse en interne comme à l'extérieur.

Le partenariat soulève des questions fondamentales sur les limites éthiques de l'IA générative dans le domaine militaire. Si l'IA a longtemps servi à l'analyse stratégique, c'est la première fois que des systèmes génératifs sont testés pour éclairer des décisions opérationnelles sur le terrain. Le théâtre des opérations : l'Iran. L'alliance d'OpenAI avec Anduril — fabricant de drones et de technologies anti-drones — précise encore davantage la trajectoire de cette militarisation de l'IA.

Dans un autre registre, xAI, la société d'IA d'Elon Musk, est visée par une action en justice : des victimes accusent son modèle Grok d'avoir été conçu pour générer du matériel pédopornographique à partir de photos de personnes réelles. Pendant ce temps, Nvidia affiche un optimisme assumé en prédisant "au moins" 1 000 milliards de dollars de revenus issus des puces IA d'ici fin 2027 — une projection que Wall Street n'a pourtant pas accueillie avec enthousiasme. Son PDG Jensen Huang assure que "l'inflexion de l'inférence est arrivée", signalant un point de bascule où l'usage de l'IA accélère plus vite que son développement.

Anthropic recrute de son côté un expert en armement pour prévenir les "utilisations catastrophiques" de ses modèles — profil recherché : expérience en armes chimiques et/ou explosifs. En parallèle, des experts en bien-être d'OpenAI révèlent s'être opposés au lancement du "mode adulte" de ChatGPT, l'un d'eux alertant sur le risque de créer un "coach au suicide sexy" pour les utilisateurs vulnérables.

Impact France/UE

Ces développements renforcent la pression sur l'UE pour préciser, dans le cadre de l'AI Act, l'encadrement des usages militaires de l'IA générative et la responsabilité des fournisseurs de modèles face aux contenus illicites.

Dans nos dossiers

OpenAI Anthropic NVIDIA xAI / Grok

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

1MarkTechPost

OpenAI élargit l'accès à GPT-5.4-Cyber, un modèle affiné pour les professionnels de la cybersécurité

OpenAI a annoncé l'extension de son programme Trusted Access for Cyber (TAC) à des milliers de professionnels de la sécurité vérifiés individuellement, ainsi qu'à des centaines d'équipes chargées de défendre des infrastructures logicielles critiques. Au cœur de cette expansion figure GPT-5.4-Cyber, un modèle dérivé de GPT-5.4 spécifiquement ajusté pour les usages défensifs en cybersécurité. Contrairement au modèle standard, GPT-5.4-Cyber adopte ce qu'OpenAI qualifie d'approche "cyber-permissive" : son seuil de refus est délibérément abaissé pour les requêtes à vocation défensive légitime. Parmi les capacités débloquées figure notamment l'ingénierie inverse de binaires sans accès au code source, une fonctionnalité majeure pour analyser des firmwares, des bibliothèques tierces ou des échantillons de malwares compilés. Les utilisateurs accèdent au programme via chatgpt.com/cyber pour une vérification individuelle, ou par l'intermédiaire d'un représentant OpenAI pour les équipes entreprise. Ce changement s'attaque à un problème concret que connaissent bien les chercheurs et ingénieurs en sécurité : les modèles généralistes refusent fréquemment d'analyser du code malveillant ou d'expliquer des techniques d'exploitation, même dans un cadre manifestement défensif. Cette friction ralentit le travail des équipes de sécurité offensives et défensives légitimes, au profit, indirectement, des attaquants qui eux n'attendent pas de validation. En réduisant ces blocages pour des utilisateurs vérifiés, OpenAI cherche à rééquilibrer l'avantage technologique en faveur des défenseurs. Le modèle conserve toutefois des garde-fous stricts : l'exfiltration de données, la création ou le déploiement de malwares, et les tests non autorisés restent explicitement interdits. L'accès en mode zéro-rétention de données est également limité, OpenAI arguant d'une visibilité réduite sur l'environnement et les intentions de l'utilisateur dans cette configuration. La cybersécurité a toujours souffert de ce qu'on appelle le problème du double usage : les mêmes connaissances techniques servent aussi bien à défendre des systèmes qu'à les attaquer. Pour les systèmes d'IA, cette tension est particulièrement aiguë, car il est difficile de distinguer automatiquement une intention défensive d'une intention malveillante. OpenAI propose ici une réponse structurelle inédite : un cadre d'accès à plusieurs niveaux fondé sur la vérification d'identité, plutôt que des restrictions uniformes appliquées à tous. Cette approche s'inscrit dans une tendance plus large du secteur à différencier les accès selon le profil et les intentions déclarés de l'utilisateur. Si le modèle se généralise, d'autres fournisseurs de modèles comme Anthropic ou Google DeepMind pourraient être amenés à développer des dispositifs similaires pour ne pas laisser OpenAI s'imposer comme la référence des outils d'IA pour la sécurité professionnelle.

UELes professionnels de la cybersécurité européens peuvent candidater au programme TAC d'OpenAI pour accéder à des capacités d'analyse défensive avancées, notamment l'ingénierie inverse de binaires et l'analyse de malwares compilés.

SécuritéOpinion

1 source

2MIT Technology Review

The Download : les nouveaux projets d'IA du Pentagone et les réacteurs nucléaires de nouvelle génération

Le Pentagone prépare des environnements sécurisés pour permettre à des entreprises d'IA comme Anthropic d'entraîner leurs modèles sur des données classifiées, notamment des rapports de surveillance et évaluations de champ de bataille — une évolution majeure qui soulève de nouveaux risques de sécurité. Par ailleurs, la prochaine vague de réacteurs nucléaires de nouvelle génération pose des défis inédits en matière de gestion des déchets radioactifs, avec une grande diversité de designs impliquant autant de types de déchets potentiels. Enfin, des sous-marins narco sans équipage, équipés de terminaux Starlink et de pilotes automatiques nautiques, pourraient transformer le trafic de cocaïne colombien en permettant d'acheminer de plus grandes quantités sur de plus longues distances sans risque de capture pour les passeurs.

SécuritéActu

1 source

3The Verge

Google et le Pentagone concluent un accord pour un usage de l'IA sans restriction légale

Google a conclu un accord classifié avec le département américain de la Défense (DoD) autorisant ce dernier à utiliser ses modèles d'intelligence artificielle pour "tout usage gouvernemental légal", selon un rapport de The Information publié lundi. La révélation intervient moins de vingt-quatre heures après qu'une partie des employés de Google a adressé une pétition au PDG Sundar Pichai, exigeant qu'il bloque l'accès du Pentagone à ses technologies, par crainte que celles-ci soient employées à des fins "inhumaines ou extrêmement préjudiciables". Cet accord positionne Google aux côtés d'OpenAI et xAI, qui ont eux aussi signé des contrats classifiés avec le gouvernement américain. La décision illustre la tension croissante au sein des grandes entreprises tech entre impératifs commerciaux et éthique de déploiement : le DoD représente un client stratégique de premier plan, mais ses usages potentiels des systèmes d'IA restent opaques pour le grand public comme pour les salariés de ces entreprises. Le contexte récent éclaire la portée de ce choix. Anthropic a été récemment inscrit sur liste noire par le Pentagone après avoir refusé de supprimer ses garde-fous de sécurité sur demande du DoD. Google, en acceptant un accès étendu et sans restrictions explicites, prend le chemin inverse. La question des applications militaires de l'IA, qu'il s'agisse de ciblage, de surveillance ou d'automatisation de décisions, s'impose désormais comme un enjeu central pour l'ensemble du secteur.

UEL'accord pousse les régulateurs européens à préciser dans l'AI Act les conditions d'usage militaire de l'IA, mettant en lumière un vide réglementaire que les institutions de l'UE devront combler.

SécuritéOpinion

1 source

4MIT Technology Review

The Download : un prix Nobel sur l'IA, et pourquoi il faut tout réparer

Daron Acemoglu, lauréat du prix Nobel d'économie 2024, maintient une position prudente face à l'enthousiasme ambiant autour de l'intelligence artificielle. Quelques mois avant de recevoir son prix, il avait publié une étude affirmant que l'IA n'apporterait qu'un gain modeste à la productivité américaine et ne remplacerait pas massivement le travail humain. Deux ans plus tard, les données lui donnent toujours raison malgré les avancées technologiques indéniables de la période. Dans le même temps, Google a détecté et bloqué ce qui serait le premier exploit de type zero-day entièrement conçu par une IA, qualifié de tentative d'exploitation à grande échelle. Parallèlement, OpenAI a lancé Codex Daybreak, un outil de cybersécurité capable de détecter et corriger des vulnérabilités logicielles avant que des attaquants ne les découvrent, concurrençant directement Claude Mythos d'Anthropic, sorti un mois plus tôt. Enfin, Ilya Sutskever, cofondateur d'OpenAI, a témoigné cette semaine dans le procès Altman contre Musk, affirmant avoir passé un an à collecter des preuves d'un "schéma de mensonges" de la part de Sam Altman, tout en apportant parallèlement des éléments à la défense d'OpenAI. Ces développements dessinent deux tendances majeures pour le secteur. D'un côté, le débat sur l'impact économique réel de l'IA reste ouvert : là où les entreprises technologiques promettent une révolution de la productivité, les économistes comme Acemoglu rappellent que les données observées ne confirment pas encore ces prédictions. De l'autre, la militarisation de l'IA dans le domaine cyber prend une ampleur industrielle : des outils permettent désormais de découvrir des failles inconnues de façon automatisée, abaissant drastiquement le seuil d'entrée pour des attaques sophistiquées. Le lancement de produits concurrents chez OpenAI et Anthropic pour sécuriser les logiciels signale que la cybersécurité devient un marché stratégique pour les grands laboratoires d'IA. Le contexte géopolitique s'intensifie également, avec Donald Trump qui se rend en Chine cette semaine accompagné d'Elon Musk et de Tim Cook pour promouvoir la tech américaine, alors même que les investisseurs appellent les deux gouvernements à ne pas freiner l'essor de l'IA. Le procès entre Sam Altman et Elon Musk, quant à lui, lève le voile sur les tensions internes qui ont secoué OpenAI lors de l'éviction puis du retour d'Altman en 2023, avec Satya Nadella qualifiant les tentatives de destitution d'"amateurisme". Ces frictions révèlent que derrière les annonces spectaculaires du secteur se jouent des batailles de pouvoir dont les conséquences pourraient redéfinir la gouvernance des entreprises les plus influentes de l'IA mondiale.

UEL'émergence d'outils IA capables de découvrir et d'exploiter des failles zero-day de façon entièrement automatisée représente une menace directe pour les entreprises et infrastructures critiques européennes, qui devront accélérer leurs stratégies de réponse en cybersécurité.

SécuritéActu

1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, rédigé par un humain · désinscription en un clic