RégulationThe Verge AI · 25 mars 2026, 16:05· 1 min de lecture

Les démocrates du Sénat veulent inscrire dans la loi les lignes rouges d'Anthropic sur les armes autonomes et la surveillance de masse

Le conflit entre Anthropic et l'administration Trump dépasse désormais les prétoires pour atteindre le Capitole. Deux sénateurs démocrates ont déposé des projets de loi visant à encadrer légalement l'usage militaire de l'intelligence artificielle, directement inspirés des principes défendus par la startup. Une escalade politique majeure qui met en lumière les tensions profondes entre l'industrie de l'IA et le Pentagone.

Ce bras de fer prend racine dans une décision d'Anthropic de poser des limites strictes sur la façon dont ses modèles peuvent être utilisés par l'armée américaine, notamment en matière d'armes autonomes et de surveillance. En représailles, l'administration Trump a inscrit la société sur une liste noire comme « risque pour la chaîne d'approvisionnement », une désignation aux conséquences commerciales et réglementaires potentiellement lourdes. Anthropic a répondu en portant l'affaire en justice, invoquant une violation de ses droits constitutionnels.

Le sénateur Adam Schiff (D-Californie) travaille sur un texte visant à « codifier » les lignes rouges d'Anthropic, en imposant légalement que les décisions impliquant la vie ou la mort restent sous contrôle humain. De son côté, la sénatrice Elissa Slotkin (D-Michigan) a déjà introduit un projet de loi distinct pour restreindre la capacité du département de la Défense à utiliser l'IA à des fins de surveillance de masse des citoyens américains.

Ces initiatives législatives, portées par l'opposition, ont peu de chances d'aboutir dans le contexte politique actuel, mais elles signalent une fracture durable sur la gouvernance militaire de l'IA. L'affaire Anthropic pourrait ainsi devenir un cas d'école qui force le Congrès, tôt ou tard, à définir des garde-fous clairs pour l'usage souverain de ces technologies.

Impact France/UE

Ces initiatives législatives américaines sur le contrôle humain des systèmes d'IA létaux pourraient indirectement influencer les discussions européennes sur l'encadrement des armes autonomes, un sujet encore peu traité par l'AI Act.

Dans nos dossiers

Anthropic Souveraineté IA

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

1TechCrunch AI

Pour le Pentagone, les « lignes rouges » d'Anthropic représentent un « risque inacceptable pour la sécurité nationale »

Le Pentagone a officiellement qualifié Anthropic de risque pour la chaîne d'approvisionnement, invoquant des préoccupations liées à la sécurité nationale. En cause : les « lignes rouges » que l'entreprise s'est fixées, des limites éthiques internes qui pourraient l'amener à désactiver ou restreindre ses technologies dans certains contextes militaires. Le Département de la Défense estime que la possibilité qu'Anthropic puisse « tenter de désactiver sa technologie » au cours d'« opérations de guerre » constitue un risque inacceptable pour la sécurité nationale. Cette position illustre une tension croissante entre les engagements éthiques des laboratoires d'IA et les exigences opérationnelles des forces armées américaines, qui cherchent à intégrer des systèmes d'IA dans leurs chaînes de commandement et de décision. Anthropic, fondée par d'anciens membres d'OpenAI et connue pour son approche dite de « sécurité de l'IA » (AI safety), a établi des politiques d'usage restreignant certaines applications létales ou autonomes de ses modèles. Le Pentagone interprète ces restrictions non pas comme une garantie de fiabilité, mais comme un vecteur d'instabilité opérationnelle, le risque étant qu'un système critique puisse être coupé unilatéralement par son fournisseur en pleine opération militaire. Cette classification pourrait avoir des conséquences significatives sur la capacité d'Anthropic à décrocher des contrats fédéraux, à un moment où OpenAI, Google et Microsoft renforcent activement leur présence dans le secteur de la défense. Elle pose plus largement la question de savoir si les laboratoires d'IA fondés sur des principes éthiques stricts peuvent coexister avec les impératifs souverains des États.

UECe conflit entre éthique d'entreprise et exigences militaires américaines alimente le débat européen sur la souveraineté IA et les conditions d'usage des LLMs dans les secteurs sensibles.

RégulationActu

1 source

2AI News

La Banque d'Angleterre revoit ses règles sur l'IA autonome dans la finance

La Banque d'Angleterre examine si son cadre réglementaire actuel peut encadrer l'usage de l'intelligence artificielle agentique dans la finance, notamment dans les paiements, le trading, la cybersécurité et les opérations internes. La vice-gouverneure Sarah Breeden, s'exprimant lors du Forum de la Banque centrale européenne au Portugal, a indiqué que les réglementations existantes n'ont pas été conçues pour des agents IA capables d'agir sans instruction humaine directe. Selon elle, exiger une supervision humaine sur chaque action de ces systèmes n'est pas réaliste en pratique. Ces agents diffèrent des outils de trading automatisés traditionnels car ils peuvent poursuivre des objectifs et prendre des décisions de façon quasi autonome. Un rapport 2026 du Cambridge Centre for Alternative Finance révèle que 81% des entreprises de services financiers interrogées adoptent l'IA à un certain niveau, et 52% des répondants du secteur intègrent déjà activement l'IA agentique, principalement pour l'automatisation des processus, la visualisation de données, l'ingénierie logicielle et la gestion des connaissances. L'usage dans le trading reste pour l'instant concentré sur des tâches opérationnelles à faible risque. Ce virage réglementaire compte car l'IA agentique change fondamentalement la nature du risque financier. Breeden a qualifié la cyber-résilience de préoccupation prioritaire pour la stabilité financière, évoquant un "changement d'échelle" dans les capacités cyber liées à l'IA : ces systèmes peuvent enchaîner des séquences d'actions à grande échelle et grande vitesse, ce qui renforce autant les défenses des équipes de sécurité que les capacités d'attaque des acteurs malveillants. Elle a souligné que les modèles open source ne sont retardés que de quatre à huit mois par rapport aux modèles fermés les plus avancés, limitant l'efficacité des restrictions de diffusion. Le FMI partage cette inquiétude : les attaques permises par l'IA peuvent se propager rapidement à travers des infrastructures numériques partagées, provoquant des perturbations simultanées chez plusieurs institutions à la fois, un scénario que les superviseurs doivent désormais anticiper plutôt que traiter au cas par cas. Cette réflexion s'inscrit dans un contexte où les autorités cherchent à adapter leurs outils de supervision face à une adoption rapide et déjà généralisée de l'IA agentique. La Banque d'Angleterre envisage un renforcement des exigences de reprise d'activité pour les systèmes centraux, avec plusieurs pistes à l'étude : permettre à une banque de reprendre les fonctions essentielles d'une autre en cas de défaillance, mettre en place des dispositifs assurant la continuité des services critiques si les systèmes centraux d'une entreprise sont compromis, ou encore doter les acteurs clés de systèmes de secours séparés capables de reconstruire rapidement une infrastructure compromise. Tobias Adrian, conseiller financier et directeur du département des marchés de capitaux du FMI, a également averti des risques sérieux que pose l'IA pour la cyber-résilience, selon Central Banking. Ces échanges illustrent une prise de conscience croissante parmi les régulateurs financiers : la question n'est plus de savoir si l'IA agentique doit être encadrée, mais comment le faire sans entraver son adoption déjà bien engagée dans le secteur.

UELes régulateurs européens suivent de près ce débat britannique sur l'encadrement de l'IA agentique dans la finance, qui pourrait influencer les futures orientations de supervision au sein de l'UE.

RégulationReglementation

1 source

3The Information AI

Le Pentagone fait appel de la décision suspendant la mise sur liste noire d'Anthropic

Le Pentagone a fait appel jeudi d'une décision de justice qui suspendait provisoirement sa désignation d'Anthropic comme risque pour la chaîne d'approvisionnement. La juge fédérale Rita Lin avait accordé la semaine précédente une injonction préliminaire en faveur d'Anthropic, assortie d'un délai administratif de sept jours laissant au Département de la Défense le temps de porter l'affaire devant une juridiction supérieure. Cet appel était largement anticipé. L'enjeu est considérable pour Anthropic : une désignation officielle comme risque pour la chaîne d'approvisionnement par le Pentagone pourrait exclure la startup de nombreux contrats fédéraux et freiner ses ambitions sur le marché gouvernemental américain, un secteur en pleine expansion pour les fournisseurs d'IA. Cette classification affecterait également la réputation commerciale de l'entreprise auprès d'autres clients institutionnels. Cette affaire s'inscrit dans un contexte de tensions croissantes entre l'administration américaine et certains acteurs de l'IA, dans un moment où Washington cherche à encadrer ses dépendances technologiques stratégiques. Anthropic, fondé en 2021 par d'anciens cadres d'OpenAI et valorisé à plusieurs dizaines de milliards de dollars, se retrouve ainsi au coeur d'un bras de fer juridique et politique qui illustre les enjeux géopolitiques entourant désormais le développement de l'intelligence artificielle.

RégulationReglementation

1 source

4AI News

Les régulateurs signalent des lacunes dans le contrôle des agents autonomes

L'autorité australienne de régulation prudentielle (APRA) a tiré la sonnette d'alarme fin 2025 après un audit ciblé des grandes institutions financières du pays : banques et fonds de retraite adoptent massivement l'intelligence artificielle, mais leur gouvernance des risques associés reste insuffisante. L'examen, conduit auprès d'un échantillon représentatif d'entités régulées, a révélé que l'IA est désormais présente dans la totalité des organisations auditées, notamment pour l'ingénierie logicielle, le traitement des demandes de prêts, le tri des sinistres, la détection de fraudes et les interactions clients. Pourtant, les conseils d'administration se reposent encore trop souvent sur les présentations des fournisseurs plutôt que sur une analyse rigoureuse des risques, notamment ceux liés aux comportements imprévisibles des modèles ou aux conséquences d'une défaillance sur des opérations critiques. L'APRA a également identifié des lacunes concrètes : absence d'inventaires complets des outils d'IA déployés, manque de responsables désignés pour chaque instance, déficiences dans la surveillance des comportements des modèles et dans les procédures de mise hors service. Ces manquements ont des implications directes pour la stabilité du secteur financier australien, qui gère plusieurs milliers de milliards de dollars d'actifs. Lorsque les institutions traitent le risque IA comme un simple risque technologique classique, elles passent à côté des spécificités des modèles : biais, dérive comportementale, opacité des décisions. L'APRA exige désormais que la stratégie IA de chaque établissement soit alignée sur son appétit au risque, assortie de procédures claires en cas d'erreur et d'une supervision humaine obligatoire pour les décisions à fort enjeu. Sur le plan cybersécuritaire, l'adoption de l'IA élargit la surface d'attaque, notamment via l'injection de prompts et les intégrations non sécurisées. Les contrôles d'identité et d'accès, pensés pour des utilisateurs humains, n'ont pas été adaptés aux agents autonomes, et la dépendance à un fournisseur unique pour de nombreuses instances constitue un risque systémique supplémentaire, peu d'établissements étant capables de présenter un plan de sortie crédible. Cette mise en garde australienne s'inscrit dans une tendance mondiale. L'alliance FIDO, standard incontournable de l'authentification en ligne, vient de créer un groupe de travail spécialisé sur l'authentification agentique, en réponse aux modèles existants qui ont été conçus pour des humains et non pour des logiciels agissant en leur nom. Google (Agent Payments Protocol) et Mastercard (Verifiable Intent) ont déjà soumis leurs solutions à l'examen du groupe. Parallèlement, le Centre for Internet Security, financé en grande partie par le département américain de la Sécurité intérieure, vient de publier des guides de sécurité spécifiques aux LLM, aux agents IA et aux environnements Model Context Protocol, couvrant la gestion des accès non humains et les risques liés aux données sensibles. La gouvernance des agents autonomes devient ainsi l'un des chantiers réglementaires prioritaires de 2026, à mesure que leur déploiement s'accélère dans des secteurs à risques systémiques.

UELes institutions financières européennes font face aux mêmes lacunes de gouvernance des agents IA, un enjeu que l'AI Act et les régulateurs sectoriels (BCE, EBA) devront préciser dans leurs exigences de conformité.

RégulationReglementation

1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic