Aller au contenu principal
Les régulateurs signalent des lacunes dans le contrôle des agents autonomes
RégulationAI News2sem

Les régulateurs signalent des lacunes dans le contrôle des agents autonomes

Résumé IASource uniqueImpact UE
Source originale ↗·

L'autorité australienne de régulation prudentielle (APRA) a tiré la sonnette d'alarme fin 2025 après un audit ciblé des grandes institutions financières du pays : banques et fonds de retraite adoptent massivement l'intelligence artificielle, mais leur gouvernance des risques associés reste insuffisante. L'examen, conduit auprès d'un échantillon représentatif d'entités régulées, a révélé que l'IA est désormais présente dans la totalité des organisations auditées, notamment pour l'ingénierie logicielle, le traitement des demandes de prêts, le tri des sinistres, la détection de fraudes et les interactions clients. Pourtant, les conseils d'administration se reposent encore trop souvent sur les présentations des fournisseurs plutôt que sur une analyse rigoureuse des risques, notamment ceux liés aux comportements imprévisibles des modèles ou aux conséquences d'une défaillance sur des opérations critiques. L'APRA a également identifié des lacunes concrètes : absence d'inventaires complets des outils d'IA déployés, manque de responsables désignés pour chaque instance, déficiences dans la surveillance des comportements des modèles et dans les procédures de mise hors service.

Ces manquements ont des implications directes pour la stabilité du secteur financier australien, qui gère plusieurs milliers de milliards de dollars d'actifs. Lorsque les institutions traitent le risque IA comme un simple risque technologique classique, elles passent à côté des spécificités des modèles : biais, dérive comportementale, opacité des décisions. L'APRA exige désormais que la stratégie IA de chaque établissement soit alignée sur son appétit au risque, assortie de procédures claires en cas d'erreur et d'une supervision humaine obligatoire pour les décisions à fort enjeu. Sur le plan cybersécuritaire, l'adoption de l'IA élargit la surface d'attaque, notamment via l'injection de prompts et les intégrations non sécurisées. Les contrôles d'identité et d'accès, pensés pour des utilisateurs humains, n'ont pas été adaptés aux agents autonomes, et la dépendance à un fournisseur unique pour de nombreuses instances constitue un risque systémique supplémentaire, peu d'établissements étant capables de présenter un plan de sortie crédible.

Cette mise en garde australienne s'inscrit dans une tendance mondiale. L'alliance FIDO, standard incontournable de l'authentification en ligne, vient de créer un groupe de travail spécialisé sur l'authentification agentique, en réponse aux modèles existants qui ont été conçus pour des humains et non pour des logiciels agissant en leur nom. Google (Agent Payments Protocol) et Mastercard (Verifiable Intent) ont déjà soumis leurs solutions à l'examen du groupe. Parallèlement, le Centre for Internet Security, financé en grande partie par le département américain de la Sécurité intérieure, vient de publier des guides de sécurité spécifiques aux LLM, aux agents IA et aux environnements Model Context Protocol, couvrant la gestion des accès non humains et les risques liés aux données sensibles. La gouvernance des agents autonomes devient ainsi l'un des chantiers réglementaires prioritaires de 2026, à mesure que leur déploiement s'accélère dans des secteurs à risques systémiques.

Impact France/UE

Les institutions financières européennes font face aux mêmes lacunes de gouvernance des agents IA, un enjeu que l'AI Act et les régulateurs sectoriels (BCE, EBA) devront préciser dans leurs exigences de conformité.

Dans nos dossiers

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

☕️ Les promesses non tenues autour de Siri vont coûter cher à Apple
1Next INpact 

☕️ Les promesses non tenues autour de Siri vont coûter cher à Apple

Apple a proposé un règlement amiable de 250 millions de dollars pour mettre fin à un recours collectif déposé en Californie, après que des consommateurs américains ont accusé l'entreprise de publicité mensongère autour de son assistant Siri. Le litige porte sur des spots télévisés diffusés à l'automne 2024, au moment du lancement de la gamme iPhone 16, dans lesquels l'actrice Bella Ramsey, connue pour ses rôles dans Game of Thrones et The Last of Us, interagissait avec un Siri capable de croiser des informations issues de plusieurs applications simultanément et d'exploiter le contexte de l'utilisateur pour répondre à des questions complexes. Ces fonctionnalités, présentées comme imminentes lors de la WWDC de juin 2024, n'ont jamais vu le jour. Apple a depuis discrètement retiré l'une de ces publicités, mais les archives d'internet en ont conservé la trace. Le chèque de 250 millions, qui ne comprend aucune reconnaissance de faute de la part d'Apple, doit encore être validé par le juge californien en charge du dossier. Si l'accord est approuvé, il constituera l'un des règlements judiciaires les plus importants de l'histoire d'Apple. Au-delà du montant, c'est l'ampleur du décalage entre la communication et la réalité qui frappe : les plaignants affirment qu'Apple a vendu des capacités d'IA « qui n'existaient pas à l'époque, qui n'existent toujours pas, et qui n'existeront pas dans les deux prochaines années ». Pour les consommateurs ayant acheté un iPhone 16 en partie motivés par ces promesses, la déception est concrète et mesurable. Pour l'industrie technologique plus largement, ce recours envoie un signal clair : les annonces de fonctionnalités IA non déployées peuvent désormais exposer les entreprises à une responsabilité juridique significative, à mesure que les régulateurs et les juridictions civiles s'emparent du sujet. Le retard de ce « Siri 2.0 » n'est pas un accident isolé, mais le symptôme d'une crise plus profonde au sein de la division intelligence artificielle d'Apple. L'entreprise, qui avait dévoilé Apple Intelligence avec une confiance affichée en juin 2024, a enchaîné les reports, faute de modèle suffisamment performant pour alimenter les nouvelles ambitions de l'assistant. Cette situation a déclenché une réorganisation interne et provoqué le départ de John Giannandrea, le principal responsable de l'IA chez Apple. Pour combler son retard, Cupertino a confirmé début janvier 2026 un accord avec Google pour intégrer les modèles Gemini à ses futures fonctionnalités d'IA. Le Siri personnalisé est désormais attendu avec iOS 27, mais la crédibilité d'Apple dans ce domaine reste entamée, dans un secteur où ses rivaux, Google, Microsoft, Amazon, ont déjà plusieurs longueurs d'avance.

UECe précédent judiciaire américain pourrait inciter les régulateurs européens à renforcer l'application de l'AI Act et du droit de la consommation contre les affirmations trompeuses sur les capacités des systèmes d'IA dans la publicité.

💬 Apple a vendu du rêve sur Siri, le rêve n'est jamais arrivé, et ça leur coûte 250 millions. Ce n'est pas le montant qui m'intéresse, c'est le signal : annoncer une feature IA inexistante en pub, c'est désormais un risque juridique réel. Et toute l'industrie fait ça, pas seulement Cupertino.

RégulationReglementation
1 source
Les démocrates du Sénat veulent inscrire dans la loi les lignes rouges d'Anthropic sur les armes autonomes et la surveillance de masse
2The Verge AI 

Les démocrates du Sénat veulent inscrire dans la loi les lignes rouges d'Anthropic sur les armes autonomes et la surveillance de masse

Deux sénateurs démocrates ont déposé des projets de loi pour encadrer légalement l'utilisation de l'IA par l'armée américaine. Adam Schiff (Californie) travaille sur un texte visant à inscrire dans la loi les "lignes rouges" d'Anthropic — notamment l'obligation de maintenir un contrôle humain sur les décisions de vie ou de mort. Elissa Slotkin (Michigan) a quant à elle introduit un projet de loi pour limiter la capacité du Pentagone à utiliser l'IA dans la surveillance de masse des citoyens américains. Ces initiatives font suite à un bras de fer entre Anthropic et l'administration Trump. La société avait imposé des restrictions sur l'usage militaire de ses modèles d'IA, ce qui lui a valu d'être placée sur liste noire par l'administration comme "risque pour la chaîne d'approvisionnement". Anthropic a répondu en portant plainte, arguant que cette décision viole ses droits constitutionnels. L'enjeu est de taille : si ces restrictions légales passent, elles pourraient contraindre l'ensemble du secteur de la défense à respecter des garde-fous similaires sur l'autonomie des systèmes létaux. Ce conflit illustre la tension croissante entre l'industrie de l'IA et le gouvernement fédéral autour des usages militaires de ces technologies, dans un contexte où l'administration Trump cherche à accélérer l'intégration de l'IA dans les opérations de défense et de renseignement.

UECes initiatives législatives américaines sur le contrôle humain des systèmes d'IA létaux pourraient indirectement influencer les discussions européennes sur l'encadrement des armes autonomes, un sujet encore peu traité par l'AI Act.

RégulationReglementation
1 source
Entrainement des IA et droit d’auteur : le Sénat inverse la charge de la preuve
3Next INpact 

Entrainement des IA et droit d’auteur : le Sénat inverse la charge de la preuve

Le Sénat français a adopté à l'unanimité, le 8 avril 2026, une proposition de loi instaurant une présomption d'utilisation des contenus culturels protégés par le droit d'auteur lors de l'entraînement des systèmes d'intelligence artificielle. Portée par la sénatrice Agnès Evren (LR), le texte dispose que toute œuvre protégée par un droit d'auteur ou un droit voisin est présumée avoir été utilisée par un fournisseur d'IA dès lors qu'un indice rend cette utilisation vraisemblable, par exemple, si un chatbot est capable de citer des extraits d'un livre. En cas de contentieux, ce ne sera donc plus au créateur de prouver que son œuvre a été moissonnée, mais à l'opérateur de l'IA de démontrer qu'il ne l'a pas utilisée de façon irrégulière. La proposition doit désormais passer en première lecture à l'Assemblée nationale. Ce renversement de la charge de la preuve modifie structurellement le rapport de force entre ayants droit et géants technologiques. Jusqu'ici, les créateurs, auteurs, éditeurs, musiciens, journalistes, se trouvaient dans l'impossibilité pratique de prouver que leurs œuvres avaient servi à entraîner des modèles dont les données d'entraînement restent opaques, souvent protégées par le secret des affaires. La nouvelle présomption leur offre un levier juridique concret : obliger les entreprises d'IA à justifier leurs pratiques devant un tribunal, ou, mieux, à négocier des accords de licence en amont pour éviter les procédures. Pour l'industrie de l'IA, cela implique une pression accrue vers la transparence sur les corpus d'entraînement, avec des conséquences potentielles sur les modèles entraînés massivement sur du contenu web non licencié. La proposition s'inscrit dans un mouvement plus large de régulation du rapport entre IA et propriété intellectuelle. Au niveau européen, le rapport de l'eurodéputé Alex Voss, voté le 11 mars 2026 au Parlement européen, recommandait déjà d'instaurer une présomption réfragable similaire, bien que limitée aux cas de non-respect des obligations de transparence prévues par l'AI Act. Le Sénat français va donc plus loin que Bruxelles, ce qui n'a pas manqué de susciter des réserves du côté du gouvernement : les ministres de la Culture et du Numérique ont mis en garde contre les risques de judiciarisation excessive et d'insécurité juridique, préférant privilégier la voie de la négociation. Ce débat illustre la tension persistante entre la nécessité de protéger la création culturelle et celle de ne pas entraver le développement d'une industrie dans laquelle la France et l'Europe cherchent à peser face aux acteurs américains et chinois.

UELes fournisseurs d'IA opérant en France devront désormais prouver qu'ils n'ont pas utilisé irrégulièrement des œuvres protégées, sous peine de contentieux, ce qui les pousse à négocier des licences ou à documenter leurs corpus d'entraînement pour le marché français et, potentiellement, européen.

💬 C'est le renversement qu'on attendait depuis que les premiers procès ont calé faute de preuves. Obliger les opérateurs à justifier leurs corpus plutôt que d'imposer aux créateurs de prouver le pillage, c'est enfin remettre la charge du côté qui a les moyens de l'assumer. Reste à voir ce que l'Assemblée en fait, et si le gouvernement ne vide pas le texte de sa substance sous prétexte de "compétitivité".

RégulationReglementation
1 source
Le retournement de la stratégie du Pentagone contre Anthropic
4MIT Technology Review 

Le retournement de la stratégie du Pentagone contre Anthropic

Un juge fédéral californien, Rita Lin, a temporairement bloqué jeudi dernier le Pentagone dans sa tentative de classer Anthropic comme « risque pour la chaîne d'approvisionnement » — une désignation qui aurait contraint toutes les agences gouvernementales à cesser d'utiliser ses outils d'IA. Dans une opinion de 43 pages, la juge a suspendu cette décision, interdit au Pentagone de l'appliquer et invalidé les promesses publiques faites par le secrétaire à la Défense Pete Hegseth et le président Donald Trump. Le gouvernement dispose de sept jours pour faire appel, et une deuxième procédure intentée par Anthropic reste en suspens. La start-up, cofondée par Dario Amodei, avait fourni son modèle Claude à des employés du Pentagone via Palantir pendant une grande partie de 2025, dans le cadre d'une politique d'utilisation gouvernementale spécifique interdisant notamment la « surveillance de masse des Américains » et la « guerre autonome létale », selon une déclaration sous serment du cofondateur Jared Kaplan. La rupture ne résulte pas d'un incident technique ou d'une faille de sécurité, mais d'un désaccord contractuel survenu lorsque le gouvernement a voulu traiter directement avec Anthropic — et d'une réponse politique qui a rapidement dérapé. Le 27 février, Trump a publié sur Truth Social un message dénonçant les « gauchistes fous » d'Anthropic et ordonné à toutes les agences fédérales de cesser d'utiliser ses produits. Hegseth a emboîté le pas en annonçant la désignation « supply chain risk ». Or la juge Lin a constaté que Hegseth n'avait pas suivi les procédures légales requises pour activer cette désignation : les lettres envoyées aux comités du Congrès affirmaient que des mesures moins radicales avaient été évaluées, sans fournir le moindre détail. Les avocats du gouvernement ont également dû admettre qu'ils n'avaient aucune preuve de l'existence d'un supposé « kill switch » qu'Anthropic aurait pu activer pour couper l'accès au gouvernement — argument central de la désignation. Pire, ils ont reconnu que l'ordre d'Hegseth interdisant à tout prestataire de « faire des affaires avec Anthropic » n'avait « absolument aucun effet juridique ». Cette affaire illustre une tension structurelle croissante entre l'administration Trump et les grandes entreprises d'IA qui refusent d'aligner leur politique sur les priorités idéologiques de Washington. Anthropic se trouve dans une position particulièrement délicate : elle est l'une des rares entreprises du secteur à avoir explicitement ancré la sécurité dans son identité commerciale, tout en cherchant à décrocher des contrats de défense. La juge a conclu que le gouvernement cherchait à « punir publiquement Anthropic pour son idéologie », ce qui constitue une atteinte au premier amendement. Le dossier n'est pas clos — l'appel possible et la seconde procédure maintiennent une incertitude réelle — mais la reculade judiciaire du Pentagone envoie un signal fort : utiliser des désignations de sécurité nationale comme levier de pression politique contre des entreprises privées reste juridiquement risqué, surtout quand les tweets précèdent les arguments juridiques.

💬 Le gouvernement n'avait aucune preuve du kill switch, n'a pas suivi les procédures légales, et a lancé la désignation quand même. Un tweet de Trump, une lettre vague au Congrès, des arguments que les avocats eux-mêmes ont reconnus sans effet juridique : c'est pas une stratégie, c'est de la panique. Anthropic voulait les contrats de défense sans plier sur sa politique d'usage, et là on voit ce que ça coûte vraiment.

RégulationReglementation
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour