Les régulateurs signalent des lacunes dans le contrôle des agents autonomes

L'autorité britannique de régulation met en garde contre une "course aux armements" pour suivre l'usage de l'IA dans les services financiers

Sheldon Mills, directeur exécutif à la Financial Conduct Authority (FCA), le régulateur financier britannique, a averti que les autorités sont engagées dans une véritable "course aux armements" pour suivre le rythme de l'adoption de l'intelligence artificielle dans les services financiers. Dans un entretien accordé au Financial Times, il a expliqué que des millions de personnes utilisent déjà des outils d'IA générative pour prendre leurs décisions financières personnelles. Mills a appelé les autorités britanniques à examiner si l'utilisation de ChatGPT, Claude, Gemini et d'autres grands modèles de langage devrait être soumise à une réglementation spécifique du secteur financier. Ces déclarations interviennent avant la publication, lundi, d'un rapport commandé par la FCA et rédigé par Mills lui-même sur l'impact de l'IA dans les services financiers. Cette alerte souligne un décalage croissant entre la vitesse d'adoption de l'IA par le grand public et la capacité des régulateurs à en encadrer les usages. Lorsque des consommateurs s'appuient sur des chatbots généralistes, non conçus pour le conseil financier, pour arbitrer leurs placements, leur épargne ou leurs crédits, les risques d'erreurs, de biais ou de recommandations inadaptées augmentent sans qu'aucun garde-fou réglementaire ne s'applique clairement. Pour la FCA, il devient urgent de clarifier le périmètre de sa supervision : ces outils échappent aujourd'hui largement aux règles conçues pour les conseillers financiers traditionnels, créant une zone grise potentiellement dangereuse pour les épargnants les moins avertis. Face à ce constat, Mills a plaidé pour que les régulateurs eux-mêmes adoptent l'IA afin de suivre la "vitesse, le rythme et l'ampleur" des transformations en cours, et pour renforcer leurs capacités à "surveiller, détecter et traiter les risques" associés. Cette position illustre un mouvement plus large chez les autorités financières occidentales, confrontées à la diffusion rapide de modèles comme ceux d'OpenAI, Anthropic ou Google au sein du grand public, bien au-delà des usages professionnels initialement anticipés. Le rapport à paraître devrait détailler les recommandations concrètes de la FCA pour encadrer cette nouvelle donne, dans un contexte où plusieurs régulateurs internationaux s'interrogent sur la nécessité d'adapter leurs cadres juridiques existants plutôt que d'attendre une refonte législative complète.

💬 Des millions de gens demandent déjà à ChatGPT s'ils doivent placer leur épargne en bourse, et aucun régulateur n'a de cadre pour ça. La FCA a raison de flipper : un conseiller financier a des obligations légales, un chatbot généraliste n'en a aucune, alors que les deux donnent des réponses avec le même aplomb. Ce que révèle cette alerte, c'est que la régulation financière s'est construite autour de l'idée qu'on demande conseil à un humain identifiable, et ce postulat vient de sauter sans que personne ne l'ait décidé.

Des systèmes d'IA autonomes mettent à l'épreuve la gouvernance dans les environnements physiques

Le 20 mai dernier, l'Infocomm Media Development Authority (IMDA) de Singapour a publié la version 1.5 de son cadre de gouvernance pour les IA agentiques, au moment où les systèmes d'intelligence artificielle autonomes quittent les environnements logiciels pour s'installer dans les entrepôts, les réseaux de livraison et les espaces publics. Ce cadre définit des lignes directrices pour les organisations qui déploient des agents capables de planifier, décider et agir en plusieurs étapes pour accomplir des objectifs. Parallèlement, lors d'un sommet IA à Singapour la semaine dernière, des acteurs comme Grab ont présenté leurs expériences concrètes : l'entreprise pilote actuellement des véhicules autonomes et des robots de livraison dans le quartier de Punggol, à Singapour. Son directeur technique, Suthen Thomas Paradatheth, a détaillé leur approche : simulation intensive, tests en circuit fermé puis ouvert, et déploiement progressif avant tout passage à l'échelle. L'enjeu central est que les défaillances d'une IA dans le monde physique ont des conséquences bien plus graves que dans le domaine numérique. Le Dr Ya-Qin Zhang, doyen fondateur de l'Institute for AI Industry Research de l'université Tsinghua, a résumé le problème : "Tout risque dans le domaine numérique sera amplifié dans le domaine physique, et le domaine physique aura des conséquences physiques." Les systèmes de transport, les drones, les réseaux logistiques et les infrastructures critiques deviennent des points de vulnérabilité à mesure que l'IA s'intègre plus profondément dans les opérations physiques. Grab a également souligné qu'une longue traîne de problèmes imprévus peut surgir après le déploiement, ce qui rend la surveillance continue non négociable. La plupart des cadres de gouvernance existants se sont concentrés sur les risques en ligne : biais algorithmiques, désinformation, contenus nuisibles. L'émergence des IA incarnées dans des environnements physiques imprévisibles force une refonte de cette approche. Le cadre de l'IMDA préconise des déploiements graduels, une surveillance continue et des tests post-déploiement, reconnaissant explicitement que tous les risques ne peuvent être anticipés avant la mise en service. Les discussions au sommet de Singapour ont pointé vers des modèles de gouvernance fondés sur la télémétrie et les tests itératifs, plutôt que sur une certification unique. L'IMDA recommande aussi d'appliquer le principe du moindre privilège pour les accès des agents, de définir des procédures opérationnelles standard et de prévoir des mécanismes permettant de mettre hors ligne un agent défaillant. La question de la répartition des responsabilités entre développeurs, intégrateurs et opérateurs reste un chantier ouvert dans ce secteur en rapide mutation.

Les démocrates du Sénat veulent inscrire dans la loi les lignes rouges d'Anthropic sur les armes autonomes et la surveillance de masse

Le conflit entre Anthropic et l'administration Trump dépasse désormais les prétoires pour atteindre le Capitole. Deux sénateurs démocrates ont déposé des projets de loi visant à encadrer légalement l'usage militaire de l'intelligence artificielle, directement inspirés des principes défendus par la startup. Une escalade politique majeure qui met en lumière les tensions profondes entre l'industrie de l'IA et le Pentagone. Ce bras de fer prend racine dans une décision d'Anthropic de poser des limites strictes sur la façon dont ses modèles peuvent être utilisés par l'armée américaine, notamment en matière d'armes autonomes et de surveillance. En représailles, l'administration Trump a inscrit la société sur une liste noire comme « risque pour la chaîne d'approvisionnement », une désignation aux conséquences commerciales et réglementaires potentiellement lourdes. Anthropic a répondu en portant l'affaire en justice, invoquant une violation de ses droits constitutionnels. Le sénateur Adam Schiff (D-Californie) travaille sur un texte visant à « codifier » les lignes rouges d'Anthropic, en imposant légalement que les décisions impliquant la vie ou la mort restent sous contrôle humain. De son côté, la sénatrice Elissa Slotkin (D-Michigan) a déjà introduit un projet de loi distinct pour restreindre la capacité du département de la Défense à utiliser l'IA à des fins de surveillance de masse des citoyens américains. Ces initiatives législatives, portées par l'opposition, ont peu de chances d'aboutir dans le contexte politique actuel, mais elles signalent une fracture durable sur la gouvernance militaire de l'IA. L'affaire Anthropic pourrait ainsi devenir un cas d'école qui force le Congrès, tôt ou tard, à définir des garde-fous clairs pour l'usage souverain de ces technologies.

La Banque d'Angleterre revoit ses règles sur l'IA autonome dans la finance

Voici l'article traduit et résumé : La Banque d'Angleterre examine si son cadre réglementaire actuel peut encadrer l'usage de l'intelligence artificielle agentique dans la finance, notamment dans les paiements, le trading, la cybersécurité et les opérations internes. La vice-gouverneure Sarah Breeden, s'exprimant lors du Forum de la Banque centrale européenne au Portugal, a indiqué que les réglementations existantes n'ont pas été conçues pour des agents IA capables d'agir sans instruction humaine directe. Selon elle, exiger une supervision humaine sur chaque action de ces systèmes n'est pas réaliste en pratique. Ces agents diffèrent des outils de trading automatisés traditionnels car ils peuvent poursuivre des objectifs et prendre des décisions de façon quasi autonome. Un rapport 2026 du Cambridge Centre for Alternative Finance révèle que 81% des entreprises de services financiers interrogées adoptent l'IA à un certain niveau, et 52% des répondants du secteur intègrent déjà activement l'IA agentique, principalement pour l'automatisation des processus, la visualisation de données, l'ingénierie logicielle et la gestion des connaissances. L'usage dans le trading reste pour l'instant concentré sur des tâches opérationnelles à faible risque. Ce virage réglementaire compte car l'IA agentique change fondamentalement la nature du risque financier. Breeden a qualifié la cyber-résilience de préoccupation prioritaire pour la stabilité financière, évoquant un "changement d'échelle" dans les capacités cyber liées à l'IA : ces systèmes peuvent enchaîner des séquences d'actions à grande échelle et grande vitesse, ce qui renforce autant les défenses des équipes de sécurité que les capacités d'attaque des acteurs malveillants. Elle a souligné que les modèles open source ne sont retardés que de quatre à huit mois par rapport aux modèles fermés les plus avancés, limitant l'efficacité des restrictions de diffusion. Le FMI partage cette inquiétude : les attaques permises par l'IA peuvent se propager rapidement à travers des infrastructures numériques partagées, provoquant des perturbations simultanées chez plusieurs institutions à la fois, un scénario que les superviseurs doivent désormais anticiper plutôt que traiter au cas par cas. Cette réflexion s'inscrit dans un contexte où les autorités cherchent à adapter leurs outils de supervision face à une adoption rapide et déjà généralisée de l'IA agentique. La Banque d'Angleterre envisage un renforcement des exigences de reprise d'activité pour les systèmes centraux, avec plusieurs pistes à l'étude : permettre à une banque de reprendre les fonctions essentielles d'une autre en cas de défaillance, mettre en place des dispositifs assurant la continuité des services critiques si les systèmes centraux d'une entreprise sont compromis, ou encore doter les acteurs clés de systèmes de secours séparés capables de reconstruire rapidement une infrastructure compromise. Tobias Adrian, conseiller financier et directeur du département des marchés de capitaux du FMI, a également averti des risques sérieux que pose l'IA pour la cyber-résilience, selon Central Banking. Ces échanges illustrent une prise de conscience croissante parmi les régulateurs financiers : la question n'est plus de savoir si l'IA agentique doit être encadrée, mais comment le faire sans entraver son adoption déjà bien engagée dans le secteur.