Amazon présente son cadre pour des agents IA…

Une IA juge désormais chaque action des agents de Rubrik, selon sa responsable IA à VB Transform 2026, mais personne n'a vérifié si elle juge juste

41

1VentureBeat AI

Une IA juge désormais chaque action des agents de Rubrik, selon sa responsable IA à VB Transform 2026, mais personne n'a vérifié si elle juge juste

Rubrik, entreprise cotée en bourse spécialisée dans la sécurité des données, a dévoilé lors d'un entretien à VB Transform 2026 à Menlo Park que ses agents IA internes fonctionnent désormais en "mode YOLO", sans validation humaine préalable, sous la surveillance d'une seconde intelligence artificielle chargée d'arbitrer chaque action. Dev Rishi, directeur général de l'IA chez Rubrik, a raconté qu'à une table ronde de RSSI organisée par le responsable de la sécurité informatique d'Anthropic, les quatorze participants avaient tous levé la main pour confirmer disposer de politiques de gouvernance IA écrites, mais que la question suivante, sur leur application concrète, avait déclenché des rires gênés. Chez Rubrik, le fondateur et directeur technique a poussé à activer ce mode autonome pour les agents, remplaçant l'approbation humaine par SAGE, le Semantic AI Governance Engine, un moteur intégré à Rubrik Agent Cloud qui analyse l'intention sémantique de chaque action et la valide ou la rejette selon des règles rédigées en langage naturel. Cette décision fait suite à l'échec du mode manuel: lors du déploiement pilote de Claude Code et Cowork, chaque commande devait être validée individuellement par l'employé, générant un fil Slack de 120 messages de contestation, les développeurs comparant l'exercice à cliquer aveuglément sur les conditions d'utilisation d'iTunes. Cette bascule illustre un problème plus large: selon une étude Rubrik Zero Labs menée en avril auprès de plus de 1 600 responsables IT et sécurité, environ 80% d'entre eux constatent que la surveillance et la validation des actions des agents prennent plus de temps que ce que ces agents sont censés faire gagner. Une recherche VentureBeat Pulse présentée le même jour à la conférence confirme ce constat: deux tiers des entreprises, soit 66%, autorisent déjà ou préparent activement un déploiement en production sans aucune revue humaine. Pour Rishi, l'enjeu n'est plus de savoir si un agent peut agir seul, mais s'il le doit, une distinction qu'il juge trop souvent négligée par les organisations pressées d'automatiser. Rishi a rejoint Rubrik via le rachat de Predibase, la startup d'infrastructure d'IA générative qu'il codirigeait jusqu'en juin 2025, après un passage chez Google sur l'équipe à l'origine de Vertex AI et un rôle de premier product manager chez Kaggle, dont il a accompagné la croissance d'un à dix millions d'utilisateurs. Diplômé de Harvard en informatique, il a mené près de 200 entretiens avec des clients issus du Global 2000 durant ses trois premiers mois et demi chez Rubrik, découvrant que le principal frein à la rentabilité des projets d'IA n'était ni le coût ni la latence, mais l'incapacité à obtenir une validation sécurité et risque, un constat qui a directement motivé la conception de SAGE, dont l'efficacité réelle n'a toutefois pas encore été mesurée de façon indépendante.

SécuritéActu

1 source

Amazon utilise des agents IA pour la détection de vulnérabilités à grande échelle

40

2Amazon Science

Amazon utilise des agents IA pour la détection de vulnérabilités à grande échelle

En 2025, la base de données nationale des vulnérabilités américaine (NVD) a enregistré plus de 48 000 nouvelles failles de sécurité référencées (CVE), un volume rendu possible en grande partie par la prolifération des outils automatisés de détection. Face à cette explosion, Amazon Web Services a développé RuleForge, un système d'intelligence artificielle agentique conçu pour générer automatiquement des règles de détection à partir d'exemples de code d'exploitation de vulnérabilités. Déployé en production chez AWS, RuleForge affiche une productivité supérieure de 336 % à la création manuelle, tout en conservant le niveau de précision exigé pour des systèmes de sécurité industriels. Les règles produites sont au format JSON et alimentent directement MadPot, le système mondial de "honeypot" d'Amazon qui capture le comportement des attaquants, ainsi que Sonaris, le moteur interne de détection d'exploits suspects. Avant RuleForge, transformer une CVE en règle de détection opérationnelle était un processus entièrement manuel : un analyste téléchargeait le code de preuve de concept, étudiait le mécanisme d'attaque, rédigeait la logique de détection, la validait par itérations successives contre les journaux de trafic, puis soumettait le tout à une revue par un second ingénieur avant déploiement. Ce cycle, rigoureux mais lent, obligeait les équipes à prioriser strictement les vulnérabilités traitées, laissant potentiellement des failles critiques sans couverture. RuleForge comprime ce délai de façon drastique : le système ingère automatiquement le code d'exploitation public, attribue un score de priorité via une analyse de contenu croisée avec des sources de threat intelligence, puis génère en parallèle plusieurs règles candidates via un agent tournant sur AWS Fargate avec Amazon Bedrock. Chaque candidate est évaluée non pas par le modèle qui l'a produite, mais par un agent "juge" distinct, évitant ainsi l'auto-validation biaisée. Les humains restent dans la boucle pour l'approbation finale avant mise en production. Cette architecture reflète une tendance profonde dans la sécurité offensive et défensive : l'automatisation par IA ne remplace pas les experts, elle leur permet de travailler à une échelle autrement inaccessible. AWS anticipe une croissance continue du nombre de CVE à haute sévérité publiées, portée par les mêmes outils d'IA qui accélèrent la découverte de failles côté attaquants. RuleForge représente la réponse symétrique côté défense, en industrialisant la réactivité. L'approche modulaire, avec des agents spécialisés pour la génération, l'évaluation et le raffinement, plutôt qu'un seul modèle monolithique, s'inscrit dans la lignée des architectures multi-agents qui émergent comme standard pour les tâches complexes nécessitant fiabilité et auditabilité. D'autres grands acteurs du cloud font face aux mêmes défis, et la publication par Amazon des détails de RuleForge suggère une volonté de positionner cette approche comme référence sectorielle.

SécuritéActu

1 source

« Attaques multi-tours : 88 % de réussite face aux IA, le testing en un tour passe à côté », alerte Cisco à VB Transform 2026

44

3VentureBeat AI

« Attaques multi-tours : 88 % de réussite face aux IA, le testing en un tour passe à côté », alerte Cisco à VB Transform 2026

Lors du panel sur la sécurité agentique de VB Transform 2026, Amy Chang, responsable du renseignement sur les menaces IA et de la recherche en sécurité chez Cisco, a présenté des résultats préoccupants pour quiconque continue de tester ses modèles avec des attaques en un seul échange. Dans une étude menée avec Nicholas Conley, Cisco a soumis 15 modèles phares, fermés et propriétaires, à 30 090 tentatives d'attaque en un seul tour et à 6 986 attaques multi-tours, où l'assaillant adapte sa stratégie au fil de la conversation. Résultat : les taux de réussite en multi-tours vont de 7,89% à 88,3% selon les modèles, et chacun d'entre eux présente une vulnérabilité non négligeable à ce type d'attaque prolongée. Plus frappant encore, les deux méthodes de test ne classent même pas les modèles dans le même ordre, ce qui signifie qu'un modèle jugé robuste en test ponctuel peut s'effondrer face à une conversation adverse soutenue. Cisco publie désormais des signaux d'évaluation adversariale pour 105 modèles sur son LLM Security Leaderboard. Ces chiffres résonnent avec l'enquête Pulse de VentureBeat menée en juin 2026 auprès de 107 entreprises : 54% d'entre elles ont déjà connu un incident de sécurité confirmé lié à un agent IA (18%) ou évité de justesse un tel incident (36%). Seulement 32% attribuent une identité gérée et cloisonnée à chaque agent, et 30% isolent leurs agents les plus sensibles dans des environnements sandbox, tandis que 82% des entreprises s'appuient encore principalement sur les contrôles natifs des fournisseurs et des hyperscalers. Ce décalage entre la sophistication des menaces et la maturité des défenses explique la vague de rachats qui secoue le secteur. Palo Alto Networks a bouclé en février l'acquisition de CyberArk pour 25 milliards de dollars, CrowdStrike a annoncé en janvier le rachat de SGNL pour 740 millions de dollars, et Cisco a de son côté annoncé son intention d'acquérir Astrix Security pour environ 400 millions de dollars. Ces trois opérations ciblent la même brique manquante chez la plupart des entreprises : la gestion des identités et l'isolement des agents IA, un chantier que peu ont achevé alors que les déploiements agentiques se multiplient déjà en production. Forte de près de vingt ans d'expérience, dont un poste de directrice exécutive des opérations de cybersécurité chez JPMorgan Chase, un passage comme conseillère à la Chambre des représentants et un engagement dans la réserve de la marine américaine, Amy Chang insiste sur la simplicité de la réponse défensive malgré la complexité des attaques : revenir aux fondamentaux de ce que l'on cherche réellement à protéger. Elle recommande aux directeurs de la sécurité de partir du cadre Integrated AI Security and Safety Framework de Cisco, qui couvre l'ensemble du cycle de vie de l'IA, de la modalité jusqu'à la chaîne d'approvisionnement, pour remonter depuis des incidents réels vers une stratégie de couverture adaptée. Heather Ceylan, CISO de Box, partage ce constat : la majorité des exercices de red teaming sur les agents restent aujourd'hui limités à des tests en un seul tour, très éloignés de la manière dont les utilisateurs interagissent réellement avec ces systèmes.

SécuritéActu

1 source

Sécuriser les agents IA avec des politiques temporelles dans Amazon Bedrock AgentCore

44

4AWS ML Blog

Sécuriser les agents IA avec des politiques temporelles dans Amazon Bedrock AgentCore

Amazon vient d'annoncer les « temporal policies » (politiques temporelles) au sein d'Amazon Bedrock AgentCore, une nouvelle couche de contrôle d'accès destinée à sécuriser les agents IA au niveau d'AgentCore Gateway. Contrairement aux contrôles classiques, qui évaluent chaque appel d'outil de façon isolée et déterministe, ces politiques analysent la trajectoire complète d'une session, c'est-à-dire l'historique ordonné des actions déjà exécutées par l'agent, avant d'autoriser ou non une nouvelle requête. Elles s'exécutent au niveau de la passerelle, en dehors du code de l'agent lui-même, ce qui les rend impossibles à contourner, quels que soient les prompts utilisés ou les bugs présents dans le code de l'agent. Amazon cite plusieurs cas d'usage concrets : imposer l'ordre d'exécution des outils pour respecter une procédure standard, exiger qu'un argument transmis à un outil corresponde exactement à la sortie d'un appel précédent, plafonner l'exposition financière cumulée sur une session, ou encore bloquer toute action sensible tant qu'une validation humaine explicite n'a pas été enregistrée dans la trajectoire. Ce dispositif répond à un problème spécifique aux agents IA : contrairement aux applications traditionnelles, un agent décide en temps réel quels outils appeler, avec quels paramètres et dans quel ordre, ce qui rend les erreurs beaucoup plus difficiles à anticiper. Amazon illustre le risque avec plusieurs scénarios où les contrôles classiques échouent : un agent qui invente un numéro de compte différent de celui retourné par un outil de recherche client et l'utilise pour virer des fonds vers le mauvais destinataire, un agent livré à lui-même qui enchaîne des dizaines de transactions en boucle sans jamais vérifier que le seuil de risque global a été dépassé, ou encore un agent qui approuve puis rejette la même demande d'assurance en quelques secondes. Pris individuellement, chacun de ces appels passerait sans problème un contrôle statique classique ; seule une lecture de l'ensemble de la séquence permet de détecter l'anomalie. Cette annonce s'inscrit dans un mouvement plus large de sécurisation de l'infrastructure agentique chez les grands fournisseurs cloud, à mesure que les entreprises déploient des agents autonomes sur des tâches sensibles, notamment dans la finance et l'assurance. AgentCore disposait déjà d'un système de politiques statiques déterminant qui peut appeler quel outil et sous quelles conditions, mais Amazon reconnaît que cela reste insuffisant face à des agents capables d'halluciner des données ou de s'enchaîner en boucle. Les temporal policies visent aussi à durcir automatiquement les permissions lorsqu'un agent opère sans supervision humaine directe, une approche qui pourrait devenir un standard à mesure que les régulateurs et les entreprises exigent davantage de garanties sur la fiabilité des systèmes agentiques déployés en production.

UELes entreprises europeennes utilisant Amazon Bedrock AgentCore pourraient beneficier de ces controles renforces pour leurs agents IA, sans impact reglementaire direct sur la France ou l'UE.

SécuritéActu

1 source

Amazon présente son cadre pour des agents IA fiables à VB Transform 2026

À lire aussi

Une IA juge désormais chaque action des agents de Rubrik, selon sa responsable IA à VB Transform 2026, mais personne n'a vérifié si elle juge juste

Amazon utilise des agents IA pour la détection de vulnérabilités à grande échelle

« Attaques multi-tours : 88 % de réussite face aux IA, le testing en un tour passe à côté », alerte Cisco à VB Transform 2026

Sécuriser les agents IA avec des politiques temporelles dans Amazon Bedrock AgentCore