SécuritéVentureBeat AI · 23 juil. 2026, 21:13· 2 min de lecture

« Attaques multi-tours : 88 % de réussite face aux IA, le testing en un tour passe à côté », alerte Cisco à VB Transform 2026

Lors du panel sur la sécurité agentique de VB Transform 2026, Amy Chang, responsable du renseignement sur les menaces IA et de la recherche en sécurité chez Cisco, a présenté des résultats préoccupants pour quiconque continue de tester ses modèles avec des attaques en un seul échange. Dans une étude menée avec Nicholas Conley, Cisco a soumis 15 modèles phares, fermés et propriétaires, à 30 090 tentatives d'attaque en un seul tour et à 6 986 attaques multi-tours, où l'assaillant adapte sa stratégie au fil de la conversation. Résultat : les taux de réussite en multi-tours vont de 7,89% à 88,3% selon les modèles, et chacun d'entre eux présente une vulnérabilité non négligeable à ce type d'attaque prolongée. Plus frappant encore, les deux méthodes de test ne classent même pas les modèles dans le même ordre, ce qui signifie qu'un modèle jugé robuste en test ponctuel peut s'effondrer face à une conversation adverse soutenue. Cisco publie désormais des signaux d'évaluation adversariale pour 105 modèles sur son LLM Security Leaderboard. Ces chiffres résonnent avec l'enquête Pulse de VentureBeat menée en juin 2026 auprès de 107 entreprises : 54% d'entre elles ont déjà connu un incident de sécurité confirmé lié à un agent IA (18%) ou évité de justesse un tel incident (36%). Seulement 32% attribuent une identité gérée et cloisonnée à chaque agent, et 30% isolent leurs agents les plus sensibles dans des environnements sandbox, tandis que 82% des entreprises s'appuient encore principalement sur les contrôles natifs des fournisseurs et des hyperscalers.

Ce décalage entre la sophistication des menaces et la maturité des défenses explique la vague de rachats qui secoue le secteur. Palo Alto Networks a bouclé en février l'acquisition de CyberArk pour 25 milliards de dollars, CrowdStrike a annoncé en janvier le rachat de SGNL pour 740 millions de dollars, et Cisco a de son côté annoncé son intention d'acquérir Astrix Security pour environ 400 millions de dollars. Ces trois opérations ciblent la même brique manquante chez la plupart des entreprises : la gestion des identités et l'isolement des agents IA, un chantier que peu ont achevé alors que les déploiements agentiques se multiplient déjà en production.

Forte de près de vingt ans d'expérience, dont un poste de directrice exécutive des opérations de cybersécurité chez JPMorgan Chase, un passage comme conseillère à la Chambre des représentants et un engagement dans la réserve de la marine américaine, Amy Chang insiste sur la simplicité de la réponse défensive malgré la complexité des attaques : revenir aux fondamentaux de ce que l'on cherche réellement à protéger. Elle recommande aux directeurs de la sécurité de partir du cadre Integrated AI Security and Safety Framework de Cisco, qui couvre l'ensemble du cycle de vie de l'IA, de la modalité jusqu'à la chaîne d'approvisionnement, pour remonter depuis des incidents réels vers une stratégie de couverture adaptée. Heather Ceylan, CISO de Box, partage ce constat : la majorité des exercices de red teaming sur les agents restent aujourd'hui limités à des tests en un seul tour, très éloignés de la manière dont les utilisateurs interagissent réellement avec ces systèmes.

Dans nos dossiers

Agents IA Cybersécurité IA

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

1VentureBeat AI

Amazon présente son cadre pour des agents IA fiables à VB Transform 2026

Amazon présentera lors de la conférence VB Transform 2026, les 14 et 15 juillet à Menlo Park (Californie), son cadre méthodologique pour concevoir des agents IA dignes de confiance en entreprise. Bryan Silverthorn, directeur du laboratoire de recherche AGI Autonomy chez Amazon, y animera une session intitulée "Closing the capability-reliability gap: Inside Amazon's framework for engineering trustworthy agents". Il y détaillera comment passer d'architectures mono-agent rudimentaires à des systèmes multi-outils capables de se corriger en cours d'exécution. La démarche d'Amazon repose sur quatre piliers : cohérence, robustesse, prévisibilité et sécurité, en remplacement des benchmarks EVAL traditionnels qui ne mesurent que des performances statiques à un instant donné. L'enjeu est considérable pour les décideurs IT, qui restent profondément méfiants vis-à-vis de l'autonomie accordée aux agents IA sur les systèmes d'entreprise. Selon une enquête VentureBeat Q2 2026 menée auprès de plus de 100 dirigeants technologiques seniors, seulement 4 % d'entre eux se disent à l'aise avec l'idée de s'appuyer uniquement sur les garde-fous intégrés aux modèles. 40 % citent l'accès non autorisé aux outils ou aux données comme principale inquiétude, et 27 % redoutent les attaques par injection de prompts. Amazon propose en réponse des environnements sandboxés où les agents soumettent leurs actions à validation humaine avant exécution, une approche particulièrement critique dans des secteurs sensibles comme la finance, où une erreur d'agent peut causer des dommages substantiels. Ce tournant vers la fiabilité plutôt que la seule performance brute intervient alors que l'industrie prend conscience des limites des scores EVAL, incapables de rendre compte du comportement des modèles face à la diversité des prompts, des environnements et des types de données en production. Amazon s'inscrit dans une tendance de fond : découpler les systèmes pour mieux les contrôler, plutôt que de supposer qu'un modèle peut être "bridé" après coup. VB Transform 2026 réunira également Manasi Joshi, directrice de l'intelligence des systèmes et du machine learning chez Waymo, qui abordera la question de l'IA sûre et efficace dans le monde physique. Ces deux sessions illustrent une préoccupation commune qui structure désormais le débat industriel : comment transformer des capacités impressionnantes en déploiements fiables, auditables, et acceptables pour les organisations qui en portent la responsabilité.

SécuritéActu

1 source

2VentureBeat AI

L'IA démultiplie les attaques de désinformation : les défenseurs doivent réagir à la même vitesse

L'intelligence artificielle a profondément bouleversé l'économie de la cybersécurité offensive. Un attaquant peut désormais générer en quelques minutes des milliers de leurres de phishing crédibles, de fausses identités et de prétextes sur mesure, le tout pour un coût quasi nul, alors qu'un défenseur n'a pas encore terminé un seul cycle de validation de changement. C'est l'argument central d'une analyse publiée par Splunk, qui insiste sur un déséquilibre fondamental : la tromperie à grande échelle est devenue accessible à tous, tandis que la vérification, elle, n'a pas suivi le même rythme. Pour les équipes de sécurité, l'enjeu ne se résume pas à améliorer les modèles de détection. Le vrai goulot d'étranglement, selon Splunk, est la donnée elle-même : où elle se trouve, si elle est disponible au bon moment, à quelle vitesse elle peut être corrélée, combien de temps elle est conservée, et si les analystes ou les agents d'IA peuvent s'y fier. Un exemple concret illustre le problème : une connexion suspecte depuis le compte d'un prestataire peut sembler anodine isolément. Pour comprendre si elle représente une menace réelle, les équipes doivent croiser l'historique d'identité, l'activité des terminaux, les journaux d'accès cloud, les tickets de support, les changements de configuration et le contexte métier. Si ces informations sont éparpillées dans des outils différents avec des durées de rétention variables, les défenseurs ne mènent plus une enquête ; ils négocient avec leur propre infrastructure de données. Et si les données fournies à une IA sont incomplètes, obsolètes ou fragmentées, l'IA n'apporte pas de certitude : elle accélère l'incertitude. Face à cette réalité, Splunk plaide pour que les organisations repensent fondamentalement le rôle de leurs plateformes de sécurité. Les SIEM et les lacs de données ont longtemps été traités comme des dépôts passifs, de simples archives pour recherches ultérieures, et ce modèle ne suffit plus. Ce dont les entreprises ont besoin aujourd'hui, c'est d'un plan de contrôle défensif : une couche architecturale qui relie ce qui s'est passé, ce que cela signifie et ce que l'organisation est autorisée à faire en conséquence. Concrètement, cela implique quatre capacités : préserver les preuves de manière pérenne, accéder aux données où qu'elles se trouvent, ajouter du contexte métier, et gouverner les actions de façon auditable et défendable. L'IA ne réduit pas l'exigence de disposer de registres fiables, elle en élève le standard. A mesure que les attaquants utilisent l'IA pour industrialiser la déception, les défenseurs doivent l'utiliser pour industrialiser la vérification, et cela commence par une architecture de données digne de confiance.

SécuritéOpinion

1 source

3VentureBeat AI

Une IA juge désormais chaque action des agents de Rubrik, selon sa responsable IA à VB Transform 2026, mais personne n'a vérifié si elle juge juste

Rubrik, entreprise cotée en bourse spécialisée dans la sécurité des données, a dévoilé lors d'un entretien à VB Transform 2026 à Menlo Park que ses agents IA internes fonctionnent désormais en "mode YOLO", sans validation humaine préalable, sous la surveillance d'une seconde intelligence artificielle chargée d'arbitrer chaque action. Dev Rishi, directeur général de l'IA chez Rubrik, a raconté qu'à une table ronde de RSSI organisée par le responsable de la sécurité informatique d'Anthropic, les quatorze participants avaient tous levé la main pour confirmer disposer de politiques de gouvernance IA écrites, mais que la question suivante, sur leur application concrète, avait déclenché des rires gênés. Chez Rubrik, le fondateur et directeur technique a poussé à activer ce mode autonome pour les agents, remplaçant l'approbation humaine par SAGE, le Semantic AI Governance Engine, un moteur intégré à Rubrik Agent Cloud qui analyse l'intention sémantique de chaque action et la valide ou la rejette selon des règles rédigées en langage naturel. Cette décision fait suite à l'échec du mode manuel: lors du déploiement pilote de Claude Code et Cowork, chaque commande devait être validée individuellement par l'employé, générant un fil Slack de 120 messages de contestation, les développeurs comparant l'exercice à cliquer aveuglément sur les conditions d'utilisation d'iTunes. Cette bascule illustre un problème plus large: selon une étude Rubrik Zero Labs menée en avril auprès de plus de 1 600 responsables IT et sécurité, environ 80% d'entre eux constatent que la surveillance et la validation des actions des agents prennent plus de temps que ce que ces agents sont censés faire gagner. Une recherche VentureBeat Pulse présentée le même jour à la conférence confirme ce constat: deux tiers des entreprises, soit 66%, autorisent déjà ou préparent activement un déploiement en production sans aucune revue humaine. Pour Rishi, l'enjeu n'est plus de savoir si un agent peut agir seul, mais s'il le doit, une distinction qu'il juge trop souvent négligée par les organisations pressées d'automatiser. Rishi a rejoint Rubrik via le rachat de Predibase, la startup d'infrastructure d'IA générative qu'il codirigeait jusqu'en juin 2025, après un passage chez Google sur l'équipe à l'origine de Vertex AI et un rôle de premier product manager chez Kaggle, dont il a accompagné la croissance d'un à dix millions d'utilisateurs. Diplômé de Harvard en informatique, il a mené près de 200 entretiens avec des clients issus du Global 2000 durant ses trois premiers mois et demi chez Rubrik, découvrant que le principal frein à la rentabilité des projets d'IA n'était ni le coût ni la latence, mais l'incapacité à obtenir une validation sécurité et risque, un constat qui a directement motivé la conception de SAGE, dont l'efficacité réelle n'a toutefois pas encore été mesurée de façon indépendante.

SécuritéActu

1 source

4Next INpact

Attaquée par un agent IA autonome, Hugging Face a analysé les traces avec un LLM local

Attaquée par un agent IA autonome, Hugging Face a analysé les traces avec un LLM local Hugging Face a publié le 16 juillet 2026 un rapport de divulgation détaillant une intrusion survenue dans une partie de son infrastructure de production. L'entreprise précise que cette attaque a été menée de bout en bout par un système d'agent IA autonome et que l'incident a lui-même été détecté et analysé en grande partie par sa propre intelligence artificielle. Les attaquants ont obtenu un accès non autorisé à un ensemble limité de jeux de données internes ainsi qu'à plusieurs identifiants utilisés par les services de la plateforme, tandis que l'évaluation de l'impact sur les données de partenaires et de clients reste en cours. Aucune preuve d'altération des modèles, des jeux de données ou des Spaces publics n'a été trouvée, et la chaîne d'approvisionnement logicielle, images de conteneurs et paquets publiés compris, a été vérifiée saine. Le point d'entrée se situait dans le pipeline de traitement des datasets : un jeu de données malveillant a exploité deux failles, un chargeur vulnérable à l'exécution de code distant et une injection de template dans un fichier de configuration, pour exécuter du code sur un serveur de traitement, avant que les pirates n'obtiennent un accès au niveau du nœud, récupèrent des identifiants cloud et se déplacent latéralement dans plusieurs clusters internes durant plusieurs jours. Cet incident matérialise un scénario que le secteur de la cybersécurité anticipait depuis plusieurs mois : celui d'un attaquant entièrement agentique, capable d'enchaîner des milliers d'actions sans intervention humaine directe. L'identité des auteurs reste inconnue, mais Hugging Face évoque une campagne pilotée par un framework d'agents autonomes, probablement construit sur un harnais de recherche en sécurité offensive, bien que le modèle de langage utilisé n'ait pas été identifié. Ce framework a exécuté plusieurs milliers d'actions individuelles via des sandbox éphémères, coordonnées par un serveur de commande et contrôle auto-migrant hébergé sur des services publics légitimes, ce qui complique la détection et l'attribution. Pour une plateforme qui héberge des centaines de milliers de modèles et de jeux de données utilisés par toute l'industrie de l'IA, l'enjeu n'est plus seulement de se défendre contre des attaquants humains, mais de résister à des agents capables d'agir en autonomie, à grande échelle, sur des surfaces d'attaque complexes. Hugging Face indique avoir corrigé les failles d'exécution de code ayant permis l'intrusion initiale, supprimé le point d'ancrage des attaquants, reconstruit les nœuds compromis, révoqué et régénéré les identifiants touchés, déclenché une rotation préventive plus large de ses secrets, et renforcé les contrôles d'admission sur ses clusters, avec pour objectif de détecter les alertes critiques en quelques minutes. L'entreprise dit travailler avec des spécialistes externes en analyse forensique et avoir signalé l'incident aux autorités judiciaires. Ce n'est pas une première pour la plateforme : en juin 2024, elle avait déjà averti qu'un sous-ensemble de ses secrets avait été dérobé et que des accès non autorisés avaient été détectés dans certains Spaces, recommandant alors le renouvellement de tous les jetons et clés d'authentification. L'épisode s'inscrit dans un climat où l'IA générative bouleverse la cybersécurité des deux côtés du front, offensif avec ce type d'agent autonome, mais aussi défensif, à mesure que des modèles comme Mythos d'Anthropic, accessibles via le programme Glasswing à un nombre restreint d'organisations, sont utilisés pour repérer des vulnérabilités avant qu'elles ne soient exploitées.

UEDe nombreuses entreprises et laboratoires de recherche francais et europeens s'appuient sur l'infrastructure Hugging Face pour heberger et partager leurs modeles et jeux de donnees, ce qui les expose indirectement a ce type de compromission.

SécuritéActu

1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic