Une IA juge désormais chaque action des agents de Rubrik, selon sa responsable IA à VB Transform 2026, mais personne n'a vérifié si elle juge juste

Amazon présente son cadre pour des agents IA fiables à VB Transform 2026

Amazon présentera lors de la conférence VB Transform 2026, les 14 et 15 juillet à Menlo Park (Californie), son cadre méthodologique pour concevoir des agents IA dignes de confiance en entreprise. Bryan Silverthorn, directeur du laboratoire de recherche AGI Autonomy chez Amazon, y animera une session intitulée "Closing the capability-reliability gap: Inside Amazon's framework for engineering trustworthy agents". Il y détaillera comment passer d'architectures mono-agent rudimentaires à des systèmes multi-outils capables de se corriger en cours d'exécution. La démarche d'Amazon repose sur quatre piliers : cohérence, robustesse, prévisibilité et sécurité, en remplacement des benchmarks EVAL traditionnels qui ne mesurent que des performances statiques à un instant donné. L'enjeu est considérable pour les décideurs IT, qui restent profondément méfiants vis-à-vis de l'autonomie accordée aux agents IA sur les systèmes d'entreprise. Selon une enquête VentureBeat Q2 2026 menée auprès de plus de 100 dirigeants technologiques seniors, seulement 4 % d'entre eux se disent à l'aise avec l'idée de s'appuyer uniquement sur les garde-fous intégrés aux modèles. 40 % citent l'accès non autorisé aux outils ou aux données comme principale inquiétude, et 27 % redoutent les attaques par injection de prompts. Amazon propose en réponse des environnements sandboxés où les agents soumettent leurs actions à validation humaine avant exécution, une approche particulièrement critique dans des secteurs sensibles comme la finance, où une erreur d'agent peut causer des dommages substantiels. Ce tournant vers la fiabilité plutôt que la seule performance brute intervient alors que l'industrie prend conscience des limites des scores EVAL, incapables de rendre compte du comportement des modèles face à la diversité des prompts, des environnements et des types de données en production. Amazon s'inscrit dans une tendance de fond : découpler les systèmes pour mieux les contrôler, plutôt que de supposer qu'un modèle peut être "bridé" après coup. VB Transform 2026 réunira également Manasi Joshi, directrice de l'intelligence des systèmes et du machine learning chez Waymo, qui abordera la question de l'IA sûre et efficace dans le monde physique. Ces deux sessions illustrent une préoccupation commune qui structure désormais le débat industriel : comment transformer des capacités impressionnantes en déploiements fiables, auditables, et acceptables pour les organisations qui en portent la responsabilité.

Les domaines accessibles à vos agents IA sont désormais configurables

Amazon a dévoilé une architecture de sécurité pour ses agents IA déployés via Amazon Bedrock AgentCore, permettant aux entreprises de contrôler précisément quels domaines internet ces agents peuvent atteindre. La solution repose sur AWS Network Firewall, configuré dans un Amazon VPC (Virtual Private Cloud) privé, qui inspecte les en-têtes SNI (Server Name Indication) des connexions TLS pour filtrer le trafic sortant. Concrètement, les équipes peuvent définir une liste blanche de domaines autorisés — par exemple wikipedia.org ou stackoverflow.com — bloquer des catégories entières comme les réseaux sociaux ou les sites de jeux d'argent, et appliquer une politique de refus par défaut pour tout domaine non explicitement approuvé. Tous les tentatives de connexion sont journalisées, ce qui permet un suivi d'audit et une conformité réglementaire. AgentCore intègre trois outils managés concernés : un navigateur web (Browser), un interpréteur de code (Code Interpreter) et un environnement d'exécution (Runtime). Cette capacité de filtrage répond à un besoin critique pour les entreprises déployant des agents IA dans des secteurs réglementés — finance, santé, défense. Sans contrôle réseau, un agent web autonome peut être manipulé via une attaque par injection de prompt pour naviguer vers des sites non autorisés, exfiltrer des données sensibles ou contacter des domaines malveillants. En restreignant le navigateur à une liste de domaines approuvés, la surface d'attaque est drastiquement réduite, indépendamment des instructions reçues par l'agent. Pour les fournisseurs SaaS multi-locataires, la granularité est encore plus fine : chaque client peut avoir sa propre politique réseau, avec des règles d'autorisation ou de blocage différentes selon le tenant, voire selon la région géographique ou le type d'exécution. Cette annonce s'inscrit dans une tendance plus large de sécurisation des agents IA autonomes, un sujet qui monte en puissance à mesure que les déploiements en production se multiplient. Amazon Bedrock AgentCore est une plateforme relativement récente, et cette intégration avec Network Firewall constitue une première couche de défense en profondeur — AWS précise qu'elle peut être complétée par du filtrage DNS et de l'inspection de contenu. Des mécanismes complémentaires existent également côté accès entrant, via des politiques basées sur les ressources avec conditions sur l'IP source ou le VPC d'origine. La prochaine étape pour les entreprises sera probablement d'automatiser ces politiques réseau au niveau des pipelines CI/CD, pour que chaque déploiement d'agent embarque ses règles de filtrage dès le départ.

Ne vous faites plus avoir : les images de ChatGPT ont désormais une « marque »

OpenAI a annoncé l'intégration progressive de SynthID, la technologie de tatouage numérique développée par Google DeepMind, dans les images générées via ChatGPT, Codex et son API. Cette initiative s'inscrit dans une stratégie plus large : depuis 2024, l'entreprise appose déjà des "Content Credentials" conformes au standard C2PA (Coalition for Content Provenance and Authenticity) sur les images produites par DALL·E 3, ImageGen et Sora. SynthID ajoute un marquage invisible directement dans les pixels de l'image, indétectable à l'œil nu mais lisible par un outil spécialisé. OpenAI déploie en parallèle un premier outil public de vérification permettant à quiconque de téléverser une image pour savoir si elle provient de ses modèles, en analysant simultanément les métadonnées C2PA et le tatouage SynthID. L'enjeu est direct : à mesure que les images générées par IA inondent les réseaux sociaux, les médias et les campagnes publicitaires, la capacité à distinguer le réel de l'artificiel devient un problème concret pour les journalistes, les plateformes et le grand public. La combinaison des deux technologies répond à une limite bien connue des systèmes basés uniquement sur les métadonnées : une simple capture d'écran suffit à effacer les informations de provenance encodées selon le standard C2PA. SynthID contourne ce problème en inscrivant le marquage dans la structure même de l'image, lui permettant de survivre à certaines modifications ou recompressions. C'est cette complémentarité qui constitue la valeur réelle du dispositif : les métadonnées fournissent un contexte détaillé sur la création, le tatouage assure une trace persistante. La course à la traçabilité des contenus synthétiques s'accélère dans un contexte de pression réglementaire croissante, notamment en Europe avec l'AI Act, qui impose des obligations de transparence sur les contenus générés par IA. OpenAI n'est pas seul sur ce terrain : Adobe, Microsoft et d'autres membres de la C2PA travaillent à des approches similaires, tandis que les grandes plateformes comme YouTube ou LinkedIn ont commencé à afficher les Content Credentials. OpenAI reconnaît cependant les limites de son système : aucune méthode n'est infaillible, et l'absence de signal détecté ne garantit pas qu'une image est authentique. L'outil de vérification public ne couvre pour l'instant que les contenus générés par OpenAI, mais l'entreprise affirme vouloir collaborer avec d'autres acteurs pour étendre le dispositif à l'ensemble de l'industrie.

💬 La vraie bonne idée, c'est la combinaison des deux systèmes. Une capture d'écran efface les métadonnées C2PA en deux secondes, SynthID survit dans les pixels eux-mêmes, et c'est là que ça change quelque chose. Bon, l'outil ne couvre que les images OpenAI pour l'instant, et ils reconnaissent eux-mêmes qu'une absence de signal ne garantit rien.

La confiance dans l'IA a chuté de 17 points en six mois, une bonne nouvelle en réalité

L'IA en entreprise perd en confiance affichée, mais gagne en lucidité. Selon une enquête menée auprès de 800 responsables informatiques aux États-Unis et au Royaume-Uni pour le rapport trimestriel Q3 2026, la part des organisations se déclarant matures dans le déploiement de l'IA est passée de 40% il y a six mois à seulement 23% aujourd'hui, soit une chute de 17 points. Loin de signaler un recul, cette baisse touche en priorité les entreprises qui ont fait passer leurs agents IA du stade pilote à la production réelle. Ce sont elles qui, confrontées aux systèmes en conditions réelles, révisent honnêtement leur auto-évaluation. Malgré ce repli de confiance, 84% des organisations prévoient d'étendre l'usage de l'IA dans leurs opérations informatiques dans les 6 à 24 prochains mois, confirmant que le mouvement de fond reste à l'expansion plutôt qu'au retrait. Ce constat révèle un problème structurel majeur: le déploiement des agents IA progresse plus vite que les dispositifs de gouvernance censés les encadrer. En phase pilote, un agent exécute une tâche isolée dans un environnement contrôlé; en production, il accède à des systèmes réels, prend des décisions affectant des flux de travail concrets et opère souvent en continu, sans supervision humaine directe. Or la gouvernance des identités non humaines, c'est-à-dire le suivi et le contrôle des comptes utilisés par les agents IA, est la pratique de sécurité la moins adoptée du secteur: seulement 21% des organisations l'ont mise en place. Ces identités non humaines dépassent déjà en nombre les utilisateurs humains dans 83% des entreprises, souvent sans propriétaire désigné, sans périmètre d'accès défini et sans procédure de désactivation une fois leur mission terminée. L'étude surnomme ces comptes orphelins des "agents zombies", véritables héritiers du problème historique des comptes de service, mais opérant désormais à la vitesse machine et dans tous les départements de l'entreprise. Cette situation illustre un basculement plus large dans les priorités de l'industrie de l'IA d'entreprise: le vrai défi n'est plus la capacité technique des modèles, mais la responsabilité et la traçabilité de leurs actions. Quand un employé humain agit, une chaîne de responsabilité existe implicitement; quand un agent autonome agit, cette chaîne se rompt si elle n'a pas été délibérément construite en amont. Les organisations les plus avancées se distinguent par trois choix structurants: elles consolident leurs environnements informatiques plutôt que d'empiler des outils disparates, elles traitent leurs agents IA comme des identités gouvernées et non comme des processus tolérés en marge, et elles mesurent ce que l'IA produit réellement plutôt que le seul volume déployé. Le résultat est mesurable: les organisations les plus matures selon ce modèle ont cinq fois plus de chances de ne rencontrer aucun frein à l'expansion de leurs agents IA que la moyenne, preuve qu'une confiance construite sur des fondations solides vaut mieux qu'une confiance simplement supposée.