Aller au contenu principal
OutilsAWS ML Blog2h· 2 min de lecture

Analytique LLM multi-locataires avec sécurité au niveau des lignes : comment nous avons construit un agent sécurisé sur AWS

Source originale ↗·

PAR Technology Corporation, spécialiste des technologies pour la restauration qui accompagne plus de 300 entreprises du secteur, a développé un agent analytique en langage naturel capable de convertir des questions en SQL pour ses clients. L'objectif affiché : permettre à n'importe quel utilisateur, sans bagage technique, de poser une question en anglais et d'obtenir une réponse chiffrée en quelques secondes. Pour y parvenir, l'équipe a conçu une architecture à trois couches de sécurité déployée sur AWS : signature cryptographique des requêtes via AWS SigV4, validation sémantique sur Amazon Bedrock, et isolation programmatique des données par une technique baptisée Split-Plane SQL. Chaque couche fonctionne de manière indépendante, de sorte que même si le modèle de langage est compromis ou manipulé, l'exposition de données entre clients reste bloquée.

Le problème central est celui de la sécurité au niveau des lignes de données dans un environnement multi-tenant. Deux utilisateurs posant la même question, "Quelles ont été les ventes totales la semaine dernière ?", doivent recevoir des réponses radicalement différentes selon leur périmètre d'accès : 84 000 dollars pour le franchisé exploitant deux restaurants à Chicago, 9,2 millions de dollars pour le directeur de marque supervisant 200 établissements à l'échelle nationale. Afficher le chiffre national au franchisé constitue non seulement une faille de gouvernance des données, mais expose aussi des informations commercialement sensibles sur d'autres opérateurs. L'inverse prive le décideur national d'une vision complète. Ce scénario se répète sur des milliers de requêtes quotidiennes, ce qui rend toute approximation inacceptable.

L'équipe a d'abord envisagé de confier l'application des filtres directement au modèle de langage, en lui fournissant l'identifiant métier de l'utilisateur dans le prompt. Cette approche s'est révélée insuffisante : les LLM sont par nature non déterministes. Un modèle qui applique correctement un filtre dix mille fois d'affilée peut l'omettre silencieusement à la dix millième et unième requête, halluciner une valeur de filtre, ou élargir le périmètre d'une requête suite à un prompt ambigu. Dans une application grand public, cette non-déterminisme est un inconvénient. Dans un système analytique multi-tenant manipulant des données commerciales sensibles, c'est une frontière de sécurité insuffisante sur laquelle il est impossible de bâtir une posture de conformité réglementaire. PAR a donc choisi de dissocier radicalement la génération du SQL par l'IA et l'application des règles d'accès aux données, ces dernières étant imposées par des mécanismes déterministes indépendants du comportement du modèle.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Comment construire des agents IA de cybersécurité avancés avec CAI : outils, garde-fous, transferts et workflows multi-agents
1MarkTechPost 

Comment construire des agents IA de cybersécurité avancés avec CAI : outils, garde-fous, transferts et workflows multi-agents

CAI (Cybersecurity AI Framework) est un framework Python open source conçu pour construire des agents d'intelligence artificielle spécialisés en cybersécurité. Un tutoriel détaillé publié récemment démontre, étape par étape dans Google Colab, comment exploiter CAI pour créer des pipelines d'analyse de sécurité complets — depuis un agent basique jusqu'à des architectures multi-agents capables de raisonner, déléguer des tâches, valider des entrées et répondre en temps réel via streaming. Le framework s'installe en une commande (pip install cai-framework), s'appuie sur des modèles compatibles OpenAI comme GPT-4o mini, et expose des classes Python natives — Agent, Runner, function_tool, handoff — pour assembler des workflows de sécurité structurés sans infrastructure complexe. Ce que CAI change concrètement, c'est la capacité à transformer des fonctions Python ordinaires en outils d'analyse que l'agent peut invoquer de manière autonome : vérification de réputation d'adresses IP, simulation de scan de ports style nmap, orchestration de pipelines CTF (Capture The Flag), ou gestion de contexte multi-tours lors d'un incident. Les guardrails d'entrée permettent de filtrer les requêtes hors périmètre avant qu'elles n'atteignent le modèle, réduisant le bruit et les hallucinations. Les handoffs entre agents spécialisés — un agent réseau, un agent forensic, un agent de remédiation — permettent de simuler une équipe SOC entière dans un seul workflow automatisé. Pour les professionnels de la sécurité, cela signifie qu'une grande partie du triage et de l'analyse de premier niveau devient automatisable avec quelques dizaines de lignes de code. CAI s'inscrit dans une tendance plus large qui voit les frameworks d'agents IA (LangChain, AutoGen, OpenAI Agents SDK) être déclinés pour des domaines métier spécifiques. La cybersécurité est un terrain particulièrement fertile : les analystes SOC font face à des volumes d'alertes croissants, les pénétrateurs répètent des tâches de reconnaissance standardisées, et les CTF constituent un terrain d'entraînement idéal pour des agents capables de raisonnement multi-étapes. Le fait que CAI soit compatible avec n'importe quel modèle exposant une API OpenAI — y compris des modèles locaux via OpenRouter ou Ollama — le rend accessible sans dépendance à un fournisseur cloud unique. La prochaine étape naturelle pour le framework serait l'intégration avec des outils réels (Shodan, VirusTotal, SIEM) et des environnements de sandboxing pour tester des exploits sans risque, ce qui en ferait un copilote crédible pour les équipes de sécurité offensives et défensives.

OutilsOutil
1 source
Créer des agents multi-locataires avec Amazon Bedrock AgentCore
2AWS ML Blog 

Créer des agents multi-locataires avec Amazon Bedrock AgentCore

Amazon a lancé Bedrock AgentCore, un service managé et serverless conçu pour permettre aux éditeurs de logiciels SaaS de déployer des applications agentiques en environnement multi-tenant sur AWS. Le service offre des primitives pour héberger des agents et des serveurs MCP (Model Context Protocol), avec une gestion intégrée des identités, de la mémoire, de l'observabilité et des évaluations. Le coeur de son architecture repose sur des microVMs isolées par session: chaque session client obtient son propre environnement d'exécution éphémère, avec un système de fichiers persistant propre, sans le coût ni la latence d'une machine virtuelle complète. Le contexte du tenant transite via des en-têtes HTTP personnalisés, portant l'identifiant du tenant, son niveau de service, ses préférences régionales et ses droits d'accès aux outils, ce qui permet à l'agent d'adapter dynamiquement son comportement sans logique de routage codée en dur. Cette approche répond directement au fossé qui sépare un prototype fonctionnel d'un déploiement en production dans un contexte SaaS. Les architectes d'applications agentiques devaient jusqu'ici résoudre manuellement six problèmes distincts: l'isolation des tenants, la propagation de leur identité, l'observabilité par tenant, l'isolation des données, l'attribution des coûts et la mitigation du "noisy neighbor" (un tenant monopolisant les ressources au détriment des autres). AgentCore propose trois patterns d'isolation, appelés Silo, Pool et Bridge, chacun offrant un compromis différent entre protection stricte et mutualisation des coûts. Pour les éditeurs gérant des centaines ou des milliers de clients sur une même plateforme, cette capacité à choisir un modèle d'isolation par segment tarifaire change concrètement l'équation économique et de conformité. Le lancement s'inscrit dans une course des grands fournisseurs cloud à imposer leurs infrastructures agentiques comme standard de facto pour la prochaine génération d'applications IA. AWS fait face à la concurrence directe de Google avec Vertex AI Agent Builder et de Microsoft avec Azure AI Agent Service, tous trois cherchant à capter les équipes d'ingénierie qui passent de l'expérimentation à la production. L'article publié par AWS est le premier d'une série, ce qui suggère que d'autres composants d'AgentCore (évaluation, fine-tuning par tenant, facturation granulaire) seront détaillés dans les prochaines semaines. La question centrale pour les équipes SaaS reste le degré de lock-in accepté en échange de la simplicité opérationnelle qu'offre un service pleinement managé.

UELes éditeurs SaaS européens construisant sur AWS peuvent exploiter les patterns d'isolation et les préférences régionales d'AgentCore pour satisfaire les exigences de résidence des données imposées par le RGPD.

OutilsOpinion
1 source
Construire un runtime d'agents local-first sécurisé avec OpenClaw Gateway, skills et exécution contrôlée des outils
3MarkTechPost 

Construire un runtime d'agents local-first sécurisé avec OpenClaw Gateway, skills et exécution contrôlée des outils

OpenClaw Gateway s'impose progressivement comme une solution de référence pour les développeurs souhaitant déployer des agents IA en environnement local, sans dépendance à une infrastructure cloud tierce. Le projet, distribué via npm sous le nom openclaw, s'installe en quelques commandes sur Node.js 22 et expose un serveur de contrôle sur le port 18789 en mode loopback, c'est-à-dire uniquement accessible depuis la machine locale. L'agent communique avec des modèles de langage via une couche de routage configurable, dans les exemples fournis, OpenAI GPT-4o-mini est utilisé comme modèle principal, et orchestre l'exécution d'outils et de compétences personnalisées (appelées « skills ») au travers d'un plan de contrôle centralisé. L'authentification aux APIs de modèles passe par des variables d'environnement, jamais par des secrets codés en dur, et le runtime dispose d'une interface de contrôle web optionnelle accessible via le chemin /openclaw. Ce type d'architecture répond à un besoin croissant dans l'industrie : faire fonctionner des agents autonomes dans des environnements contraints, isolés du réseau public, où la confidentialité des données et la maîtrise des appels aux modèles sont non négociables. Le binding en loopback empêche toute exposition accidentelle du gateway sur le réseau local ou internet, tandis que le mécanisme de timeout configurable sur l'outil exec (1 800 secondes par défaut) et la gestion propre des processus en arrière-plan permettent d'encadrer précisément ce que l'agent est autorisé à faire. Pour les équipes travaillant sur des workflows d'automatisation sensibles, traitement de documents confidentiels, pipelines DevOps internes, assistants métier, cette approche offre un cadre de sécurité que les solutions SaaS ne peuvent garantir par construction. La capacité à définir des skills structurées, découvrables et invocables de manière déterministe par l'agent constitue également un avantage notable pour la reproductibilité des comportements en production. OpenClaw s'inscrit dans une tendance plus large de «local-first AI», portée par des projets comme Ollama pour l'inférence locale ou LM Studio pour la gestion de modèles. Face aux préoccupations réglementaires croissantes autour du traitement des données personnelles, RGPD en Europe, diverses lois sectorielles aux États-Unis, et à la méfiance envers les dépendances cloud critiques, plusieurs startups et équipes d'ingénierie cherchent à rapatrier le cycle complet de raisonnement des agents sur leur propre infrastructure. OpenClaw se positionne sur ce segment en proposant une couche d'abstraction entre le code applicatif Python ou JavaScript et les runtimes de modèles, avec une configuration déclarative en JSON. La prochaine étape logique sera probablement l'intégration native de modèles open source via des backends comme Ollama, pour s'affranchir totalement des API propriétaires tout en conservant la rigueur du contrôle d'exécution.

UELe mode local-first et l'absence de dépendance cloud facilitent la conformité RGPD pour les équipes européennes traitant des données personnelles.

💬 C'est le genre de projet qui arrive au bon moment, quand les DPO commencent à bloquer systématiquement les intégrations SaaS IA dans les grandes boîtes. Le binding loopback par défaut et la définition des skills en JSON déclaratif, c'est exactement ce qu'il faut pour convaincre une équipe sécu que ton agent ne va pas exfiltrer des données sensibles par accident. Reste à voir si l'écosystème grossit assez vite avant qu'un acteur plus connu ne sorte la même chose avec dix fois les ressources derrière.

OutilsOutil
1 source
Comment construire une intelligence de code au niveau dépôt avec Repowise : analyse de graphe, détection de code mort et contexte IA
4MarkTechPost 

Comment construire une intelligence de code au niveau dépôt avec Repowise : analyse de graphe, détection de code mort et contexte IA

Repowise est un outil d'analyse de code qui propose une approche nouvelle pour comprendre la structure interne d'un dépôt logiciel à l'échelle du projet entier. Dans ce tutoriel pratique, les auteurs l'appliquent à itsdangerous, une bibliothèque Python de référence maintenue par Pallets, afin de démontrer comment configurer l'outil, connecter un modèle de langage (Claude Sonnet 4.5 d'Anthropic ou GPT-4o mini d'OpenAI selon les clés API disponibles), puis lancer le pipeline d'indexation qui génère un ensemble d'artefacts dans un répertoire .repowise/. L'outil peut également fonctionner en mode --index-only, sans LLM, pour les environnements sans accès à une API externe. Une fois initialisé, Repowise produit un graphe de dépendances entre fichiers et modules, qu'il analyse ensuite avec des algorithmes de théorie des graphes issus de la bibliothèque NetworkX, dont PageRank pour identifier les nœuds les plus influents et la détection de communautés pour regrouper les fichiers par cluster fonctionnel. Ce type d'intelligence repository-level répond à un problème concret que rencontrent les équipes de développement sur les bases de code volumineuses : savoir quels fichiers sont critiques, lesquels sont obsolètes, et comment les modifications en cascade se propagent. La détection de code mort, paramétrée ici avec un seuil de confiance à 0,7, permet d'identifier automatiquement les fichiers supprimables sans risque. La fonctionnalité de maintenance cascade_budget limite à 10 le nombre de fichiers touchés en cascade lors d'une modification, ce qui aide à estimer l'effort réel d'un refactoring avant de le commencer. La génération automatique d'un fichier CLAUDE.md, format de documentation structurée utilisé nativement par Claude Code d'Anthropic, facilite l'intégration du contexte architectural dans les workflows assistés par IA, en donnant au modèle une carte du projet plutôt qu'un tas de fichiers bruts. L'émergence d'outils comme Repowise s'inscrit dans une tendance plus large : donner aux LLMs une compréhension structurelle du code plutôt qu'une lecture séquentielle naïve. Là où les assistants classiques lisent fichier par fichier, une approche par graphes permet de raisonner sur les dépendances, la centralité et les clusters de responsabilité. Le protocole MCP (Model Context Protocol), sur lequel s'appuie Repowise pour exposer ses outils en CLI, est l'un des standards en cours d'adoption dans l'écosystème des agents de code. Le fait que l'outil génère directement un CLAUDE.md exploitable par Claude Code suggère une intégration croissante entre les outils d'analyse statique et les agents IA, une convergence qui pourrait redéfinir la façon dont les développeurs documentent et maintiennent les grandes bases de code à l'ère des assistants intelligents.

💬 Analyser un dépôt via un graphe de dépendances pour repérer le code mort et estimer l'impact d'un refactoring avant de le lancer, c'est exactement ce qu'il manque sur les grandes codebases. Ce qui m'intéresse le plus, c'est la génération auto du CLAUDE.md : si tu travailles avec Claude Code au quotidien, avoir une carte architecturale du projet plutôt qu'un tas de fichiers à parcourir un par un, ça change vraiment la façon dont le modèle raisonne. Reste à voir si ça tient sur 500k lignes, mais le concept est là.

OutilsOutil
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic