Aller au contenu principal
Analytique LLM multi-locataires avec sécurité au niveau des lignes : comment nous avons construit un agent sécurisé sur AWS
OutilsAWS ML Blog1sem· 2 min de lecture

Analytique LLM multi-locataires avec sécurité au niveau des lignes : comment nous avons construit un agent sécurisé sur AWS

Source originale ↗·

PAR Technology Corporation, spécialiste des technologies pour la restauration qui accompagne plus de 300 entreprises du secteur, a développé un agent analytique en langage naturel capable de convertir des questions en SQL pour ses clients. L'objectif affiché : permettre à n'importe quel utilisateur, sans bagage technique, de poser une question en anglais et d'obtenir une réponse chiffrée en quelques secondes. Pour y parvenir, l'équipe a conçu une architecture à trois couches de sécurité déployée sur AWS : signature cryptographique des requêtes via AWS SigV4, validation sémantique sur Amazon Bedrock, et isolation programmatique des données par une technique baptisée Split-Plane SQL. Chaque couche fonctionne de manière indépendante, de sorte que même si le modèle de langage est compromis ou manipulé, l'exposition de données entre clients reste bloquée.

Le problème central est celui de la sécurité au niveau des lignes de données dans un environnement multi-tenant. Deux utilisateurs posant la même question, "Quelles ont été les ventes totales la semaine dernière ?", doivent recevoir des réponses radicalement différentes selon leur périmètre d'accès : 84 000 dollars pour le franchisé exploitant deux restaurants à Chicago, 9,2 millions de dollars pour le directeur de marque supervisant 200 établissements à l'échelle nationale. Afficher le chiffre national au franchisé constitue non seulement une faille de gouvernance des données, mais expose aussi des informations commercialement sensibles sur d'autres opérateurs. L'inverse prive le décideur national d'une vision complète. Ce scénario se répète sur des milliers de requêtes quotidiennes, ce qui rend toute approximation inacceptable.

L'équipe a d'abord envisagé de confier l'application des filtres directement au modèle de langage, en lui fournissant l'identifiant métier de l'utilisateur dans le prompt. Cette approche s'est révélée insuffisante : les LLM sont par nature non déterministes. Un modèle qui applique correctement un filtre dix mille fois d'affilée peut l'omettre silencieusement à la dix millième et unième requête, halluciner une valeur de filtre, ou élargir le périmètre d'une requête suite à un prompt ambigu. Dans une application grand public, cette non-déterminisme est un inconvénient. Dans un système analytique multi-tenant manipulant des données commerciales sensibles, c'est une frontière de sécurité insuffisante sur laquelle il est impossible de bâtir une posture de conformité réglementaire. PAR a donc choisi de dissocier radicalement la génération du SQL par l'IA et l'application des règles d'accès aux données, ces dernières étant imposées par des mécanismes déterministes indépendants du comportement du modèle.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Comment construire des agents IA de cybersécurité avancés avec CAI : outils, garde-fous, transferts et workflows multi-agents
1MarkTechPost 

Comment construire des agents IA de cybersécurité avancés avec CAI : outils, garde-fous, transferts et workflows multi-agents

CAI (Cybersecurity AI Framework) est un framework Python open source conçu pour construire des agents d'intelligence artificielle spécialisés en cybersécurité. Un tutoriel détaillé publié récemment démontre, étape par étape dans Google Colab, comment exploiter CAI pour créer des pipelines d'analyse de sécurité complets — depuis un agent basique jusqu'à des architectures multi-agents capables de raisonner, déléguer des tâches, valider des entrées et répondre en temps réel via streaming. Le framework s'installe en une commande (pip install cai-framework), s'appuie sur des modèles compatibles OpenAI comme GPT-4o mini, et expose des classes Python natives — Agent, Runner, function_tool, handoff — pour assembler des workflows de sécurité structurés sans infrastructure complexe. Ce que CAI change concrètement, c'est la capacité à transformer des fonctions Python ordinaires en outils d'analyse que l'agent peut invoquer de manière autonome : vérification de réputation d'adresses IP, simulation de scan de ports style nmap, orchestration de pipelines CTF (Capture The Flag), ou gestion de contexte multi-tours lors d'un incident. Les guardrails d'entrée permettent de filtrer les requêtes hors périmètre avant qu'elles n'atteignent le modèle, réduisant le bruit et les hallucinations. Les handoffs entre agents spécialisés — un agent réseau, un agent forensic, un agent de remédiation — permettent de simuler une équipe SOC entière dans un seul workflow automatisé. Pour les professionnels de la sécurité, cela signifie qu'une grande partie du triage et de l'analyse de premier niveau devient automatisable avec quelques dizaines de lignes de code. CAI s'inscrit dans une tendance plus large qui voit les frameworks d'agents IA (LangChain, AutoGen, OpenAI Agents SDK) être déclinés pour des domaines métier spécifiques. La cybersécurité est un terrain particulièrement fertile : les analystes SOC font face à des volumes d'alertes croissants, les pénétrateurs répètent des tâches de reconnaissance standardisées, et les CTF constituent un terrain d'entraînement idéal pour des agents capables de raisonnement multi-étapes. Le fait que CAI soit compatible avec n'importe quel modèle exposant une API OpenAI — y compris des modèles locaux via OpenRouter ou Ollama — le rend accessible sans dépendance à un fournisseur cloud unique. La prochaine étape naturelle pour le framework serait l'intégration avec des outils réels (Shodan, VirusTotal, SIEM) et des environnements de sandboxing pour tester des exploits sans risque, ce qui en ferait un copilote crédible pour les équipes de sécurité offensives et défensives.

OutilsOutil
1 source
Créer des agents multi-locataires avec Amazon Bedrock AgentCore
2AWS ML Blog 

Créer des agents multi-locataires avec Amazon Bedrock AgentCore

Amazon a lancé Bedrock AgentCore, un service managé et serverless conçu pour permettre aux éditeurs de logiciels SaaS de déployer des applications agentiques en environnement multi-tenant sur AWS. Le service offre des primitives pour héberger des agents et des serveurs MCP (Model Context Protocol), avec une gestion intégrée des identités, de la mémoire, de l'observabilité et des évaluations. Le coeur de son architecture repose sur des microVMs isolées par session: chaque session client obtient son propre environnement d'exécution éphémère, avec un système de fichiers persistant propre, sans le coût ni la latence d'une machine virtuelle complète. Le contexte du tenant transite via des en-têtes HTTP personnalisés, portant l'identifiant du tenant, son niveau de service, ses préférences régionales et ses droits d'accès aux outils, ce qui permet à l'agent d'adapter dynamiquement son comportement sans logique de routage codée en dur. Cette approche répond directement au fossé qui sépare un prototype fonctionnel d'un déploiement en production dans un contexte SaaS. Les architectes d'applications agentiques devaient jusqu'ici résoudre manuellement six problèmes distincts: l'isolation des tenants, la propagation de leur identité, l'observabilité par tenant, l'isolation des données, l'attribution des coûts et la mitigation du "noisy neighbor" (un tenant monopolisant les ressources au détriment des autres). AgentCore propose trois patterns d'isolation, appelés Silo, Pool et Bridge, chacun offrant un compromis différent entre protection stricte et mutualisation des coûts. Pour les éditeurs gérant des centaines ou des milliers de clients sur une même plateforme, cette capacité à choisir un modèle d'isolation par segment tarifaire change concrètement l'équation économique et de conformité. Le lancement s'inscrit dans une course des grands fournisseurs cloud à imposer leurs infrastructures agentiques comme standard de facto pour la prochaine génération d'applications IA. AWS fait face à la concurrence directe de Google avec Vertex AI Agent Builder et de Microsoft avec Azure AI Agent Service, tous trois cherchant à capter les équipes d'ingénierie qui passent de l'expérimentation à la production. L'article publié par AWS est le premier d'une série, ce qui suggère que d'autres composants d'AgentCore (évaluation, fine-tuning par tenant, facturation granulaire) seront détaillés dans les prochaines semaines. La question centrale pour les équipes SaaS reste le degré de lock-in accepté en échange de la simplicité opérationnelle qu'offre un service pleinement managé.

UELes éditeurs SaaS européens construisant sur AWS peuvent exploiter les patterns d'isolation et les préférences régionales d'AgentCore pour satisfaire les exigences de résidence des données imposées par le RGPD.

OutilsOpinion
1 source
3MarkTechPost 

« Comment construire un agent autonome de data science adapté aux GPU T4 avec DeepAnalyze-8B, exécution de code isolée et analyse itérative »

Des chercheurs ont publié un tutoriel détaillant la construction d'un agent autonome de data science reposant sur DeepAnalyze-8B, un modèle développé par RUC-DataLab, conçu pour fonctionner sur un GPU T4, la carte graphique standard proposée gratuitement par Google Colab. Le processus démarre par l'installation des dépendances nécessaires (transformers version 4.44 ou supérieure, accelerate, bitsandbytes, sentencepiece et openpyxl) puis par le chargement du modèle en mode quantifié 4 bits via la configuration BitsAndBytesConfig, avec le type de quantification nf4 et un calcul en float16. Cette quantification permet de faire tenir un modèle de 8 milliards de paramètres, pesant normalement environ 16 Go au téléchargement, sur une carte graphique disposant de seulement 16 Go de mémoire vive. Une fois le modèle chargé en mode évaluation, les auteurs construisent un environnement d'exécution sécurisé baptisé CodeSandbox, capable d'exécuter du code Python généré par le modèle avec une limite de temps de 120 secondes et une capture des sorties standard et d'erreur, avant de renvoyer les résultats au modèle pour qu'il poursuive son raisonnement. L'intérêt de cette architecture réside dans sa capacité à transformer un modèle de langage en véritable analyste de données autonome, capable d'écrire du code, de l'exécuter, d'observer les résultats concrets, puis d'ajuster son analyse en boucle, un mode de fonctionnement dit agentique. Concrètement, le système est mis à l'épreuve sur un espace de travail simulant un contexte e-commerce avec plusieurs fichiers de données à nettoyer, joindre entre eux, analyser statistiquement, visualiser sous forme de graphiques, puis résumer dans un rapport structuré digne d'un analyste professionnel. Cette approche répond à un besoin croissant des entreprises et des équipes techniques disposant de moyens de calcul limités : pouvoir déployer des agents d'analyse de données sophistiqués sans recourir à des infrastructures GPU coûteuses, en exploitant des techniques de quantification qui démocratisent l'accès à des modèles de plusieurs milliards de paramètres. Ce tutoriel s'inscrit dans une tendance plus large de développement d'agents IA capables d'exécuter du code de façon autonome et sécurisée, un enjeu central pour l'adoption de l'IA générative dans les environnements de production où la fiabilité et la maîtrise des ressources matérielles comptent autant que la puissance brute des modèles. La démarche pédagogique, pas à pas, illustre aussi comment les praticiens contournent les contraintes matérielles imposées par des plateformes gratuites comme Colab, en combinant quantification, gestion rigoureuse de la mémoire et redémarrage contrôlé du runtime. À mesure que des modèles spécialisés comme DeepAnalyze-8B se multiplient, cette méthode pourrait s'étendre à d'autres cas d'usage analytiques, ouvrant la voie à des agents data science accessibles à des équipes ne disposant pas de clusters GPU dédiés.

💬 C'est le genre de tuto qu'on attendait depuis un moment : un agent data science complet qui tourne sur le T4 gratuit de Colab, pas sur un cluster à plusieurs milliers d'euros. La quantification 4 bits fait le boulot, elle loge un modèle de 8 milliards de paramètres dans 16 Go de VRAM, et ça confirme une tendance de fond : l'agentique n'a plus besoin d'infrastructure de luxe pour être crédible. Bon, sur le papier ça tourne bien sur un cas d'école e-commerce bien propre, reste à voir si ça tient face à des données vraiment sales.

OutilsTuto
1 source
Construire un runtime d'agents local-first sécurisé avec OpenClaw Gateway, skills et exécution contrôlée des outils
4MarkTechPost 

Construire un runtime d'agents local-first sécurisé avec OpenClaw Gateway, skills et exécution contrôlée des outils

OpenClaw Gateway s'impose progressivement comme une solution de référence pour les développeurs souhaitant déployer des agents IA en environnement local, sans dépendance à une infrastructure cloud tierce. Le projet, distribué via npm sous le nom openclaw, s'installe en quelques commandes sur Node.js 22 et expose un serveur de contrôle sur le port 18789 en mode loopback, c'est-à-dire uniquement accessible depuis la machine locale. L'agent communique avec des modèles de langage via une couche de routage configurable, dans les exemples fournis, OpenAI GPT-4o-mini est utilisé comme modèle principal, et orchestre l'exécution d'outils et de compétences personnalisées (appelées « skills ») au travers d'un plan de contrôle centralisé. L'authentification aux APIs de modèles passe par des variables d'environnement, jamais par des secrets codés en dur, et le runtime dispose d'une interface de contrôle web optionnelle accessible via le chemin /openclaw. Ce type d'architecture répond à un besoin croissant dans l'industrie : faire fonctionner des agents autonomes dans des environnements contraints, isolés du réseau public, où la confidentialité des données et la maîtrise des appels aux modèles sont non négociables. Le binding en loopback empêche toute exposition accidentelle du gateway sur le réseau local ou internet, tandis que le mécanisme de timeout configurable sur l'outil exec (1 800 secondes par défaut) et la gestion propre des processus en arrière-plan permettent d'encadrer précisément ce que l'agent est autorisé à faire. Pour les équipes travaillant sur des workflows d'automatisation sensibles, traitement de documents confidentiels, pipelines DevOps internes, assistants métier, cette approche offre un cadre de sécurité que les solutions SaaS ne peuvent garantir par construction. La capacité à définir des skills structurées, découvrables et invocables de manière déterministe par l'agent constitue également un avantage notable pour la reproductibilité des comportements en production. OpenClaw s'inscrit dans une tendance plus large de «local-first AI», portée par des projets comme Ollama pour l'inférence locale ou LM Studio pour la gestion de modèles. Face aux préoccupations réglementaires croissantes autour du traitement des données personnelles, RGPD en Europe, diverses lois sectorielles aux États-Unis, et à la méfiance envers les dépendances cloud critiques, plusieurs startups et équipes d'ingénierie cherchent à rapatrier le cycle complet de raisonnement des agents sur leur propre infrastructure. OpenClaw se positionne sur ce segment en proposant une couche d'abstraction entre le code applicatif Python ou JavaScript et les runtimes de modèles, avec une configuration déclarative en JSON. La prochaine étape logique sera probablement l'intégration native de modèles open source via des backends comme Ollama, pour s'affranchir totalement des API propriétaires tout en conservant la rigueur du contrôle d'exécution.

UELe mode local-first et l'absence de dépendance cloud facilitent la conformité RGPD pour les équipes européennes traitant des données personnelles.

💬 C'est le genre de projet qui arrive au bon moment, quand les DPO commencent à bloquer systématiquement les intégrations SaaS IA dans les grandes boîtes. Le binding loopback par défaut et la définition des skills en JSON déclaratif, c'est exactement ce qu'il faut pour convaincre une équipe sécu que ton agent ne va pas exfiltrer des données sensibles par accident. Reste à voir si l'écosystème grossit assez vite avant qu'un acteur plus connu ne sorte la même chose avec dix fois les ressources derrière.

OutilsOutil
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic