Comment Octave a construit une base d'IA multi-locataire sécurisée sur Amazon Bedrock

L'enjeu est considérable dans les secteurs réglementés. Les enseignements d'un défaut déjà instruit, d'une CAPA ayant réglé une cause racine ou d'un constat d'audit similaire dorment dans des milliards de documents que personne ne peut explorer par similarité sémantique, entre langues et formats. Chaque enquête repart donc de zéro. Or ces mêmes données, réclamations, audits et actions correctives, sont les plus sensibles de la plateforme. Chaque client constitue un locataire distinct, et la moindre fuite d'un client vers un autre aurait des conséquences réglementaires bien supérieures au bénéfice de l'IA. Le raisonnement dépasse la qualité industrielle : il vaut pour toute plateforme SaaS dont les données ont de la valeur et où l'isolation n'est pas négociable.

Avant de choisir un modèle, l'équipe a identifié des tensions qui tiraient dans des directions opposées. Il fallait rendre les données exploitables sans risque de divulgation involontaire, en limitant à un seul locataire le magasin de vecteurs, la logique de récupération et le contexte de génération. Il fallait aussi exécuter les agents de façon isolée : leurs permissions sur les outils, les données et les modèles devaient dépendre de l'utilisateur demandeur, n'exister que pendant l'exécution et respecter ses droits d'accès, ce qu'un pool d'agents partagé avec des identifiants statiques ne permettait pas. Enfin, les agents lisent des contenus extérieurs non fiables, comme des plaintes, des pièces jointes, des PDF numérisés et des images, ce qui expose aux risques répertoriés par l'OWASP pour les grands modèles de langage. Face à cela, l'équipe a inversé la démarche habituelle : construire d'abord la plateforme horizontale, puis y découper des tranches verticales par fonctionnalité, en commençant par le tri des réclamations pour éprouver l'architecture avant d'étendre le dispositif aux autres cas d'usage.