Architectures avancées pour le RAG enrichi par graphes : dépasser la recherche vectorielle en production

Le RAG vectoriel standard, qui consiste à découper des documents en fragments, les encoder dans une base vectorielle et récupérer les résultats les plus proches par similarité cosinus, s'impose depuis plusieurs années comme l'architecture de référence pour ancrer les grands modèles de langage dans des données privées. Mais pour des domaines métier fortement interconnectés comme la chaîne d'approvisionnement, la conformité financière ou la détection de fraude, cette approche atteint rapidement ses limites. Elle capture la similarité sémantique mais ignore la structure. Un modèle ne peut pas répondre à la question "Comment le retard sur le composant X va-t-il affecter la livraison Q3 du client Y ?" si la base vectorielle ne "sait" pas que ce composant fait partie de cette livraison. C'est le problème documenté dans cet article par des ingénieurs ayant travaillé sur les systèmes de logging haute performance de Meta et l'infrastructure de données privées chez Cognee.

La solution proposée est une architecture hybride dite "Graph RAG", combinant recherche vectorielle et base de données graphe. Concrètement, lors de l'ingestion des documents, un modèle LLM ou un système de reconnaissance d'entités nommées (NER) extrait les entités et les relations pour les stocker dans un graphe Neo4j, les embeddings vectoriels étant conservés comme propriétés des noeuds. À la requête, le système effectue d'abord un scan vectoriel pour identifier des points d'entrée sémantiquement pertinents, puis traverse les relations du graphe pour reconstituer le contexte structurel complet. L'exemple illustratif est parlant: une recherche vectorielle sur "risques de production" récupère bien un article signalant des inondations en Thaïlande ayant arrêté l'usine d'un fournisseur A, mais sans lien explicite vers les usines clientes en aval, le modèle hallucine ou répond "je ne sais pas" alors que l'information est présente dans le système. Avec le graphe, une requête Cypher permet de traverser les dépendances fournisseur vers usine et de remonter l'impact réel.

L'article s'inscrit dans une évolution structurelle de l'ingénierie RAG en production. La leçon clé tirée de Meta est que la structure doit être imposée à l'ingestion, pas reconstruite après coup à partir de données désordonnées. Cette approche "Flat RAG vers Graph RAG" répond à une demande croissante des entreprises qui déploient des LLM sur des données opérationnelles complexes, où les réponses incorrectes ont des conséquences business directes. Neo4j est actuellement le principal acteur côté base de données graphe, tandis que des startups comme Cognee cherchent à industrialiser cette couche d'extraction de connaissance. Les prochaines étapes naturelles incluent la mise à l'échelle de l'extraction d'entités en temps réel et l'intégration de ces architectures dans les frameworks d'agents LLM comme LangGraph ou LlamaIndex.