Aller au contenu principal
OutilsMarkTechPost1h

Comment créer des pipelines de génération de graphes de connaissances à partir de texte avec kg-gen, NetworkX et des visualisations interactives

Résumé IASource uniqueImpact UE
Source originale ↗·

Une équipe de chercheurs de l'Université Stanford a publié un tutoriel complet présentant kg-gen, une bibliothèque Python open source permettant de générer automatiquement des graphes de connaissances à partir de texte non structuré. Le workflow décrit s'appuie sur trois outils principaux : kg-gen pour l'extraction des entités et relations, NetworkX pour l'analyse des structures de graphes, et PyVis ainsi que Matplotlib pour la visualisation interactive. Le processus repose sur un modèle de langage configuré via LiteLLM, une couche d'abstraction qui permet de brancher indifféremment GPT-4o-mini d'OpenAI, Claude d'Anthropic, Gemini de Google ou des modèles locaux via Ollama. À partir d'un texte simple, « Linda est la mère de Josh, Ben est son frère, Andrew son père, Josh étudie à Stanford », kg-gen identifie automatiquement les entités (Linda, Josh, Ben, Stanford) et les relations sémantiques qui les lient sous forme de triplets sujet-prédicat-objet. Pour les passages plus longs, la bibliothèque intègre un mécanisme de découpage par chunks de 800 caractères et un algorithme de clustering qui regroupe les entités synonymes, évitant ainsi les doublons lorsqu'un même concept apparaît sous plusieurs formes dans le texte source.

L'intérêt concret de cet outil réside dans sa capacité à transformer des corpus textuels volumineux et désordonnés en structures de données navigables et interrogeables. Pour les équipes data, les chercheurs ou les développeurs travaillant sur des bases documentaires, cela représente un gain significatif : là où il fallait annoter manuellement les relations entre concepts, kg-gen automatise l'extraction en quelques lignes de code. Le graphe résultant peut ensuite être analysé avec NetworkX pour identifier les nœuds les plus connectés, détecter des communautés thématiques, ou mesurer la centralité de certains acteurs dans un corpus. La visualisation interactive via PyVis permet de naviguer dans le graphe directement dans un notebook Jupyter ou un navigateur, ce qui ouvre des usages en veille technologique, en analyse de réseaux d'influence ou en construction de bases de connaissances pour des systèmes RAG.

kg-gen a été développé à Stanford et s'appuie en interne sur DSPy, un framework de programmation déclarative pour les LLM, pour garantir des sorties structurées et reproductibles. LiteLLM, qui sert de couche de routage, supporte une quarantaine de fournisseurs de modèles, ce qui rend le pipeline indépendant d'un prestataire unique. Ce tutoriel s'inscrit dans une tendance plus large visant à combiner les grands modèles de langage avec des représentations symboliques du savoir, à mi-chemin entre les approches purement neuronales et les systèmes expert classiques. Plusieurs grandes entreprises tech explorent cette direction pour améliorer la fiabilité des réponses de leurs IA, notamment en réduisant les hallucinations en ancrant le raisonnement dans un graphe de faits vérifiables. La prochaine étape naturelle du projet consiste à fusionner des graphes issus de sources multiples, un problème d'alignement d'entités que kg-gen aborde également dans les sections avancées du tutoriel.

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Guide de programmation pour créer des pipelines avancés d'analyse de documents avec Google LangExtract, OpenAI et visualisation interactive
1MarkTechPost 

Guide de programmation pour créer des pipelines avancés d'analyse de documents avec Google LangExtract, OpenAI et visualisation interactive

Google a publié LangExtract, une bibliothèque Python conçue pour transformer des documents textuels non structurés en données exploitables par machine, en s'appuyant sur les modèles de langage d'OpenAI. L'outil s'intègre directement avec l'API OpenAI, notamment le modèle gpt-4o-mini, et permet d'analyser une large variété de documents : contrats juridiques, comptes-rendus de réunion, annonces produits ou journaux d'opérations. Le pipeline d'extraction repose sur des prompts configurables et des exemples annotés fournis par le développeur, à partir desquels LangExtract identifie des entités, des obligations, des délais, des risques ou des clauses spécifiques, tout en ancrant chaque résultat à sa position exacte dans le texte source via des intervalles de caractères. Les sorties sont générées en double format : JSONL pour le traitement programmatique, et HTML interactif pour la visualisation directe dans un environnement notebook. L'intérêt concret de LangExtract réside dans sa capacité à industrialiser l'analyse documentaire sans infrastructure lourde. Là où la lecture manuelle de centaines de contrats ou de rapports mobilise des équipes entières, un pipeline LangExtract peut extraire automatiquement les parties contractantes, les conditions de paiement, les pénalités ou les clauses de résiliation, et les organiser en tableaux Pandas directement exploitables pour des workflows d'automatisation ou des systèmes décisionnels. Pour les équipes juridiques, financières ou opérationnelles, cela représente un gain de temps considérable et une réduction des erreurs humaines sur des tâches répétitives à fort enjeu. La bibliothèque supporte également le traitement parallèle via un paramètre max_workers, ce qui rend l'approche viable à l'échelle. LangExtract s'inscrit dans une tendance plus large d'outillage autour des LLM pour l'extraction d'information structurée, un domaine en pleine expansion depuis que les modèles de fondation ont démontré leur capacité à comprendre des textes complexes. Google positionne ici un outil de niveau intermédiaire : plus accessible que de coder une chaîne d'extraction LLM from scratch, mais plus flexible que les solutions no-code. La dépendance à l'API OpenAI (et donc à gpt-4o-mini ou ses successeurs) implique des coûts variables selon le volume de documents traités, ce qui constitue une limite pour les déploiements à très grande échelle. La prochaine évolution attendue de ce type d'outil serait la compatibilité avec des modèles open-source locaux comme Ollama, afin de supprimer cette dépendance externe et de traiter des documents sensibles sans sortir les données du périmètre de l'entreprise.

OutilsOutil
1 source
Le Context Bridge d'IWE : graphe de connaissances IA avec RAG à base d'agents et appels de fonctions OpenAI
2MarkTechPost 

Le Context Bridge d'IWE : graphe de connaissances IA avec RAG à base d'agents et appels de fonctions OpenAI

Un tutoriel publié récemment sur la plateforme analytique Towards Data Science détaille l'implémentation d'IWE, un système open-source de gestion des connaissances personnelles écrit en Rust, transformé en graphe de connaissances piloté par intelligence artificielle. Le projet s'appuie sur l'API OpenAI, la bibliothèque Python Graphviz et un pipeline RAG agentique (Retrieval-Augmented Generation) pour permettre à un agent IA de naviguer dans des notes Markdown interconnectées. Concrètement, le tutoriel guide le développeur dans la construction d'une base de connaissances complète à partir de zéro : chaque note devient un nœud dans un graphe orienté, les liens wiki ([[note]]) et les liens Markdown standard constituent les arêtes, et IWE expose ses opérations clés via une interface CLI — recherche floue (find), récupération contextuelle (retrieve), affichage de hiérarchie (tree), consolidation de documents (squash), statistiques (stats) et export au format DOT pour visualisation. L'intérêt concret de cette architecture réside dans la capacité d'un agent à effectuer un raisonnement multi-sauts entre documents reliés, à identifier des lacunes dans la base de connaissances et à générer automatiquement de nouvelles notes qui s'intègrent dans la structure existante. Pour les développeurs et les équipes techniques, cela représente un changement significatif dans la façon d'exploiter la documentation interne : au lieu de chercher manuellement dans des dossiers de notes, un agent invoque des outils de function calling OpenAI pour traverser le graphe, extraire des résumés, suggérer des liens manquants et isoler les tâches à accomplir (todo extraction). La précision du graphe de rétroliens — chaque document connaît ses documents référents — permet un contexte réellement pertinent transmis au modèle de langage, contrairement aux approches RAG classiques basées sur la similarité vectorielle seule. IWE s'inscrit dans un mouvement plus large autour des systèmes de gestion des connaissances personnelles (PKM) popularisés par des outils comme Obsidian ou Roam Research, mais avec une philosophie orientée développeur : tout est fichier texte, tout est scriptable, et le LSP (Language Server Protocol) permet une intégration directe dans les éditeurs de code comme Neovim ou VS Code. En greffant OpenAI par-dessus cette infrastructure légère, le tutoriel illustre une tendance croissante dans l'outillage IA : plutôt que de recourir à des plateformes centralisées et coûteuses, construire des pipelines agentiques sur des bases de connaissances locales, contrôlées, versionnées sous Git. La prochaine étape logique pour ce type de système serait l'intégration de modèles locaux via Ollama, afin de s'affranchir totalement des API externes pour les cas d'usage sensibles ou hors-ligne.

OutilsOutil
1 source
Comment créer une base de connaissances IA entièrement interrogeable avec OpenKB, OpenRouter et Llama
3MarkTechPost 

Comment créer une base de connaissances IA entièrement interrogeable avec OpenKB, OpenRouter et Llama

Un tutoriel publié récemment détaille comment construire une base de connaissances locale entièrement interrogeable en combinant trois outils : OpenKB, la plateforme OpenRouter et le modèle Llama 3.3 70B de Meta, accessible gratuitement sans carte bancaire. Le guide couvre l'ensemble du pipeline, de l'installation d'OpenKB via pip jusqu'à l'interrogation structurée de documents Markdown, en passant par la génération automatique de résumés et de pages conceptuelles au format wiki. La clé API OpenRouter est récupérée de façon sécurisée via la bibliothèque Python getpass, sans jamais être inscrite en dur dans le code. Le résultat est un système de connaissance navigable, avec gestion des liens croisés entre pages, capable de répondre à des requêtes en langage naturel et d'être mis à jour de manière incrémentale. Ce type d'architecture présente un intérêt concret pour les développeurs, chercheurs et équipes qui souhaitent organiser et interroger des corpus de documents internes sans envoyer leurs données vers des services cloud payants. En s'appuyant sur un modèle de 70 milliards de paramètres disponible gratuitement via OpenRouter, l'approche élimine le coût d'inférence tout en offrant des capacités de synthèse comparables à des solutions propriétaires. La possibilité d'analyser programmatiquement les relations entre pages et les liens croisés ouvre également des usages avancés : cartographie de concepts, détection de lacunes documentaires, ou navigation thématique automatisée dans de larges volumes de texte. L'émergence de ce genre de tutoriel s'inscrit dans une tendance plus large de démocratisation des outils RAG (retrieval-augmented generation), qui permettent d'ancrer les réponses d'un LLM dans une base documentaire locale plutôt que dans ses seuls paramètres d'entraînement. OpenRouter joue ici un rôle d'intermédiaire unifié, donnant accès à des dizaines de modèles open source via une API commune, ce qui réduit la friction technique pour expérimenter. OpenKB, de son côté, se positionne comme une couche d'abstraction au-dessus de ces modèles, spécialisée dans la structuration wiki et la navigation sémantique. Alors que des acteurs comme Notion AI ou Confluence intègrent des fonctions similaires dans des produits fermés, des solutions comme celle-ci permettent de garder le contrôle total sur les données et l'infrastructure, un enjeu croissant pour les entreprises soumises à des contraintes de confidentialité ou de souveraineté.

UECette architecture locale répond directement aux enjeux de souveraineté des données pour les entreprises et administrations européennes soumises au RGPD et aux contraintes de confidentialité.

OutilsTuto
1 source
Comment construire une intelligence de code au niveau dépôt avec Repowise : analyse de graphe, détection de code mort et contexte IA
4MarkTechPost 

Comment construire une intelligence de code au niveau dépôt avec Repowise : analyse de graphe, détection de code mort et contexte IA

Repowise est un outil d'analyse de code qui propose une approche nouvelle pour comprendre la structure interne d'un dépôt logiciel à l'échelle du projet entier. Dans ce tutoriel pratique, les auteurs l'appliquent à itsdangerous, une bibliothèque Python de référence maintenue par Pallets, afin de démontrer comment configurer l'outil, connecter un modèle de langage (Claude Sonnet 4.5 d'Anthropic ou GPT-4o mini d'OpenAI selon les clés API disponibles), puis lancer le pipeline d'indexation qui génère un ensemble d'artefacts dans un répertoire .repowise/. L'outil peut également fonctionner en mode --index-only, sans LLM, pour les environnements sans accès à une API externe. Une fois initialisé, Repowise produit un graphe de dépendances entre fichiers et modules, qu'il analyse ensuite avec des algorithmes de théorie des graphes issus de la bibliothèque NetworkX, dont PageRank pour identifier les nœuds les plus influents et la détection de communautés pour regrouper les fichiers par cluster fonctionnel. Ce type d'intelligence repository-level répond à un problème concret que rencontrent les équipes de développement sur les bases de code volumineuses : savoir quels fichiers sont critiques, lesquels sont obsolètes, et comment les modifications en cascade se propagent. La détection de code mort, paramétrée ici avec un seuil de confiance à 0,7, permet d'identifier automatiquement les fichiers supprimables sans risque. La fonctionnalité de maintenance cascade_budget limite à 10 le nombre de fichiers touchés en cascade lors d'une modification, ce qui aide à estimer l'effort réel d'un refactoring avant de le commencer. La génération automatique d'un fichier CLAUDE.md, format de documentation structurée utilisé nativement par Claude Code d'Anthropic, facilite l'intégration du contexte architectural dans les workflows assistés par IA, en donnant au modèle une carte du projet plutôt qu'un tas de fichiers bruts. L'émergence d'outils comme Repowise s'inscrit dans une tendance plus large : donner aux LLMs une compréhension structurelle du code plutôt qu'une lecture séquentielle naïve. Là où les assistants classiques lisent fichier par fichier, une approche par graphes permet de raisonner sur les dépendances, la centralité et les clusters de responsabilité. Le protocole MCP (Model Context Protocol), sur lequel s'appuie Repowise pour exposer ses outils en CLI, est l'un des standards en cours d'adoption dans l'écosystème des agents de code. Le fait que l'outil génère directement un CLAUDE.md exploitable par Claude Code suggère une intégration croissante entre les outils d'analyse statique et les agents IA, une convergence qui pourrait redéfinir la façon dont les développeurs documentent et maintiennent les grandes bases de code à l'ère des assistants intelligents.

💬 Analyser un dépôt via un graphe de dépendances pour repérer le code mort et estimer l'impact d'un refactoring avant de le lancer, c'est exactement ce qu'il manque sur les grandes codebases. Ce qui m'intéresse le plus, c'est la génération auto du CLAUDE.md : si tu travailles avec Claude Code au quotidien, avoir une carte architecturale du projet plutôt qu'un tas de fichiers à parcourir un par un, ça change vraiment la façon dont le modèle raisonne. Reste à voir si ça tient sur 500k lignes, mais le concept est là.

OutilsOutil
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour