Aller au contenu principal
Concevoir un pipeline de récupération et reclassement haute précision avec le reranker Zerank-2 de ZeroEntropy
OutilsMarkTechPost6sem· 2 min de lecture

Concevoir un pipeline de récupération et reclassement haute précision avec le reranker Zerank-2 de ZeroEntropy

Source originale ↗·

ZeroEntropy a publié Zerank-2, un modèle de reranking basé sur l'architecture Qwen3 avec 4 milliards de paramètres, conçu pour améliorer la précision des systèmes de recherche documentaire. Ce cross-encoder fonctionne selon une logique différente des modèles de récupération classiques : au lieu de comparer des vecteurs d'embeddings indépendants, il analyse conjointement chaque paire requête-document pour produire un score de pertinence calibré. Le modèle, accessible via l'identifiant zeroentropy/zerank-2-reranker sur HuggingFace, pèse environ 8 Go en mémoire GPU et s'intègre directement dans la bibliothèque sentence-transformers. Un tutoriel complet illustre son usage à travers des cas concrets en finance, droit et code, avec une évaluation quantitative via la métrique NDCG@10.

L'apport principal de ce type de système réside dans l'architecture en deux étapes qu'il rend possible. Un premier modèle léger dit bi-encoder récupère rapidement un ensemble de candidats depuis une large base documentaire, puis Zerank-2 reclasse ces candidats avec une précision bien supérieure, au prix d'un calcul plus intensif mais limité à un sous-ensemble réduit. Cette combinaison permet d'atteindre la précision d'un cross-encoder sans en subir le coût computationnel à grande échelle. Pour les équipes qui construisent des moteurs de recherche d'entreprise, des pipelines RAG (Retrieval-Augmented Generation) ou des systèmes de questions-réponses, ce gain de précision peut être décisif : un reranker bien calibré réduit les hallucinations des LLM en leur fournissant des passages réellement pertinents, et améliore la satisfaction des utilisateurs finaux sur des requêtes complexes ou ambiguës.

Le reranking est devenu un composant central dans l'écosystème RAG depuis que les limites des bi-encoders seuls sont bien documentées : ces modèles encodent requête et document séparément, perdant les interactions fines entre les deux. Des acteurs comme Cohere avec son modèle rerank-v3, ou Jina AI avec jina-reranker-v2, ont popularisé cette approche ces deux dernières années. ZeroEntropy entre sur ce marché avec un modèle open-source de 4 milliards de paramètres, une taille qui le rend déployable sur des GPU grand public tout en offrant des performances compétitives. La base Qwen3, développée par Alibaba et reconnue pour son efficacité en contexte multilingue, confère à Zerank-2 une robustesse potentielle sur des corpus non exclusivement anglophones. La prochaine étape naturelle pour les équipes qui adoptent cet outil sera d'évaluer ses performances sur des benchmarks standardisés comme BEIR, et d'explorer son intégration dans des frameworks RAG populaires tels que LangChain ou LlamaIndex.

Impact France/UE

La base Qwen3 multilingue de Zerank-2 peut avantager les équipes françaises et européennes construisant des pipelines RAG sur des corpus en français.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Traiter des PDF et en extraire des insights : concevoir un pipeline intelligent avec les services IA générative d'AWS
1AWS ML Blog 

Traiter des PDF et en extraire des insights : concevoir un pipeline intelligent avec les services IA générative d'AWS

Amazon Web Services a dévoilé une architecture complète de traitement intelligent de documents reposant sur ses services d'IA générative, notamment Amazon Bedrock Data Automation (BDA). Ce service unifié permet d'extraire des informations structurées depuis des documents multimodaux, PDF, images, vidéos, fichiers audio, avec une capacité allant jusqu'à 3 000 pages et 500 Mo par requête API. Contrairement aux solutions OCR classiques qui se limitent à l'extraction de texte brut, BDA analyse le contexte, classe automatiquement chaque section d'un document dans la bonne catégorie, l'associe au bon modèle de traitement, et fournit des scores de confiance sur les données extraites. L'architecture s'appuie sur quatre couches intégrées : ingestion des fichiers via Amazon S3, extraction et stockage avec DynamoDB, couche d'intelligence sémantique via Amazon Bedrock Knowledge Base, et coordination agentique par des agents spécialisés hébergés sur Amazon Bedrock AgentCore Runtime, orchestrés par AWS Step Functions. Pour les organisations qui traitent chaque jour des millions de documents, contrats juridiques, dossiers médicaux, factures, déclarations d'assurance, cette solution répond à un goulot d'étranglement majeur : l'intervention humaine obligatoire dans les pipelines traditionnels. En automatisant la classification, la normalisation et la validation des données, BDA réduit les coûts opérationnels, accélère les délais de traitement et limite les erreurs de saisie. La capacité à relier plusieurs documents entre eux via une base de connaissances sémantique permet également des analyses croisées impossibles avec les approches OCR conventionnelles, ouvrant la voie à des cas d'usage comme l'audit automatisé de contrats ou l'analyse comparative de rapports financiers. Ce lancement s'inscrit dans une course que se livrent les grands fournisseurs cloud, AWS, Microsoft Azure et Google Cloud, pour proposer des pipelines documentaires clé en main à destination des entreprises. AWS positionne BDA comme une réponse directe aux limites des solutions point-à-point qui nécessitaient jusqu'ici d'assembler manuellement des modèles OCR, des LLM et des orchestrateurs distincts. En intégrant l'ensemble dans une API unifiée au sein de Bedrock, Amazon cherche à réduire la friction technique pour les équipes data et à accélérer l'adoption de l'IA générative dans des secteurs très réglementés comme la finance, la santé et le droit. Les prochaines évolutions attendues concernent l'élargissement des formats supportés et le renforcement des capacités d'analyse de graphiques et de visualisations complexes embarqués dans les documents.

UELes entreprises européennes des secteurs réglementés (finance, santé, droit) peuvent adopter BDA via AWS pour automatiser leurs pipelines documentaires, sous réserve de conformité RGPD quant au stockage des données dans les régions AWS européennes.

OutilsOutil
1 source
Le titre traduit : « Tutoriel RAG-Anything : créer un pipeline de récupération multimodal pour texte, tableaux, équations et images dans Colab »
2MarkTechPost 

Le titre traduit : « Tutoriel RAG-Anything : créer un pipeline de récupération multimodal pour texte, tableaux, équations et images dans Colab »

Un tutoriel publié sur MarkTechPost détaille la construction d'un pipeline de récupération multimodale baptisé RAG-Anything, conçu pour traiter simultanément du texte, des tableaux, des équations et des images au sein d'un notebook Google Colab. Le processus démarre par l'installation des dépendances nécessaires, notamment les bibliothèques raganything avec les extensions image et texte, le SDK OpenAI en version 1.0.0 ou supérieure, ainsi que reportlab, pandas, matplotlib et tabulate. Une attention particulière est portée à la bibliothèque Pillow, réinstallée en version 11.3.0 pour éviter les conflits de dépendances, avec un nettoyage systématique du cache des modules Python avant et après cette opération. Le tutoriel configure ensuite un environnement de travail structuré avec des répertoires dédiés aux ressources, aux sorties, au stockage et aux journaux, tout en définissant des paramètres d'exécution comme une taille de chunk de 900 caractères, un chevauchement de 120 caractères et un délai d'expiration de 240 secondes pour les appels aux modèles. La clé API OpenAI est saisie de façon sécurisée au moment de l'exécution plutôt que stockée en dur, une pratique destinée à garder le notebook sûr à partager et à réutiliser. Ce type de démonstration importe car il illustre une tendance de fond dans le développement d'applications basées sur les grands modèles de langage : le passage de systèmes de récupération d'information limités au texte brut vers des architectures capables d'ingérer des documents complexes mêlant graphiques, tableaux de données et formules mathématiques. Pour les équipes techniques qui construisent des assistants documentaires, des outils de recherche interne ou des chatbots d'entreprise, la capacité à interroger un rapport contenant à la fois du texte narratif et des visualisations sans perte d'information représente un gain concret de fidélité et de pertinence des réponses. Le tutoriel montre également comment configurer des fonctions distinctes pour le chat, la vision et les embeddings via l'API OpenAI, une architecture modulaire qui permet d'adapter chaque composant du pipeline à un modèle spécifique selon les besoins de coût ou de performance. Le contexte plus large de ce tutoriel s'inscrit dans l'essor rapide des architectures RAG, ou génération augmentée par récupération, qui combinent des bases de connaissances externes avec la puissance générative des modèles de langage pour produire des réponses ancrées dans des données réelles et vérifiables. Alors que la première génération d'outils RAG se concentrait presque exclusivement sur des corpus textuels, la demande croissante pour des systèmes capables de traiter des rapports financiers, des articles scientifiques ou des documents techniques riches en tableaux et en schémas a poussé des projets comme RAG-Anything à émerger. Le tutoriel teste plusieurs modes de récupération, naïf, local, global et hybride, chacun offrant un compromis différent entre rapidité, précision et compréhension contextuelle. Cette diversité de modes reflète les choix auxquels sont confrontées les équipes qui déploient ces systèmes en production, où le bon équilibre dépend souvent de la nature des documents traités et du volume de requêtes à traiter.

OutilsTuto
1 source
Construire un pipeline de prévision avec TimeCopilot : modèles de fondation et détection automatique d'anomalies
3MarkTechPost 

Construire un pipeline de prévision avec TimeCopilot : modèles de fondation et détection automatique d'anomalies

TimeCopilot, une librairie Python open source dédiée à la prévision de séries temporelles, propose un pipeline complet combinant modèles statistiques classiques, modèles de fondation et détection automatique d'anomalies. Un tutoriel récent détaille comment construire un tel workflow de bout en bout : après installation via pip, l'utilisateur charge le jeu de données AirPassengers (série mensuelle historique de passagers aériens) et y adjoint une série synthétique saisonnière dans laquelle trois anomalies ont été artificiellement injectées aux indices 30, 75 et 120 en multipliant les valeurs par 2,2. Le panel ainsi constitué est soumis à une batterie de modèles : les statistiques AutoARIMA, AutoETS, Theta et SeasonalNaive, le modèle Prophet de Meta, et les modèles de fondation Chronos d'Amazon (versions chronos-bolt-small ou chronos-bolt-tiny selon la disponibilité d'un GPU) et TimesFM 2.0 de Google (500 millions de paramètres, activé uniquement en présence d'un GPU). Un agent LLM intégré à TimeCopilot peut ensuite sélectionner automatiquement le meilleur modèle et restituer les prédictions dans un format analytique accessible à un non-spécialiste. L'intérêt de cette approche réside dans la mise en compétition automatisée de plusieurs familles de modèles via une validation croisée glissante assortie de plusieurs métriques d'erreur, ce qui permet d'identifier objectivement le modèle le plus performant sur chaque série. TimeCopilot unifie dans une seule interface des approches radicalement différentes, des méthodes statistiques légères tournant sur CPU aux grands modèles de fondation pré-entraînés sur des milliards de points de données, sans obliger l'utilisateur à jongler entre bibliothèques hétérogènes. La génération d'intervalles de prédiction probabilistes et la visualisation des tendances futures permettent de quantifier l'incertitude, une exigence critique en planification opérationnelle. La détection d'observations inhabituelles intégrée au même pipeline réduit le risque de biais causé par des événements exceptionnels non filtrés. Ce tutoriel s'inscrit dans une tendance plus large : depuis 2023, les modèles de fondation pour séries temporelles cherchent à reproduire pour la prévision ce que les grands modèles de langage ont accompli pour le texte, c'est-à-dire des modèles pré-entraînés capables de généraliser sans réentraînement spécifique. Chronos d'Amazon, TimesFM de Google et Moirai de Salesforce se livrent une concurrence directe sur ce créneau. TimeCopilot se positionne comme une couche d'orchestration neutre, permettant de comparer ces nouveaux modèles aux méthodes classiques dans des conditions équivalentes. L'ajout d'un agent LLM capable d'interpréter les prévisions en langage naturel signale une convergence entre prévision quantitative et IA générative qui commence à séduire les équipes data souhaitant rendre leurs analyses accessibles à des décideurs non techniques.

💬 La course aux modèles de fondation pour séries temporelles, c'est le même film que pour les LLMs il y a deux ans : Chronos chez Amazon, TimesFM chez Google, Moirai chez Salesforce. C'est le genre de convergence que j'attendais, et TimeCopilot arrive au bon moment en permettant enfin de comparer ces nouveaux modèles aux méthodes classiques dans les mêmes conditions, sans jongler entre cinq bibliothèques différentes. Reste à voir si ces mastodontes pré-entraînés sortent gagnants face à un bon AutoARIMA sur de vraies séries métier.

OutilsOutil
1 source
Comment créer des pipelines de génération de graphes de connaissances à partir de texte avec kg-gen, NetworkX et des visualisations interactives
4MarkTechPost 

Comment créer des pipelines de génération de graphes de connaissances à partir de texte avec kg-gen, NetworkX et des visualisations interactives

Une équipe de chercheurs de l'Université Stanford a publié un tutoriel complet présentant kg-gen, une bibliothèque Python open source permettant de générer automatiquement des graphes de connaissances à partir de texte non structuré. Le workflow décrit s'appuie sur trois outils principaux : kg-gen pour l'extraction des entités et relations, NetworkX pour l'analyse des structures de graphes, et PyVis ainsi que Matplotlib pour la visualisation interactive. Le processus repose sur un modèle de langage configuré via LiteLLM, une couche d'abstraction qui permet de brancher indifféremment GPT-4o-mini d'OpenAI, Claude d'Anthropic, Gemini de Google ou des modèles locaux via Ollama. À partir d'un texte simple, « Linda est la mère de Josh, Ben est son frère, Andrew son père, Josh étudie à Stanford », kg-gen identifie automatiquement les entités (Linda, Josh, Ben, Stanford) et les relations sémantiques qui les lient sous forme de triplets sujet-prédicat-objet. Pour les passages plus longs, la bibliothèque intègre un mécanisme de découpage par chunks de 800 caractères et un algorithme de clustering qui regroupe les entités synonymes, évitant ainsi les doublons lorsqu'un même concept apparaît sous plusieurs formes dans le texte source. L'intérêt concret de cet outil réside dans sa capacité à transformer des corpus textuels volumineux et désordonnés en structures de données navigables et interrogeables. Pour les équipes data, les chercheurs ou les développeurs travaillant sur des bases documentaires, cela représente un gain significatif : là où il fallait annoter manuellement les relations entre concepts, kg-gen automatise l'extraction en quelques lignes de code. Le graphe résultant peut ensuite être analysé avec NetworkX pour identifier les nœuds les plus connectés, détecter des communautés thématiques, ou mesurer la centralité de certains acteurs dans un corpus. La visualisation interactive via PyVis permet de naviguer dans le graphe directement dans un notebook Jupyter ou un navigateur, ce qui ouvre des usages en veille technologique, en analyse de réseaux d'influence ou en construction de bases de connaissances pour des systèmes RAG. kg-gen a été développé à Stanford et s'appuie en interne sur DSPy, un framework de programmation déclarative pour les LLM, pour garantir des sorties structurées et reproductibles. LiteLLM, qui sert de couche de routage, supporte une quarantaine de fournisseurs de modèles, ce qui rend le pipeline indépendant d'un prestataire unique. Ce tutoriel s'inscrit dans une tendance plus large visant à combiner les grands modèles de langage avec des représentations symboliques du savoir, à mi-chemin entre les approches purement neuronales et les systèmes expert classiques. Plusieurs grandes entreprises tech explorent cette direction pour améliorer la fiabilité des réponses de leurs IA, notamment en réduisant les hallucinations en ancrant le raisonnement dans un graphe de faits vérifiables. La prochaine étape naturelle du projet consiste à fusionner des graphes issus de sources multiples, un problème d'alignement d'entités que kg-gen aborde également dans les sections avancées du tutoriel.

OutilsTuto
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic