Aller au contenu principal
Implémentation Python pour le benchmarking de parsing de documents avec LlamaIndex ParseBench
OutilsMarkTechPost · 2 min de lecture

Implémentation Python pour le benchmarking de parsing de documents avec LlamaIndex ParseBench

Source originale ↗·

LlamaIndex a publié ParseBench, un jeu de données de référence conçu pour évaluer de manière rigoureuse les systèmes d'analyse de documents. Hébergé sur Hugging Face sous l'identifiant llamaindex/ParseBench, ce benchmark est structuré autour de plusieurs dimensions d'évaluation distinctes : extraction de texte brut, reconnaissance de tableaux, interprétation de graphiques et respect de la mise en page. La procédure d'utilisation s'appuie sur un pipeline Python standardisé mobilisant des bibliothèques open source comme datasets, pandas, PyMuPDF (alias fitz), rapidfuzz et rich. Les données sont distribuées au format JSONL, avec des fichiers PDF associés accessibles directement depuis le dépôt Hugging Face via hfhubdownload. Le pipeline de référence décrit dans le tutoriel officiel construit un extracteur de texte léger basé sur PyMuPDF, compare les sorties aux annotations de référence grâce à des métriques de similarité floue (fuzz), et produit des visualisations de la distribution des exemples par dimension.

L'importance de ParseBench réside dans le manque criant de standards objectifs pour comparer les moteurs d'analyse documentaire, qu'il s'agisse de solutions OCR classiques, de modèles de vision-langage ou de parseurs hybrides. Jusqu'ici, les équipes évaluaient leurs systèmes sur des jeux de données internes non reproductibles, rendant toute comparaison inter-organisations impossible. Avec ce benchmark unifié, les développeurs peuvent mesurer la qualité de l'extraction sur chaque dimension séparément, texte, tableaux, graphiques, layout, et identifier précisément où leurs pipelines échouent. Pour les entreprises qui traitent des volumes importants de documents (contrats, rapports financiers, publications scientifiques), disposer d'un tel outil de mesure change concrètement la façon dont on sélectionne et valide un moteur de parsing avant de le passer en production.

ParseBench s'inscrit dans une tendance plus large portée par LlamaIndex, qui cherche à standardiser l'outillage autour des pipelines RAG (retrieval-augmented generation). La qualité de l'extraction documentaire est en effet le maillon critique souvent négligé de ces architectures : un PDF mal parsé produit des embeddings bruités, ce qui dégrade directement les réponses des assistants IA en aval. Plusieurs acteurs du secteur, comme Unstructured, LlamaParse ou encore Docling d'IBM, se livrent une concurrence directe sur ce segment. L'arrivée d'un benchmark public et reproductible oblige désormais ces acteurs à rendre des comptes sur des métriques communes. Les prochaines étapes probables incluent l'intégration de modèles de vision-langage comme GPT-4o ou Qwen-VL comme baselines supplémentaires, et l'extension du benchmark à des formats au-delà du PDF.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Automatiser la génération de schémas pour le traitement intelligent de documents
1AWS ML Blog 

Automatiser la génération de schémas pour le traitement intelligent de documents

Amazon Web Services vient d'enrichir son IDP Accelerator, solution open-source et serverless dédiée au traitement automatisé de documents, d'une nouvelle fonctionnalité baptisée "multi-document discovery". Jusqu'ici, exploiter le traitement intelligent de documents (IDP) exigeait de constituer manuellement un schéma de configuration pour chaque type de document à analyser : définir les classes, identifier des exemples représentatifs, spécifier les champs à extraire. Une contrainte rédhibitoire dès lors qu'une organisation se retrouve avec des milliers de documents non étiquetés et aucune visibilité sur les catégories qui les composent. La nouvelle fonctionnalité répond directement à ce problème : elle analyse une collection de documents inconnus, les regroupe automatiquement par type, puis génère les schémas de configuration prêts à l'emploi. Le pipeline repose sur AWS Step Functions pour l'orchestration, AWS Lambda pour le calcul serverless, Amazon S3 pour le stockage, et les modèles disponibles via Amazon Bedrock pour la génération des schémas, dont le modèle d'embeddings Cohere Embed v4 utilisé par défaut. L'intérêt opérationnel est considérable pour les équipes qui traitent des volumes documentaires hétérogènes. Là où le module Discovery existant nécessitait de connaître ses classes de documents à l'avance et de fournir un exemple par classe, la nouvelle approche supprime ce prérequis. Le système génère d'abord un embedding visuel pour chaque document, en se basant sur la première page uniquement pour les documents multi-pages, puis utilise le score de silhouette pour déterminer automatiquement le nombre de clusters pertinents. Un agent construit avec Strands Agents et un LLM Bedrock analyse ensuite chaque cluster pour identifier le type de document et produire un schéma. Une étape de "réflexion" finale compare l'ensemble des schémas générés pour détecter les chevauchements et incohérences avant validation humaine. Cette approche réduit drastiquement le travail préparatoire qui, à grande échelle, pouvait représenter des semaines de labelling manuel. Le choix des embeddings visuels plutôt que textuels, via OCR, est une décision technique délibérée : la mise en page, le formatage et la structure visuelle d'un document permettent de distinguer des types documentaires même lorsque leur contenu textuel se ressemble. Ce positionnement s'inscrit dans la stratégie plus large d'AWS de faire de Bedrock un socle central pour les workflows d'IA en entreprise, en y adossant des briques comme Strands Agents pour la partie agentique. La solution reste open-source, disponible sur GitHub, ce qui permet aux équipes de l'adapter à leurs propres collections. L'enjeu sous-jacent est de rendre accessibles les initiatives IDP à des organisations qui ne disposent pas des ressources pour classifier manuellement leur patrimoine documentaire avant même de commencer à en extraire de la valeur.

OutilsOutil
1 source
Le traitement des documents médicaux par Guardoc avec les modèles Amazon Nova
2AWS ML Blog 

Le traitement des documents médicaux par Guardoc avec les modèles Amazon Nova

Guardoc Health, une entreprise spécialisée dans le traitement des documents médicaux pour les établissements de soins de longue durée, a développé une solution basée sur la famille de modèles Amazon Nova, accessible via Amazon Bedrock, pour automatiser l'extraction et la classification des dossiers cliniques. Les maisons de retraite médicalisées et les résidences avec services traitent chaque jour des documents extrêmement hétérogènes : PDF de plusieurs pages avec annotations manuscrites de médecins, formulaires d'autorisation préalable où des cases à cocher déterminent la prise en charge par l'assurance, listes de médicaments présentées sous forme de tableaux, de texte libre ou d'images scannées, et formulaires d'admission mêlant champs tapés, écriture manuscrite et tampons. Guardoc traite plus d'un million de documents lors des journées de pointe. Le pipeline s'appuie d'abord sur Amazon Textract pour extraire le texte et les métadonnées structurelles de chaque page à faible coût, avant qu'une architecture de génération augmentée par récupération (RAG) ne s'appuie sur les modèles Nova pour identifier les conditions médicales en croisant les preuves directement issues du dossier du patient. Les résultats annoncés par Guardoc sont significatifs : une réduction de 46 % des erreurs de documentation, une baisse de 70 % des amendes liées aux audits de conformité, et un retour sur investissement annuel supérieur à 400 000 dollars pour un seul établissement. L'enjeu est de taille pour le secteur de la santé américain, qui dépense chaque année des centaines de millions de dollars en traitement manuel de documents. Une étude publiée dans BMJ Quality and Safety estime que les erreurs de diagnostic touchent environ 12 millions d'adultes américains chaque année en soins ambulatoires, les défaillances dans le traitement de l'information étant identifiées comme un facteur contributif. À l'échelle où opère Guardoc, même un taux d'erreur de 1 % dans la détection des conditions médicales génère des milliers de dossiers erronés par jour, chacun représentant un risque potentiel pour la sécurité des patients ou un motif de non-conformité réglementaire. Pour atteindre ce niveau de fiabilité, Guardoc a dû résoudre trois défis majeurs du traitement documentaire clinique : détecter les conditions médicales spéciales avec un haut rappel, interpréter de manière fiable les cases à cocher sur des dizaines de types de formulaires différents, et extraire avec précision les informations de documents combinant plusieurs formats sur une même page. Ce projet illustre une tendance plus large dans le secteur de la santé, où les établissements de soins cherchent à combiner extraction documentaire classique et modèles de langage pour réduire la charge cognitive des infirmières et des équipes soignantes, tout en répondant aux exigences croissantes de conformité réglementaire. L'adoption de modèles comme Amazon Nova dans ce contexte s'inscrit dans une compétition plus vaste entre fournisseurs cloud pour capter les cas d'usage cliniques à fort enjeu.

💬 Les chiffres sont costauds : 46% d'erreurs de documentation en moins, 400 000 dollars de retour sur investissement pour un seul établissement. Mais le vrai enseignement, c'est que Guardoc n'a pas tout misé sur Nova : Textract fait le sale boulot d'extraction en amont, et le LLM n'arrive qu'ensuite pour trancher les cas ambigus, cases à cocher et écriture de médecin comprises. Dans la santé, la fiabilité passe moins par un modèle miracle que par une architecture qui sait quand appeler quoi, et ça, aucun fournisseur cloud ne le met en avant sur ses slides.

OutilsActu
1 source
Mistral veut bousculer la gestion des documents avec son modèle OCR 4
3Next INpact 

Mistral veut bousculer la gestion des documents avec son modèle OCR 4

Mistral a lancé le 23 juin la quatrième version de son modèle OCR, baptisé Mistral OCR 4, marquant un virage significatif dans la façon dont l'entreprise française positionne cet outil. Là où les versions précédentes se contentaient de convertir du texte imprimé en texte numérique, OCR 4 se présente comme un parseur documentaire sémantique complet. Le modèle prend en charge tous les formats courants, PDF, DOC, PPT, ODF, et restitue une représentation structurée en couches de chaque document : chaque bloc de contenu est localisé dans une bounding box, classé par type (titre, tableau, équation, signature, etc.) et accompagné d'un score de confiance par page et par mot. Selon Mistral, des annotateurs indépendants ont préféré OCR 4 dans 72 % des cas face aux principaux systèmes OCR et IA documentaires testés, et le modèle atteint 85,20 % sur le benchmark OlmOCRBench, ce qui lui vaut la première place. Il prend en charge 170 langues réparties en 10 groupes linguistiques. Ce changement de nature change concrètement la donne pour les équipes qui construisent des pipelines RAG, des systèmes de recherche sémantique ou des flux de travail agentiques sur des documents. Jusqu'ici, sans localisation spatiale ni typage sémantique, il était impossible de retracer un extrait vers sa source exacte dans un document, répondre à « d'où vient ce chiffre ? » nécessitait un travail d'ingénierie supplémentaire. OCR 4 résout ce problème en proposant nativement cette traçabilité : un texte étiqueté comme titre peut segmenter un document pour la recherche hiérarchique, une signature reconnue peut alimenter directement un flux de conformité, et les zones à faible confiance peuvent être automatiquement routées vers des vérificateurs humains. Mistral affirme ainsi supprimer toute une étape de reconstruction qui pesait jusqu'ici à la fois sur les coûts d'infrastructure OCR et sur les heures d'ingénierie nécessaires pour assembler le reste. La sortie d'OCR 4 s'inscrit dans une stratégie plus large de Mistral pour s'imposer sur le marché de l'intelligence documentaire d'entreprise, un segment en forte croissance porté par l'essor des agents IA et de l'automatisation des processus métiers. La startup parisienne, qui concurrence à la fois des acteurs spécialisés comme Adobe ou ABBYY et des plateformes cloud généralistes comme AWS Textract ou Google Document AI, cherche à proposer une solution unifiée là où les entreprises devaient auparavant assembler plusieurs briques techniques. En intégrant localisation spatiale, typage sémantique et score de confiance dans un seul modèle accessible via API, Mistral parie que la friction d'intégration restait le principal frein à l'adoption, et que la lever suffira à convaincre les équipes data et les éditeurs de logiciels de migrer vers son offre.

UEMistral, startup parisienne, renforce sa position sur le marché européen de l'intelligence documentaire d'entreprise en proposant une alternative souveraine aux plateformes américaines (AWS Textract, Google Document AI).

OutilsOutil
1 source
4MarkTechPost 

LlamaIndex lance LiteParse : un outil CLI et une bibliothèque TypeScript native pour l'analyse spatiale de PDF dans les workflows d'agents IA

LlamaIndex vient de lancer LiteParse, une bibliothèque open-source d'analyse de documents PDF conçue pour les workflows d'agents IA. Contrairement aux outils existants qui s'appuient sur des API cloud ou des bibliothèques OCR Python lourdes, LiteParse est une solution TypeScript native fonctionnant entièrement en local. Elle se positionne comme une alternative rapide au service managé LlamaParse, en privilégiant la vitesse, la confidentialité des données et la précision spatiale. Dans les pipelines RAG (Retrieval-Augmented Generation), le goulot d'étranglement n'est plus le modèle de langage lui-même, mais l'ingestion des données, notamment la conversion de PDF complexes en texte exploitable. LiteParse s'attaque directement à ce problème en supprimant les dépendances Python et en s'intégrant nativement dans les environnements web modernes et les architectures edge. C'est un signal fort : l'écosystème IA, historiquement centré sur Python, commence à se diversifier vers TypeScript et Node.js. La distinction technique centrale de LiteParse est son parsing spatial. Plutôt que de convertir les documents en Markdown, une approche qui échoue régulièrement sur les mises en page multi-colonnes ou les tableaux imbriqués, LiteParse projette le texte sur une grille spatiale, préservant l'indentation et les espaces originaux. Pour les tableaux, l'outil adopte une approche que ses créateurs qualifient de "beautifully lazy" : il maintient l'alignement horizontal et vertical plutôt que de reconstruire une structure formelle, s'appuyant sur la capacité des LLMs modernes à interpréter du texte formaté spatialement. La bibliothèque utilise PDF.js (pdf.js-extract) pour l'extraction de texte et Tesseract.js pour l'OCR local. Pour les workflows agentiques, LiteParse propose une sortie multimodale : texte spatial, captures d'écran page par page (compatibles avec des modèles comme GPT-4o ou Claude 3.5 Sonnet), et métadonnées JSON structurées avec numéros de page et chemins de fichiers. Cette approche permet à un agent de basculer entre lecture rapide du texte et inspection visuelle haute fidélité pour les graphiques ou diagrammes ambigus, un cas d'usage concret qui manquait aux pipelines RAG actuels.

OutilsOutil
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic