Aller au contenu principal
Baidu lance Unlimited OCR, un modèle 3B qui stabilise le cache KV pour l'analyse de longs documents
OutilsMarkTechPost2sem· 2 min de lecture

Baidu lance Unlimited OCR, un modèle 3B qui stabilise le cache KV pour l'analyse de longs documents

Source originale ↗·

Baidu a publié Unlimited OCR, un modèle de reconnaissance optique de caractères de 3 milliards de paramètres conçu pour analyser des documents longs sans que les performances ne se dégradent. Basé sur DeepSeek OCR par continue-training plutôt que par un entraînement from scratch, il adopte une architecture Mixture-of-Experts qui n'active que 500 millions de paramètres en inférence. Sur le benchmark OmniDocBench v1.5, il obtient un score de 93,23 points, soit 6,22 points de mieux que la référence DeepSeek OCR. Le modèle traite des dizaines de pages en une seule passe, dans une fenêtre maximale de 32 000 tokens, grâce notamment à un encodeur visuel qui compresse les images : une page PDF de 1024x1024 pixels est réduite à seulement 256 tokens visuels avant d'atteindre le décodeur.

Le problème central que résout Unlimited OCR est celui de la mémoire croissante dans les systèmes OCR traditionnels. Dans les modèles classiques, chaque token généré s'ajoute au KV cache, ce qui fait grossir la mémoire et ralentir la génération au fur et à mesure que le document s'allonge. Baidu remplace l'attention standard du décodeur par une architecture baptisée Reference Sliding Window Attention (R-SWA), qui maintient le cache à une taille fixe. Chaque nouveau token généré s'appuie sur tous les tokens visuels de référence, plus seulement les 128 derniers tokens produits, les autres étant évincés. La taille du cache devient ainsi bornée par une constante, indépendamment de la longueur de la sortie. Cette approche évite aussi le flou progressif observé dans les architectures à attention linéaire, car les tokens visuels ne subissent aucune mise à jour d'état.

Derrière cette publication, Baidu s'inscrit dans une compétition technique autour du traitement de documents à grande échelle, un marché stratégique pour les entreprises manipulant des contrats, des factures ou des archives volumineuses. L'OCR long-document est un goulot d'étranglement réel dans les pipelines RAG et d'automatisation documentaire, et plusieurs laboratoires cherchent à le lever. La solution R-SWA rappelle la métaphore d'un copiste qui consulte la source et les quelques derniers mots écrits, sans relire l'intégralité de ce qu'il a déjà transcrit. Unlimited OCR supporte deux modes de résolution : un mode "Base" à 1024x1024 pour le traitement multi-pages, et un mode "Gundam" en résolution dynamique pour les pages individuelles. Le modèle et son papier de recherche sont disponibles publiquement via arXiv, ce qui ouvre la voie à des adaptations et à une adoption dans des pipelines open-source.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Chroma lance Context-1 : un modèle de recherche à base d'agents de 20 milliards de paramètres pour la récupération multi-saut et la gestion du contexte
1MarkTechPost 

Chroma lance Context-1 : un modèle de recherche à base d'agents de 20 milliards de paramètres pour la récupération multi-saut et la gestion du contexte

Chroma, l'entreprise derrière la base de données vectorielle open source du même nom, a lancé Context-1, un modèle de recherche agentique de 20 milliards de paramètres conçu pour résoudre l'un des problèmes les plus tenaces des systèmes RAG (Retrieval-Augmented Generation) modernes. Dérivé de l'architecture Mixture of Experts gpt-oss-20B et affiné par apprentissage supervisé combiné à du renforcement via CISPO, ce modèle ne joue pas le rôle d'un moteur de raisonnement généraliste : il agit comme un sous-agent de recherche ultra-spécialisé. Concrètement, face à une question complexe nécessitant plusieurs étapes de raisonnement, Context-1 décompose la requête en sous-questions ciblées, exécute des appels d'outils en parallèle — 2,56 appels en moyenne par tour — et parcourt itérativement un corpus documentaire via des outils comme searchcorpus (hybride BM25 + recherche dense), grepcorpus et readdocument, avant de transmettre les passages pertinents à un modèle frontier pour la réponse finale. L'innovation la plus significative de Context-1 est ce que Chroma appelle le "Self-Editing Context" : le modèle ne se contente pas de chercher, il gère activement sa propre fenêtre de contexte. Au fil de la recherche, les documents s'accumulent — beaucoup s'avèrent redondants ou hors sujet. Plutôt que de se noyer dans ce bruit, Context-1 a été entraîné avec une précision de pruning de 0,94 : il exécute proactivement une commande prunechunks pour éliminer les passages inutiles en cours de recherche. Ce mécanisme lui permet de maintenir une fenêtre de contexte de 32 000 tokens propre et efficace, là où les modèles généralistes "s'étranglent" sur des chaînes de raisonnement longues. Le découplage entre la logique de recherche — traditionnellement gérée par le développeur — et la génération de réponse représente un changement architectural majeur pour les équipes qui construisent des pipelines RAG en production. Pour entraîner et évaluer ce type de modèle, Chroma a également publié en open source son outil de génération de données synthétiques, context-1-data-gen. Ce pipeline produit des tâches multi-hop dans quatre domaines — recherche web, dépôts SEC (10-K, 20-F), brevets USPTO et corpus d'emails (Enron, fichiers Epstein) — selon un processus structuré en quatre étapes : Explorer, Vérifier, Distraire, Indexer. L'astuce centrale est l'injection de "distracteurs thématiques", des documents apparemment pertinents mais logiquement inutiles, qui forcent le modèle à raisonner plutôt qu'à faire du simple matching de mots-clés. Ce faisant, Chroma s'attaque à un angle mort bien connu des benchmarks statiques, et positionne Context-1 comme compétitif face à GPT-5 sur les tâches de recherche complexes — tout en étant nettement moins coûteux à faire tourner pour des volumes industriels.

OutilsOpinion
1 source
Mistral lance OCR 4, un outil d'extraction documentaire taillé pour l'IA en entreprise
2VentureBeat AI 

Mistral lance OCR 4, un outil d'extraction documentaire taillé pour l'IA en entreprise

Mistral AI a lancé mardi OCR 4, sa quatrième génération de technologie de reconnaissance optique de caractères en à peine quinze mois. Ce modèle de traitement documentaire dépasse la simple extraction de texte brut : il retourne une représentation structurée complète de chaque document, avec des boîtes de délimitation précises pour chaque bloc, une classification par type de contenu (titre, tableau, équation, signature) et des scores de confiance mot par mot. Le modèle supporte 170 langues, accepte les formats PDF, DOC, PPT et OpenDocument, et peut être déployé en conteneur autonome sur l'infrastructure interne d'une organisation. Il est disponible immédiatement via l'API Mistral, Document AI dans Mistral Studio, Amazon SageMaker et Microsoft Foundry, avec une intégration Snowflake annoncée prochainement. La tarification débute à 4 dollars pour 1 000 pages, ramenée à 2 dollars via l'API batch. Lors d'évaluations humaines indépendantes, les annotateurs ont préféré les sorties d'OCR 4 dans 72 % des cas face aux solutions concurrentes. Le changement central d'OCR 4 est architectural. Plutôt que de produire un flux plat de texte extrait, le modèle génère une carte sémantique du document : chaque bloc est localisé, typé et scoré. Cette traçabilité répond à une friction majeure des équipes qui construisent des pipelines RAG (retrieval-augmented generation) ou des workflows de conformité, où la question "d'où vient ce chiffre, sur quelle page ?" exige une réponse auditable. La classification des blocs permet en outre d'orienter automatiquement un tableau vers un pipeline de données structurées, un titre vers un découpage sémantique, ou une signature vers un workflow de caviardage. Packager ces sorties directement dans le modèle OCR supprime une couche d'analyse de mise en page que les équipes devaient jusqu'ici construire et maintenir séparément. Les scores de confiance permettent quant à eux de router programmatiquement les extractions incertaines vers des relecteurs humains, sans qu'une personne n'ait à vérifier chaque page de chaque document. Ce lancement intervient dans un contexte particulièrement porteur pour Mistral. La startup française, dont la proposition de souveraineté numérique européenne n'a jamais été aussi commercialement pertinente, cible explicitement les entreprises des secteurs réglementés, finance, santé, juridique, qui ne peuvent pas faire transiter leurs documents sensibles par des API cloud sous juridiction américaine. La capacité de déploiement on-premise en conteneur unique est le principal levier de différenciation face à des acteurs comme Google Document AI ou AWS Textract. Pour les développeurs, l'enjeu est aussi économique : dans les systèmes de production, l'OCR n'est que la première étape d'un pipeline plus large, et la reconstruction manuelle de la structure documentaire consomme souvent plus de temps d'ingénierie que la logique IA en aval. OCR 4 vise à éliminer cette étape, et si le modèle tient ses promesses, les gains se mesurent autant en heures d'ingénierie économisées qu'en coût d'extraction.

UEMistral AI, startup française, propose un déploiement on-premise en conteneur qui offre aux entreprises européennes des secteurs réglementés (finance, santé, juridique) une alternative souveraine aux solutions cloud sous juridiction américaine.

OutilsOutil
1 source
Associer Nova 2 Lite à Claude pour un traitement de documents à moindre coût
3AWS ML Blog 

Associer Nova 2 Lite à Claude pour un traitement de documents à moindre coût

Amazon a publié un retour d'expérience détaillé sur une architecture combinant deux modèles d'IA pour numériser des annuaires scolaires numérisés à grande échelle. Le pipeline, développé sur Amazon Bedrock, associe Amazon Nova 2 Lite et Claude Sonnet 4.6 d'Anthropic dans deux étapes séquentielles distinctes. Testé sur 336 pages d'annuaires scannées, le système a produit 3 122 associations nom-visage, avec 93 % des correspondances atteignant un score de confiance supérieur ou égal à 0,95. La première étape confie à Nova 2 Lite l'extraction multimodale native : via un seul appel API, le modèle détecte les photos avec leurs coordonnées, extrait les noms visibles sur la page avec leurs positions approximatives, et remonte les métadonnées de la page. Claude Sonnet 4.6 intervient ensuite uniquement pour le raisonnement spatial, c'est-à-dire déterminer quel nom correspond à quel visage selon la mise en page. Ce découpage permet de limiter la sortie de Nova 2 Lite à environ 1 000 tokens par page, contre 4 500 tokens pour une passe OCR complète. Le coût total est réduit de deux tiers par rapport à un modèle unique chargé de l'intégralité de la tâche. L'intérêt concret de cette architecture va au-delà de la numérisation d'annuaires. Elle illustre une stratégie de décomposition de tâches visuelles complexes en sous-problèmes spécialisés, permettant d'affecter à chaque étape le modèle le mieux adapté et le moins coûteux. Nova 2 Lite est configuré en mode de raisonnement LOW, le niveau minimal, sans perte mesurable de précision sur cette tâche d'extraction structurée. Claude, lui, absorbe la variabilité des mises en page sans nécessiter de prompt engineering spécifique à chaque format, grâce à ce qu'Amazon appelle son "adaptive thinking". La tarification fixe par image de Nova 2 Lite rend également le coût prévisible à grande échelle, ce qui est déterminant pour des workflows traitant des centaines de milliers de pages. Cette publication s'inscrit dans la montée en puissance d'Amazon Bedrock comme plateforme d'orchestration multi-modèles, où différents modèles d'éditeurs tiers coexistent et peuvent être combinés. Amazon positionne Nova 2 Lite comme un modèle économique pour les tâches d'extraction à haut volume, tandis que Claude occupe le rôle de raisonneur pour les étapes à plus forte valeur ajoutée. Ce type d'architecture hybride reflète une tendance plus large dans l'industrie : plutôt que de chercher le modèle universel le plus puissant, les équipes d'ingénierie construisent des pipelines spécialisés où le coût et la précision sont optimisés étape par étape. La question des droits sur les archives numérisées, notamment pour des annuaires privés, reste un angle peu abordé mais potentiellement sensible à mesure que ces techniques se généralisent.

OutilsOutil
1 source
Mistral veut bousculer la gestion des documents avec son modèle OCR 4
4Next INpact 

Mistral veut bousculer la gestion des documents avec son modèle OCR 4

Mistral a lancé le 23 juin la quatrième version de son modèle OCR, baptisé Mistral OCR 4, marquant un virage significatif dans la façon dont l'entreprise française positionne cet outil. Là où les versions précédentes se contentaient de convertir du texte imprimé en texte numérique, OCR 4 se présente comme un parseur documentaire sémantique complet. Le modèle prend en charge tous les formats courants, PDF, DOC, PPT, ODF, et restitue une représentation structurée en couches de chaque document : chaque bloc de contenu est localisé dans une bounding box, classé par type (titre, tableau, équation, signature, etc.) et accompagné d'un score de confiance par page et par mot. Selon Mistral, des annotateurs indépendants ont préféré OCR 4 dans 72 % des cas face aux principaux systèmes OCR et IA documentaires testés, et le modèle atteint 85,20 % sur le benchmark OlmOCRBench, ce qui lui vaut la première place. Il prend en charge 170 langues réparties en 10 groupes linguistiques. Ce changement de nature change concrètement la donne pour les équipes qui construisent des pipelines RAG, des systèmes de recherche sémantique ou des flux de travail agentiques sur des documents. Jusqu'ici, sans localisation spatiale ni typage sémantique, il était impossible de retracer un extrait vers sa source exacte dans un document, répondre à « d'où vient ce chiffre ? » nécessitait un travail d'ingénierie supplémentaire. OCR 4 résout ce problème en proposant nativement cette traçabilité : un texte étiqueté comme titre peut segmenter un document pour la recherche hiérarchique, une signature reconnue peut alimenter directement un flux de conformité, et les zones à faible confiance peuvent être automatiquement routées vers des vérificateurs humains. Mistral affirme ainsi supprimer toute une étape de reconstruction qui pesait jusqu'ici à la fois sur les coûts d'infrastructure OCR et sur les heures d'ingénierie nécessaires pour assembler le reste. La sortie d'OCR 4 s'inscrit dans une stratégie plus large de Mistral pour s'imposer sur le marché de l'intelligence documentaire d'entreprise, un segment en forte croissance porté par l'essor des agents IA et de l'automatisation des processus métiers. La startup parisienne, qui concurrence à la fois des acteurs spécialisés comme Adobe ou ABBYY et des plateformes cloud généralistes comme AWS Textract ou Google Document AI, cherche à proposer une solution unifiée là où les entreprises devaient auparavant assembler plusieurs briques techniques. En intégrant localisation spatiale, typage sémantique et score de confiance dans un seul modèle accessible via API, Mistral parie que la friction d'intégration restait le principal frein à l'adoption, et que la lever suffira à convaincre les équipes data et les éditeurs de logiciels de migrer vers son offre.

UEMistral, startup parisienne, renforce sa position sur le marché européen de l'intelligence documentaire d'entreprise en proposant une alternative souveraine aux plateformes américaines (AWS Textract, Google Document AI).

OutilsOutil
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic