Knowledgator lance GLiFormer, un encodeur de 575M de paramètres qui atteint 91,10 F1 sur l'extraction JSON imbriquée sans générer de tokens

L'intérêt de GLiFormer est de remplacer par un seul modèle toute une chaîne d'outils habituellement séparés pour la reconnaissance d'entités nommées, la classification de texte, l'extraction de relations, la structuration en JSON imbriqué et le calcul d'embeddings. Contrairement aux grands modèles de langage qui génèrent chaque token de la sortie, GLiFormer encode le texte source une seule fois puis évalue la compatibilité entre ce texte et les schémas fournis à l'inférence, sans jamais générer de sortie textuelle. Cette approche réduit fortement la latence et le coût de calcul pour les pipelines industriels traitant de gros volumes de documents, et limite le risque d'hallucination puisque les valeurs extraites sont toujours des segments pris directement dans le texte source. Pour des usages comme le traitement de factures, de contrats ou de rapports structurés, cela ouvre la voie à des déploiements moins coûteux, capables de tourner sur un simple processeur plutôt que sur une infrastructure GPU dédiée aux grands modèles génératifs.

GLiFormer s'appuie sur l'architecture GLiNER, dont il généralise le mécanisme d'appariement des labels via la notion d'ancre, un objet de référence auquel chaque label est comparé, qu'il s'agisse d'un vecteur de catégorie, d'une paire d'entités ou d'un emplacement dans un enregistrement structuré. La version Base part d'un socle DeBERTa pré-entraîné sur cent milliards de tokens supplémentaires, puis affinée sur plus de 1,35 million d'exemples pour un entraînement multitâche et 372 090 exemples pour un entraînement ciblé par tâche. Ce lancement illustre un mouvement plus large vers des encodeurs spécialisés, plus légers que les modèles génératifs géants, pour les tâches d'extraction où la vitesse et le coût priment sur la flexibilité conversationnelle. Knowledgator précise que son estimation d'un gain de vitesse jusqu'à 95,8 fois reste un calcul analytique fondé sur des hypothèses de débit de tokens, et non une mesure directe face à un modèle de langage. Le code source et les fiches des modèles sont disponibles sur GitHub et Hugging Face pour un déploiement immédiat.