Fastino dévoile GLiNER2.5, une architecture de prédiction de limites qui élimine l'énumération de spans en extraction d'informations
Fastino a publié GLiNER2.5, une nouvelle architecture d'extraction d'information qui remplace l'énumération de segments de texte par une prédiction directe des frontières d'entités. Le modèle évalue où commence et où finit chaque entité plutôt que de tester toutes les combinaisons de position et de largeur, ce qui supprime la limite de longueur imposée par la génération précédente, GLiNER2, plafonnée à une douzaine de mots. Il gère désormais un contexte de 4 096 mots avec un coût de calcul qui reste linéaire par rapport à la longueur du texte. Sur seize benchmarks en zéro-shot, la version multilingue obtient un score macro F1 global de 56,17, contre 56,09 pour GLiNER2, avec un bond de 24,75 points sur le test XNLI. Trois versions, de 74, 194 et 287 millions de paramètres, sont disponibles sur Hugging Face sous licence Apache 2.0, installables localement via pip (gliner2[local]) sous Python 3.10 minimum, sur processeur, carte graphique Nvidia ou puce Apple. Aucun fournisseur cloud ne les héberge encore, leur déploiement passe donc uniquement par l'auto-hébergement.
Résumé et traduction réalisés par Le Fil IA à partir de MarkTechPost. Lire l'article original →
Cette avancée réduit l'écart entre les petits modèles d'encodage, bon marché mais rigides, et les grands modèles de langage, flexibles mais coûteux à l'usage document par document. Les versions les plus légères, 74 et 194 millions de paramètres, tournent sur un simple processeur, ce qui permet à une équipe de deux personnes de déployer de l'extraction d'information sans budget GPU. Les grandes organisations disposent d'une alternative privée et personnalisable aux extractions facturées au jeton par les LLM. Les usages visés couvrent le droit et la gestion de contrats, la santé et la documentation clinique, la finance, l'assurance, le support client et les outils de sécurité pour l'IA : détection et anonymisation de données personnelles, extraction de clauses contractuelles, construction de graphes de connaissances pour la mémoire d'agents, routage de modèles, classification de garde-fous, ou extraction d'entités cliniques avec négation et posologie.
Techniquement, les précédentes versions de GLiNER localisaient les entités en associant chaque position de départ à chaque largeur autorisée, ce qui plafonnait la longueur détectable et liait le calcul à cet axe. GLiNER2.5 s'appuie sur un encodeur partagé traitant texte et schéma en une seule passe, prédit des scores de frontières et de contenu interne, puis sélectionne les paires les plus prometteuses avant de les reclasser avec une tête de reranking. Le même mécanisme permet une extraction conjointe d'entités et de relations, contrainte par des règles structurelles comme l'unicité d'un lien ou l'absence de boucles, garantissant des résultats cohérents par construction. Le système autorise aussi des contraintes de classification croisées entre tâches, illustrées par le modèle de garde-fou GLiGuard de Fastino, conçu pour éviter qu'un texte soit jugé à la fois sûr et signalé comme tentative d'injection de prompt. La suite dépendra de l'adoption par les développeurs et de l'arrivée éventuelle de fournisseurs d'inférence hébergeant ces modèles.
Pas d'impact direct sur la France/UE