H Company dévoile NeoMME, une famille d'encodeurs multimodaux à tour unique de 260M et 800M sans tour de vision ni décodeur causal
H Company, société française d'intelligence artificielle, a publié NeoMME, une famille de deux encodeurs multimodaux à tour unique et bidirectionnels, comptant 262 937 906 et 793 715 032 paramètres, soit environ 260 et 800 millions. À la différence des modèles de récupération documentaire visuelle actuels comme ColPali, qui recyclent un modèle vision-langage génératif en conservant une tour visuelle et un décodeur causal inutiles pour cette tâche, NeoMME fait passer texte multilingue et patches d'image bruts de 32x32 pixels dans les mêmes couches d'un seul Transformer entraîné depuis une initialisation aléatoire.
UEH Company, entreprise française d'IA, publie en open source une famille de modèles efficaces, renforçant la souveraineté technologique européenne en recherche documentaire visuelle.
