Nums AI lance Causilo, un modèle de fondation tabulaire en tête de TabArena parmi les modèles individuels
Nums AI a publié Causilo, un modèle de fondation tabulaire pré-entraîné destiné à la classification et à la régression, disponible avec une interface compatible scikit-learn, un code sous licence Apache 2.0 et des poids pré-entraînés hébergés sur Hugging Face. Sur le classement TabArena, Causilo obtient le score Elo le plus élevé parmi les modèles individuels, aussi bien en classification qu'en régression, avec un score global de 1792,9, devant TabFM de Google Research (1764,4). En classification, il devance EXAONE Tabular de LG AI Research (1771,8 contre 1758,8), et en régression il atteint 2032,6 contre 1992,8 pour TabFM. Un responsable de TabArena a reproduit indépendamment ces résultats et confirmé un score global de 1794. Le modèle fonctionne par apprentissage en contexte : il mémorise les données d'entraînement comme contexte plutôt que de mettre à jour ses poids, et prédit en une seule passe. Nums AI précise l'avoir entraîné uniquement sur des données synthétiques, sans utiliser les jeux de données de TabArena. La version 1.0.1 ajoute des sorties par quantiles, basées sur 999 quantiles natifs.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MarkTechPost. Lire l'article original →
Ces résultats comptent parce qu'ils déplacent la référence en matière de modèles génériques pour données tabulaires, un domaine longtemps dominé par des méthodes classiques comme le gradient boosting plutôt que par les réseaux de neurones. Un modèle capable de s'adapter à de nouvelles données sans réentraînement, simplement en les fournissant comme contexte, pourrait simplifier considérablement les usages en entreprise où les données changent fréquemment. Sur ScoringBench, qui évalue la qualité des prédictions de régression avec des règles de score comme le CRPS, Causilo 1.0.1 se classe premier sur 101 jeux de données selon le CRPS, le R² et le RMSE, un résultat vérifié indépendamment par le mainteneur du benchmark. Sur le plan des performances matérielles, des tests sur un GPU H100 de 80 Go montrent que Causilo est plus rapide que TabICLv2 et TabPFN-3 pour l'entraînement et la prédiction, bien que TabPFN-3 consomme nettement moins de mémoire GPU (0,88 Gio contre 8,15 Gio). Toutefois, l'usage commercial, en production ou via une API hébergée nécessite une licence distincte auprès de Nums AI, ce qui limite pour l'instant le déploiement gratuit à la recherche et à l'évaluation.
Ce lancement s'inscrit dans une compétition croissante autour des modèles de fondation pour données tabulaires, un segment où Google Research, LG AI Research, Prior Labs avec TabPFN-3, Xiaomi avec TabLDM et Amazon avec Mitra-v2 rivalisent déjà. Les écarts de score Elo entre les meilleurs modèles restent toutefois étroits, avec des intervalles de confiance qui se chevauchent, ce qui nuance la portée du classement. En intégrant les systèmes combinés au classement, Causilo tombe à la troisième place sur 88 entrées, et TabFM conserve l'avantage sur la marge de progression possible, sauf en régression où Causilo domine. L'architecture du modèle, organisée en trois phases de raffinement, compression et apprentissage en contexte, avec une attention croisée maintenant un coût linéaire selon le nombre de variables, illustre les efforts d'optimisation technique du secteur. La suite dépendra de l'adoption réelle par les entreprises, des conditions de licence commerciale de Nums AI et de la capacité des concurrents comme TabPFN-3 ou TabFM à combler l'écart de performance observé.
Pas d'impact direct sur la France/UE