Dans les coulisses de Latent Space : Kill My SaaS, Jev et l'IA en 2026 (AIEi Shanghai)
Le bulletin AINews du 2 au 3 novembre 2026 revient sur la « programmation dans l'espace des poids », un travail du MIT selon lequel des modèles de langage de pointe peuvent écrire ou modifier directement les poids de petits réseaux de neurones, sans entraînement par gradient ni outils externes. Plusieurs réplications indépendantes ont suivi. Alex Krentsel a observé un saut net entre générations de modèles : les plus récents produisent des réseaux pour Breakout dont le score atteint jusqu'à 22 fois celui d'une référence entraînée par apprentissage par renforcement. Hugging Face a reproduit l'étude avec ML Intern, son outil open source de recherche en IA, et publié modèle et démonstration. Un utilisateur a fait écrire à la main par Fable un réseau de 100 000 paramètres qui distingue les vraies citations juridiques des fausses, avec de meilleurs résultats qu'une version entraînée. Simon Willison affirme qu'un Qwen 3.8 27B a réussi le même exploit sur son ordinateur portable, en plus de 45 minutes. Le cas le plus cité est celui de GPT-6 Astra, qui a modifié 131 072 poids de Qwen3.5-0.8B et fait passer le score MATH-500 de 7,9 % à 48,1 %.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Latent Space. Lire l'article original →
Cette avancée est plus modeste qu'elle n'en a l'air. Une reconstruction publiée sur Zhihu à partir des journaux montre que 576 des 579 réponses corrigées avaient d'abord dépassé la limite de 32 000 tokens à cause de boucles de répétition. Astra a identifié une « direction de répétition » dans les perceptrons des couches 15 et 19, puis soustrait six fois sa projection sur les 64 neurones les mieux alignés de chaque couche. Sur 1 152 problèmes réservés, la précision passe de 10,6 % à 60,4 %, mais l'essentiel du gain vient de raisonnements existants qui peuvent enfin aller à leur terme. Les sceptiques jugent donc que les comparaisons de référence sont faibles, que ce travail relève de la correction de bogue plutôt que de l'auto-amélioration récursive, et que l'ajustement de poids directement sur un benchmark n'a presque aucune valeur. D'autres retiennent surtout l'efficacité des agents de code face aux outils d'interprétabilité mécaniste.
Les auteurs du bulletin estiment que certaines affirmations ont été présentées trop favorablement et ont éclipsé les découvertes les plus solides. Les réplications multiples rendent toutefois inutile une rétractation. Les partisans y voient un apprentissage méta enfin fonctionnel, et envisagent des approches hybrides qui alternent rétropropagation et modifications directes. Le bulletin, désormais une section de Latent Space, consacre cette édition à l'AI Engineer de Shanghai et à une interview exclusive sur l'histoire de Latent Space. Il signale aussi des sorties de modèles : Tencent Hy4 obtient 75,2 sur APEX-Agents contre 72,1 et 72,9 pour DeepSeek V4.1 Flash-1017, avec une API à 0,834 et 2,501 dollars par million de tokens en entrée et en sortie, et des poids annoncés. Il est classé 14e sur l'Agent Arena, à 0,55 dollar par tâche contre 1,46 pour Kimi K3.1 Pro (Max). Sarvam propose pour sa part Prism, un modèle de décision « System One » bâti sur Sarvam 105B.
Pas d\'impact direct sur la France/UE