1MarkTechPost
Guide de l'ingénierie des boucles : comment 'autoresearch' et 'Bilevel Autoresearch' transforment les agents IA en boucles autonomes de recherche en machine learning
Ancien mode d'usage de l'IA : on tape une instruction, on lit la réponse, on recommence manuellement. Un nouveau paradigme appelé "loop engineering" remplace cet aller-retour par une boucle autonome où le modèle planifie, agit, vérifie son propre résultat, puis recommence jusqu'à atteindre un objectif fixé une seule fois par l'humain. Le 7 mars 2026, Andrej Karpathy a publié en open source sous licence MIT le dépôt "autoresearch", à peine trois fichiers et environ 630 lignes de code, qui a atteint près de 90 000 étoiles sur GitHub en quelques jours et donné son nom au procédé baptisé "Karpathy Loop". Le système limite volontairement l'agent : il ne peut modifier que le fichier train.py, qui contient le modèle GPT, les optimiseurs Muon et AdamW et la boucle d'entraînement, mais n'a pas accès au fichier prepare.py qui gère l'évaluation, empêchant ainsi l'agent de tricher en simplifiant le test plutôt qu'en améliorant le modèle. Un humain rédige les consignes dans un fichier program.md, et chaque cycle consiste à proposer une modification, entraîner le modèle pendant cinq minutes, puis conserver ou annuler le changement selon la métrique valbpb, les bits par octet en validation, où une valeur plus basse est meilleure. Ce rythme permet environ 12 expériences par heure, soit une centaine pendant une nuit. Les résultats rapportés par Karpathy sont concrets : appliqué à son code d'entraînement déjà optimisé nanochat GPT-2, le système a tourné deux jours, réalisé environ 700 expériences et conservé 20 améliorations réelles, réduisant le temps d'entraînement de 11 %, de 2,02 à 1,80 heure. L'une des corrections concernait une implémentation de QK-Norm à laquelle manquait un multiplicateur scalaire, ce qui diluait excessivement l'attention entre les têtes du modèle. Karpathy souligne qu'un humain se lasse après une douzaine d'expériences, alors que la boucle continue sans relâche. Tobi Lütke, PDG de Shopify, a testé le système sur un modèle interne pendant une nuit et obtenu une amélioration de 19 % après 37 expériences, confirmant l'intérêt de la méthode dès lors qu'une métrique objective existe. Ce constat a fait émerger une variante plus ambitieuse, "Bilevel Autoresearch", qui ajoute un second agent superviseur au-dessus de l'agent exécutant, avec un journal d'expériences enrichi de code injecté, et revendique une baisse de valbpb cinq fois supérieure à la boucle simple. Pour fonctionner de façon fiable, toute boucle repose sur trois éléments : un vérificateur objectif qui note chaque tentative, un état persistant qui mémorise les essais passés, et une condition d'arrêt qui limite le coût. Les équipes d'ingénierie IA assemblent désormais ces boucles à partir de cinq briques réutilisables : l'automatisation qui déclenche le cycle, une base de connaissances au format markdown, des agents spécialisés qui séparent rédaction et relecture, des connecteurs vers des outils réels comme un gestionnaire de tickets, et un vérificateur qui reste la garantie finale contre les résultats médiocres.
💬 Faut pas se laisser distraire par les 90 000 étoiles, le truc important c'est que Karpathy a trouvé la formule qui manquait : un vérificateur objectif, un état persistant, une condition d'arrêt, et l'agent tourne toute la nuit sans se lasser. 700 expériences en deux jours pour gagner 11 % sur du code déjà optimisé, un humain n'aurait jamais tenu ce rythme. Reste que ça ne marche que si t'as une métrique claire à optimiser, dès que le critère de succès devient flou la boucle tourne dans le vide.
