Pourquoi travailler sur l'IA pour la recherche en IA (Richard Socher, Recursive)
Richard Socher, fondateur du moteur de recherche You.com et du fonds AIX Ventures, a lancé une nouvelle entreprise baptisée Recursive, qui a réuni une partie des meilleurs chercheurs mondiaux en "open-endedness" et en agents auto-améliorants, et levé un tour d'amorçage de 4,65 milliards de dollars. Invité du podcast Latent Space, Socher y présente sa vision de la "Eureka Machine", décrite aussi dans son livre du même nom : une intelligence artificielle capable d'améliorer le processus même de l'invention, d'accélérer la recherche scientifique et de s'attaquer à terme à des problèmes majeurs en énergie, matériaux, biologie et au-delà. Il détaille les premiers résultats de Recursive, notamment un système de recherche IA qui aurait surpassé des humains et leurs agents sur des tâches d'optimisation en moins de deux jours, ainsi que des travaux sur les noyaux GPU NVIDIA où le système a découvert seul des optimisations, sans recourir à une équipe d'experts CUDA. Ces résultats, ainsi que d'autres expériences autour de NanoChat et NanoGPT, sont résumés dans une conférence de vingt minutes donnée lors de l'AI Engineer Summit, où Socher expose également ses dix dimensions de l'intelligence.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Latent Space. Lire l'article original →
Pour Socher, une recherche en IA qui mobilise aujourd'hui des milliers de personnes pendant plusieurs années pourrait, à terme, être compressée en quelques semaines grâce à l'automatisation du processus de recherche lui-même. Cette perspective de recherche récursive, où l'IA améliore sa propre capacité à produire de la science, changerait la donne pour l'ensemble de l'industrie et pour des secteurs entiers, de la découverte de médicaments à la conception de matériaux. Mais l'entretien aborde aussi les risques associés à des systèmes toujours plus capables : le piratage de récompense ("reward hacking"), la difficulté croissante à concevoir des objectifs sûrs à mesure que l'IA gagne en intelligence, et la question de savoir si des modèles pourraient un jour choisir eux-mêmes leurs propres buts. Socher critique par ailleurs l'approche d'Anthropic fondée sur une "constitution" pour aligner ses modèles, et plaide pour l'importance des modèles open source comme facteur de résilience, de compétition et d'influence géopolitique.
Le parcours de Socher éclaire cette trajectoire : ses travaux antérieurs sur DecaNLP et la généralisation par prompts ont influencé les recherches d'Alec Radford qui ont mené à GPT, et il a quitté les activités de modèles de pointe de You.com pour fonder Recursive. Il évoque aussi ses travaux sur l'"AI Economist", des simulations d'économies entières servant à tester des politiques publiques, ainsi que les débats sur la régulation de l'IA, les scénarios de décollage rapide freinés par des contraintes physiques et économiques, et les limites théoriques de l'intelligence, qu'il structure autour de dix domaines allant de la vision à la communication en passant par la créativité.
Pas d'impact direct sur la France/UE