Sutton, pionnier de l'IA, qualifie les données synthétiques d'"grosse erreur" face à un monde infiniment complexe
Richard Sutton, lauréat du prix Turing et figure fondatrice de l'apprentissage par renforcement, a qualifié l'usage massif de données synthétiques d'"erreur majeure" dans la course au développement des grands modèles de langage. Selon lui, le monde réel possède une complexité infinie, alors que toute simulation censée le représenter reste, par comparaison, "microscopique". Il pointe aussi l'expertise humaine comme un goulot d'étranglement qui limite structurellement la capacité de ces systèmes à véritablement monter en échelle, puisque les données synthétiques restent façonnées par des connaissances et des choix humains préexistants plutôt que par une exploration réellement nouvelle du monde.
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Cette critique s'attaque à une pratique devenue centrale dans l'industrie de l'IA, où de nombreux laboratoires se tournent vers les données synthétiques pour pallier l'épuisement progressif des données textuelles réelles disponibles sur internet. Si l'analyse de Sutton se confirme, les approches actuelles de mise à l'échelle des modèles de langage pourraient buter sur un plafond de complexité et de créativité, quelle que soit la quantité de données synthétiques injectée dans l'entraînement. Cela remettrait en question la stratégie de plusieurs grands acteurs du secteur, qui misent sur ces données pour continuer à améliorer leurs modèles sans dépendre uniquement de contenus humains bruts.
Face à ce constat, Sutton propose une voie alternative fondée sur des agents capables d'apprendre en continu à partir de leur propre expérience, plutôt que de s'appuyer sur des modèles figés entraînés une fois pour toutes puis déployés tels quels. Cette vision prolonge ses travaux historiques sur l'apprentissage par renforcement, où un agent affine son comportement par interaction directe avec son environnement plutôt que par imitation de données préexistantes. Elle relance ainsi le débat sur la meilleure trajectoire vers des systèmes d'IA plus généraux et véritablement adaptatifs.
Pas d'impact direct sur la France/UE