Les enfants apprennent mieux que l'IA, et on ignore toujours pourquoi
Des scientifiques cognitifs s'interrogent sur un fossé persistant entre l'apprentissage humain et celui des intelligences artificielles: alors que les grands modèles de langage comme Claude, DeepSeek ou les modèles GPT d'OpenAI parviennent à imiter la fluidité humaine, ils nécessitent des volumes de données sans commune mesure avec ceux d'un enfant. Michael C. Frank, chercheur en sciences cognitives à Stanford, souligne qu'il faut encore "brûler une forêt entière et aspirer la somme de toutes les connaissances humaines" pour reproduire ce qu'un enfant accomplit en une année dans son salon. Llama 3.1, le modèle ouvert publié par Meta il y a deux ans, a ingéré 15 000 milliards de tokens lors de son pré-entraînement, et selon Ethan Gotlieb Wilcox, linguiste et chercheur en sciences cognitives à l'université de Georgetown, les modèles les plus avancés pourraient désormais s'entraîner sur dix fois plus de données encore. À titre de comparaison, un préadolescent élevé dans un foyer linguistiquement riche n'a entendu qu'environ 100 millions de mots, un total qui grimpe à peine à 300 millions vers l'âge de 20 ans en intégrant la lecture. Imprimées sur papier, les données d'entraînement d'un modèle comme Claude formeraient une pile dépassant la Station spatiale internationale, contre à peine 20 mètres pour les 100 millions de mots d'un enfant.
Résumé et traduction réalisés par Le Fil IA à partir de MIT Technology Review. Lire l'article original →
Cet écart, baptisé "fossé d'efficacité des données", n'est pas qu'une curiosité académique: il touche directement à l'avenir de l'intelligence artificielle. Les réserves de texte facilement accessibles sur internet s'épuisent, et certains chercheurs anticipent une pénurie de données d'entraînement dès les années 2030. Comprendre comment les enfants apprennent avec si peu d'exemples pourrait donc permettre de concevoir des modèles bien plus économes en données, utiles pour entraîner des IA sur la vidéo ou pour développer des assistants conversationnels destinés aux langues minoritaires, actuellement mal servies faute de corpus suffisants. Au-delà de l'ingénierie, cette question touche aussi à des débats fondamentaux en linguistique et en psychologie du développement.
Ce fossé s'inscrit dans une décennie où les modèles de langage ont surtout progressé grâce à l'augmentation brute de leur taille et de leurs données d'entraînement, une stratégie qui approche désormais de ses limites physiques. En étudiant comment les enfants acquièrent le langage avec des ressources aussi limitées, les chercheurs espèrent trancher des questions anciennes: l'être humain naît-il avec un instinct inné du langage, ou pourrait-il en principe l'apprendre uniquement par l'expérience? Le traitement du langage relève-t-il d'une particularité biologique propre à l'espèce humaine, ou reflète-t-il des contraintes universelles qui s'appliqueraient aussi, en théorie, aux machines? Tester ces hypothèses sur des modèles artificiels pourrait ainsi éclairer à la fois la conception de futures IA et la compréhension du développement cognitif humain.
Pas d'impact direct sur la France/UE