Ce que l'IA se trompe et ce que l'échec nous apprend
Jennifer Neville, partner research manager chez Microsoft Research et titulaire de la chaire Samuel D. Conte en informatique et statistiques à Purdue, était l'invitée de Chad Atalla, scientifique appliqué principal chez Microsoft, dans le Microsoft Research Podcast. Ses travaux portent sur l'apprentissage automatique et l'IA pour les domaines interactifs et les données structurées, en particulier sur la manière dont les données d'entraînement influencent le comportement des systèmes et leur adéquation avec les attentes des utilisateurs. Elle a publié plus de 130 articles cités plus de 10 000 fois, reçu un CAREER Award de la National Science Foundation, figuré dans la liste « 10 to Watch » de l'IEEE en IA, et obtenu des prix du meilleur article aux conférences ICDM et ICLR. Dans l'entretien, elle revient sur son parcours atypique : d'abord les mathématiques, puis la physique, avant d'abandonner un temps ses études et de se tourner vers les sciences cognitives, jugées trop « floues » et pas assez mathématiques. Elle a longtemps voulu éviter l'informatique, discipline de son père, avant d'y arriver malgré elle.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Microsoft Research. Lire l'article original →
Neville insiste sur le rôle de l'évaluation pour repousser les limites des systèmes d'IA actuels et les rapprocher des besoins réels des utilisateurs. Lorsque les modèles sont testés au-delà des benchmarks traditionnels, des « échecs surprenants » apparaissent. Ils révèlent des faiblesses que les mesures habituelles ne captent pas. Elle défend aussi l'idée qu'il faut examiner de près les données quand les résultats contredisent les attentes, et offre des conseils pratiques pour travailler avec les systèmes actuels. Pour les équipes qui conçoivent ou déploient des modèles, le message est clair : un bon score ne garantit pas un bon comportement en situation réelle, et c'est en analysant les échecs que l'on comprend où et pourquoi un système déraille.
Cette approche s'inscrit dans une carrière marquée par la constance d'un fil conducteur, que Chad Atalla souligne : une capacité à anticiper l'évolution du domaine tout en gardant la même question de fond, celle de l'alignement entre les données, les comportements des modèles et les intentions des utilisateurs. Neville explique que ce qui l'a happée vers la recherche, ce sont les périodes de découragement où rien ne fonctionnait, suivies du moment où l'on comprend enfin quelque chose que personne d'autre ne comprend encore, à la frontière du savoir. Elle revient également sur ce que des décennies de progrès en IA lui ont appris sur la difficulté de prédire la suite. L'épisode pose une question plus large : que peut-on apprendre lorsque le chemin, humain ou artificiel, ne se déroule pas comme prévu ?
Pas d'impact direct sur la France/UE