L'auto-amélioration récursive de l'IA pourrait être plus lente que prévu
Une équipe de chercheurs multi-institutions, dirigée par Peter Kirgis et Sayash Kapoor de l'université de Princeton, a publié une étude qui tempère les prévisions les plus optimistes sur l'auto-amélioration récursive de l'intelligence artificielle, cette capacité des IA à perfectionner elles-mêmes leurs propres systèmes avec un minimum de supervision humaine. Pour la tester, les chercheurs ont conçu une nouvelle méthode d'évaluation baptisée "shadow évaluation", qui consiste à demander à un agent IA de répondre à une question de recherche tirée d'un article scientifique de haute qualité mais non publié, l'empêchant ainsi de retrouver la réponse dans ses données d'entraînement. L'expérience a porté sur Claude Opus 4.8 d'Anthropic, exécuté sur le logiciel open source OpenClaw, confronté à deux questions issues d'articles soumis à la conférence NeurIPS 2026: l'une portait sur le contrôle des "personas" d'un grand modèle de langage via la modification directe des poids du modèle, l'autre sur la conception d'un détecteur capable de signaler quand un modèle prédictif sur données tabulaires devient peu fiable. Les agents ont disposé de six jours, de 3 000 dollars de crédits API Anthropic, d'un budget de calcul GPU, d'ordinateurs virtuels et d'un accès au web ouvert pour produire un article digne d'une conférence de premier plan. Les auteurs originaux des deux papiers ont eux-mêmes évalué les productions, comme ils l'auraient fait pour une vraie soumission, et ont rejeté les deux articles.
Résumé et traduction réalisés par Le Fil IA à partir de MIT Technology Review. Lire l'article original →
Cette conclusion pèse directement sur l'un des récits les plus porteurs de l'industrie de l'IA, celui d'une automatisation prochaine et quasi totale de la recherche scientifique en intelligence artificielle. Selon Kapoor, les agents se sont montrés parfaitement compétents sur le plan technique, menant des revues de littérature, exécutant des centaines d'expériences et compilant des résultats avec rigueur. Mais ils se sont révélés "sans ambiguïté mauvais" dans l'exercice de la recherche elle-même: expériences incohérentes parfois menées sur de minuscules jeux de données synthétiques, textes peu intelligibles, aucune contribution réellement originale au domaine. Ce constat suggère que les échéances très optimistes avancées par certains acteurs du secteur pour l'automatisation complète de la recherche en IA pourraient devancer largement la réalité, avec des conséquences pour les laboratoires, les investisseurs et les décideurs qui bâtissent leurs stratégies sur une accélération imminente des capacités des modèles.
L'essor des agents IA capables d'écrire du code, de générer des données d'entraînement synthétiques ou d'optimiser les puces sur lesquelles ils tournent avait nourri l'idée que la recherche en IA elle-même pourrait bientôt s'automatiser en boucle. Or la plupart des évaluations existantes mesurent des tâches fermées à réponse vérifiable, comme résoudre un problème d'ingénierie ou post-entraîner un petit modèle sur un benchmark, sans jamais tester le jugement ouvert qu'exige une véritable recherche: choisir des hypothèses, déterminer quelles preuves trancheraient une question, ou savoir quand abandonner une piste. L'étude montre que si les agents formulent des hypothèses ambitieuses proches de celles des chercheurs humains, ils les abandonnent trop vite sur la base de données limitées et ne parviennent pas à repenser fondamentalement leur approche en cas d'échec, se limitant à de petits ajustements. Cet écart entre compétence d'exécution et jugement scientifique pourrait ralentir, sans forcément l'annuler, le scénario d'une intelligence artificielle capable de s'améliorer elle-même sans intervention humaine.
Pas d'impact direct sur la France/UE