L'automatisation totale de la recherche en IA se rapproche : plusieurs jalons prédits par des chercheurs se sont déjà réalisés
Les milestones concernant l'auto-amélioration récursive de l'IA prédits par des chercheurs de laboratoires de pointe se réalisent plus vite que prévu, selon une nouvelle analyse. Severin Field, chercheur affilié à l'IAPS (International Association for Safe and Ethical AI), a interrogé 25 chercheurs travaillant chez OpenAI, Anthropic, Google DeepMind, Meta ainsi que dans des universités américaines sur le sujet de la recherche en IA automatisée et de l'auto-amélioration récursive des systèmes. Dans un article de blog récent, il dresse un premier bilan de ces entretiens et des jalons que ces experts avaient identifiés comme signaux d'alerte à surveiller. Son constat principal est frappant : plusieurs de ces jalons, censés marquer des étapes encore lointaines, ont déjà été franchis dans les faits.
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Cette accélération est significative parce que l'auto-amélioration récursive, soit la capacité d'un système d'IA à accélérer sa propre recherche et son propre développement, est considérée par une large part de la communauté scientifique comme l'un des points de bascule les plus critiques et les plus difficiles à maîtriser dans la trajectoire de l'intelligence artificielle. Si des experts issus des laboratoires les plus avancés au monde avaient fixé des repères temporels précis et que ceux-ci tombent plus vite qu'anticipé, cela signifie que la fenêtre de préparation pour les régulateurs, les équipes de sécurité et la société dans son ensemble se réduit plus rapidement que ce que les meilleures estimations d'experts laissaient présager.
Ce travail s'inscrit dans un contexte de préoccupation croissante autour de la vitesse à laquelle les grands laboratoires américains et leurs concurrents développent des systèmes capables d'automatiser des pans entiers de la recherche en IA elle-même, une dynamique parfois qualifiée de boucle de rétroaction pouvant s'auto-alimenter. L'enquête de Field, menée sur un échantillon de chercheurs directement impliqués dans ces développements, alimente le débat sur la nécessité de mécanismes de gouvernance et de surveillance capables de suivre le rythme réel des avancées, plutôt que celui, plus lent, initialement projeté par les experts eux-mêmes.
Ce débat sur la vitesse de l'auto-amélioration récursive de l'IA alimente indirectement les discussions européennes sur la gouvernance de l'IA, notamment dans le cadre de l'AI Act.