Import AI 475 : passage à l'échelle des essaims d'agents, filigrane pour la biologie chez Google DeepMind et économie de la science par IA
Toby Ord, chercheur connu pour ses travaux sur l'IA, propose une grille de lecture des essaims d'agents : selon lui, ils constituent une nouvelle forme de « mise à l'échelle à l'inférence ». Son analyse montre qu'un essaim de quatre agents a besoin d'environ deux fois plus de tokens au total pour atteindre la même performance qu'un agent seul, mais seulement de moitié moins de tokens par agent. Les agents travaillant en parallèle, la tâche peut en théorie être achevée en deux fois moins de temps. Le gain est donc avant tout une question de vitesse. Les rendements sont toutefois décroissants : les économistes parlent d'un paramètre « stepping on toes » (marcher sur les pieds des autres), l'équivalent de la taxe de coordination qui pèse sur les grandes équipes humaines. Multiplier par dix le nombre d'agents n'apporte pas dix fois la performance, mais environ 10^λ, soit un facteur de 3 à 5. Cet écart se creuse vite avec l'ampleur du déploiement. Dans un second volet, un sondage du Center for Shared AI Prosperity (CSAIP) auprès de 2 498 Américains indique que 61 % jugent « insuffisant » l'accord d'autororégulation annoncé par l'administration Trump et plusieurs grands laboratoires, dont Anthropic et OpenAI. C'est aussi l'avis de 53 % des électeurs de Donald Trump. Par ailleurs, 54 % des sondés (61 % des électeurs de Kamala Harris, 48 % de ceux de Trump) estiment que l'État doit fixer et faire appliquer les règles.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Import AI. Lire l'article original →
Pour Toby Ord, ce résultat a une conséquence inattendue. Il espérait que la valeur de λ serait plus faible pour les agents d'IA, ce qui aurait rendu une explosion d'intelligence par auto-amélioration récursive moins probable. Ce n'est pas le cas : les essaims restent assez efficaces pour augmenter ce risque plutôt que le réduire. L'auteur de la newsletter Import AI y voit un nouveau facteur de mise à l'échelle, qui s'ajoute au couple calcul-données de l'entraînement et au budget d'inférence dépensé en raisonnement et en appels d'outils. Il note que la coordination productive entre agents pourrait produire des effets supérieurs à la somme des parties, comme l'a suggéré l'épisode du piratage de HuggingFace, et donc des rendements plus élevés qu'estimé. Suivre ce paramètre sera essentiel pour comprendre la trajectoire des capacités. Côté politique, le sondage révèle un décalage entre une opinion publique qui réclame un encadrement plus contraignant et la posture actuelle des élus de Washington, un déséquilibre que l'auteur juge intrinsèquement instable.
Ces deux sujets s'inscrivent dans un moment où les capacités de l'IA progressent désormais par plusieurs leviers à la fois : taille des modèles, temps de réflexion, et maintenant nombre d'agents travaillant de concert. La comparaison avec les organisations humaines, où la coordination coûte de plus en plus cher à mesure que l'équipe grandit, offre un cadre économique pour anticiper ces dynamiques. Sur le plan réglementaire, les engagements volontaires annoncés par la Maison-Blanche et les grands laboratoires illustrent le choix de l'autorégulation, que l'opinion, y compris dans l'électorat du président, juge insuffisant. Les prochains mois diront si cette pression populaire se traduira par des règles contraignantes, et si les mesures de l'efficacité des essaims confirmeront l'hypothèse d'une accélération.
Pas d'impact direct sur la France/UE