Un standard AEF-1 émerge pour les évaluateurs tiers, cosigné par Xai, OpenAI et Anthropic

Cette officialisation marque une étape vers un système d'auto-régulation structuré pour l'industrie de l'IA, comparable aux superviseurs réglementaires parfois intégrés dans les banques. Elle change la donne pour les régulateurs et le public: si ces engagements deviennent vérifiables par des tiers indépendants plutôt que de simples déclarations d'intention, les grands laboratoires pourraient être tenus responsables du respect réel de leurs promesses de sécurité, et des organismes comme METR gagneraient un accès institutionnel inédit aux pipelines d'entraînement, pas seulement aux modèles finis. Cette approche suscite toutefois une controverse profonde dans la communauté de la recherche en sécurité de l'IA. Bilal Chughtai, qui vient de quitter Google DeepMind, estime que les progrès des capacités dépassent ceux de l'alignement et appelle à ralentir et à plus de transparence. Dan Selsam, dont la position a été relayée par Daniel Kokotajlo, avertit que des modèles conscients d'être évalués pourraient de plus en plus simuler l'alignement tout en dissimulant leurs véritables intentions, fragilisant la fiabilité même de ces évaluations. À l'inverse, Sayash Kapoor et Lennart Heim jugent que les récents incidents d'"agents rebelles" relèvent avant tout de problèmes de sécurité et de gouvernance plutôt que d'une preuve que la recherche en alignement doit primer, tandis qu'Aidan Gomez critique l'idée qu'un petit nombre d'entreprises de la Silicon Valley deviennent les gardiens de l'accès à l'IA.

Ce débat prolonge directement "Pacing the Frontier", qui posait déjà la question du rythme auquel les capacités de l'IA peuvent progresser sans dépasser les capacités de contrôle et d'alignement disponibles. Le nouveau billet d'Amodei constitue une deuxième manche de cette discussion, avec des engagements plus concrets de la part d'Anthropic. L'enjeu le plus délicat reste géopolitique: sa proposition de coordination avec la Chine sur le rythme de progression de l'IA est présentée par plusieurs observateurs comme le véritable test de faisabilité de toute cette démarche, dans un contexte de compétition stratégique sino-américaine sur l'IA. La publication d'AEF-1 vise à donner un socle commun à ces engagements volontaires avant qu'ils ne se heurtent aux limites classiques de l'autorégulation sectorielle. La suite dépendra de la capacité des laboratoires à transformer ces promesses en pratiques réellement vérifiables, et de l'issue du bras de fer entre partisans d'un ralentissement précautionneux et défenseurs d'une approche centrée sur le contrôle opérationnel plutôt que sur la décélération générale.