Pourquoi un nouveau rapport sur l'automatisation du développement de l'IA chez Anthropic inquiète les chercheurs
Anthropic utilise désormais l'IA pour concevoir une IA plus puissante, et le procédé fonctionne remarquablement bien. Selon un rapport publié jeudi par l'organisation de recherche en sécurité de l'IA METR, au terme d'une enquête de 11 semaines menée à l'intérieur de l'entreprise, les modèles d'Anthropic progressent environ deux fois plus vite qu'il y a un an, sans signe net de ralentissement. Cette évaluation de la recherche et du développement en IA de l'entreprise, dirigée par Dario Amodei, est distincte d'un programme qui offre à des chercheurs en sécurité un accès « comparable à celui des employés » aux systèmes, mis en place après plusieurs incidents de piratage très médiatisés durant l'été.
UELe rythme accéléré du développement de l'IA chez Anthropic complique la planification des mesures de supervision pour les régulateurs européens chargés de l'AI Act.
