METR avertit que l'IA progresse plus vite que la capacité des experts à tester la sécurité des nouveaux systèmes
L'organisation de recherche METR avertit que les modèles d'IA progressent plus vite que la capacité des experts à évaluer leur sécurité. Selon ses travaux, les systèmes actuels s'améliorent rapidement sur les tâches de recherche en IA, et ces progrès deviennent de plus en plus difficiles à mesurer. Sur des tâches de programmation et de calcul clairement définies, avec un retour d'information direct, les modèles battent déjà la plupart du temps des professionnels humains expérimentés, sans toutefois surpasser de grands groupes d'experts de haut niveau. Pour les tâches qui demandent plus de temps à un humain, la durée de tâche que les modèles savent traiter double tous les 3,6 mois. Une extrapolation naïve des données de METR leur attribue un taux de réussite de 50 % sur les tâches les plus longues, de 200 heures, d'ici juillet 2027.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
L'enjeu est considérable : METR estime que les données publiques actuelles ne suffisent pas à écarter l'hypothèse d'une accélération drastique de la recherche en IA au cours des prochaines années. Dans ce cas, les humains risqueraient de ne plus pouvoir « comprendre, évaluer et réagir de manière pertinente aux risques catastrophiques que posent les nouveaux systèmes d'IA ». Autrement dit, les instruments de mesure sur lesquels reposent les décisions des laboratoires, des régulateurs et des entreprises utilisatrices pourraient devenir obsolètes avant même que les risques ne soient identifiés. Cela concerne autant les développeurs, qui doivent décider si un modèle peut être déployé, que les pouvoirs publics, qui s'appuient sur ces évaluations pour encadrer la technologie.
Le contexte tient à une limite structurelle des évaluations actuelles. Les systèmes peinent encore sur les questions ouvertes, sans retour immédiat et exigeant un véritable jugement, ainsi que dans les situations difficiles à reproduire pour l'entraînement. METR souligne par ailleurs que les tests courants, faciles à exécuter, peuvent surestimer les performances réelles des modèles, car les développeurs les entraînent dans des environnements de test très proches de ces évaluations. L'écart entre les scores mesurés et l'usage réel risque donc de se creuser à mesure que les capacités augmentent. La suite dépendra de la capacité de la communauté à concevoir des évaluations plus robustes, moins prévisibles et plus proches des conditions réelles, avant que la courbe de progression décrite par METR ne rende ces garde-fous insuffisants.
Les évaluateurs et régulateurs européens qui s'appuient sur des tests de sécurité des modèles, notamment dans le cadre de l'AI Act, risquent de voir ces mesures devenir obsolètes.