Aller au contenu principal
Sécurité · Actu ·

METR avertit que l'IA progresse plus vite que la capacité des experts à tester la sécurité des nouveaux systèmes

L'organisation de recherche METR avertit que les modèles d'IA progressent plus vite que la capacité des experts à évaluer leur sécurité. Selon ses travaux, les systèmes actuels s'améliorent rapidement sur les tâches de recherche en IA, et ces progrès deviennent de plus en plus difficiles à mesurer. Sur des tâches de programmation et de calcul clairement définies, avec un retour d'information direct, les modèles battent déjà la plupart du temps des professionnels humains expérimentés, sans toutefois surpasser de grands groupes d'experts de haut niveau. Pour les tâches qui demandent plus de temps à un humain, la durée de tâche que les modèles savent traiter double tous les 3,6 mois. Une extrapolation naïve des données de METR leur attribue un taux de réussite de 50 % sur les tâches les plus longues, de 200 heures, d'ici juillet 2027.

2 min de lecture

Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie

Source

Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →

L'enjeu est considérable : METR estime que les données publiques actuelles ne suffisent pas à écarter l'hypothèse d'une accélération drastique de la recherche en IA au cours des prochaines années. Dans ce cas, les humains risqueraient de ne plus pouvoir « comprendre, évaluer et réagir de manière pertinente aux risques catastrophiques que posent les nouveaux systèmes d'IA ». Autrement dit, les instruments de mesure sur lesquels reposent les décisions des laboratoires, des régulateurs et des entreprises utilisatrices pourraient devenir obsolètes avant même que les risques ne soient identifiés. Cela concerne autant les développeurs, qui doivent décider si un modèle peut être déployé, que les pouvoirs publics, qui s'appuient sur ces évaluations pour encadrer la technologie.

Le contexte tient à une limite structurelle des évaluations actuelles. Les systèmes peinent encore sur les questions ouvertes, sans retour immédiat et exigeant un véritable jugement, ainsi que dans les situations difficiles à reproduire pour l'entraînement. METR souligne par ailleurs que les tests courants, faciles à exécuter, peuvent surestimer les performances réelles des modèles, car les développeurs les entraînent dans des environnements de test très proches de ces évaluations. L'écart entre les scores mesurés et l'usage réel risque donc de se creuser à mesure que les capacités augmentent. La suite dépendra de la capacité de la communauté à concevoir des évaluations plus robustes, moins prévisibles et plus proches des conditions réelles, avant que la courbe de progression décrite par METR ne rende ces garde-fous insuffisants.

Impact France / UEChamp produit par Le Fil IA

Les évaluateurs et régulateurs européens qui s'appuient sur des tests de sécurité des modèles, notamment dans le cadre de l'AI Act, risquent de voir ces mesures devenir obsolètes.

À lire ensuite

01L'écosystème IA coréen progresse et sécurise les agents autonomes avec NVIDIANVIDIA AI BlogSécurité 02L'IA Hush Security estime que le problème de sécurité de l'IA a évolué : il ne s'agit plus de protéger les modèles, mais de gouverner les identités face à la propagation des agents autonomesVentureBeat AISécurité 03L'IA nous manque de plus en plus de raisons de l'ignorer sur la sécuritéThe Verge AISécurité 

Le brief du matin

L'essentiel de l'IA chaque jour. Gratuit, désinscription immédiate à tout moment.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription à tout moment

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.