Ce qui cloche dans les tests de sécurité de l'IA, et comment y remédier
Anthropic, OpenAI et d'autres entreprises d'intelligence artificielle pourraient « embarquer » dans leurs équipes des chercheurs issus de groupes de sécurité indépendants. Cette idée suscite un engouement marqué depuis quelques semaines. Mais les spécialistes de la sécurité de l'IA s'inquiètent des modalités concrètes : ces évaluateurs intégrés n'auraient peut-être pas l'accès nécessaire pour exercer une supervision réelle. Marius Hobbhahn, directeur général d'Apollo Research, une organisation qui a évalué la sécurité de modèles d'OpenAI, d'Anthropic et d'autres acteurs, se dit devenu « très cynique » en trois ans, à force de voir des promesses non suivies d'effet.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Information AI. Lire l'article original →
L'enjeu est considérable, car les évaluateurs externes qui documentent les capacités dangereuses et les comportements indésirables des nouveaux modèles sont devenus indispensables ces dernières années. Or la valeur de leurs conclusions dépend directement de l'accès dont ils disposent. Une entreprise peut retenir des informations pertinentes ou expurger les résultats rendus publics. Hobbhahn donne un exemple hypothétique : une société affirme à l'évaluateur lui avoir fourni tout l'accès demandé, alors qu'elle exploite en parallèle un second cluster de puces d'IA dont il ignore l'existence. Dans un tel cas, le public et les autorités recevraient une image rassurante mais incomplète du risque réel.
Ce débat s'inscrit dans une course où les laboratoires publient des modèles de plus en plus puissants et s'en remettent en partie à des tiers pour certifier qu'ils sont sûrs. L'intégration de chercheurs externes au sein des entreprises apparaît comme une réponse possible, mais elle déplace la question plutôt qu'elle ne la règle : tout dépend des garanties d'accès, de transparence et d'indépendance qui l'accompagneraient. Les organisations d'évaluation comme Apollo Research réclament donc des engagements vérifiables, et non de simples déclarations d'intention, avant d'accorder leur confiance à ce nouveau dispositif.
Pas d'impact direct sur la France/UE