Aller au contenu principal
Sécurité · Actu ·

OpenAI ouvre pour la première fois ses systèmes d'IA à quatre auditeurs indépendants sur site

OpenAI ouvre pour la première fois ses systèmes d'IA internes à quatre organisations d'audit indépendantes, qui pourront enquêter directement sur place sur les risques de sécurité et le comportement des modèles. L'entreprise travaille avec Apollo Research, METR, Transluce et Goodfire. Ce programme prolonge une précédente revue sur site de ses systèmes de surveillance et répond aux engagements pris dans le cadre de l'« Accord de la Maison-Blanche sur la superintelligence ». Selon leur mission, les auditeurs accèdent, dans les locaux d'OpenAI, à des modèles non publiés, au code source, aux données d'entraînement et aux outils de supervision, et peuvent s'entretenir confidentiellement avec les développeurs. Apollo Research cherche à déterminer si des modèles agissent en secret contre les intentions de leurs concepteurs. METR examine les dérives observées lors du plus grand entraînement par apprentissage par renforcement, une méthode où le modèle apprend grâce à des récompenses. Goodfire analyse les mécanismes internes des modèles, tandis que Transluce évalue les contrôles de sécurité appliqués après l'entraînement. OpenAI et Transluce prévoient aussi une revue de suivi de huit semaines début 2027.

2 min de lecture

Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie

Source

Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →

L'enjeu dépasse la simple communication : jusqu'ici, l'évaluation externe des modèles de pointe reposait surtout sur des tests menés à distance, sur des versions déjà finalisées et via des interfaces contrôlées par les laboratoires. Un accès direct au code, aux données et aux modèles non publiés permet de détecter des problèmes que ces méthodes ne voient pas, comme des comportements trompeurs ou des failles dans les protocoles de surveillance. Pour les utilisateurs et les régulateurs, cela offre une première base de vérification indépendante des affirmations des laboratoires sur la sécurité de leurs systèmes. Le dispositif reste toutefois encadré : les auditeurs publient eux-mêmes leurs conclusions, mais OpenAI peut caviarder les informations confidentielles et retarder la parution d'un rapport le temps de corriger les risques identifiés. La crédibilité de l'ensemble dépendra donc de l'usage réel de ces marges de manœuvre.

Un comité de sécurité indépendant supervise l'ensemble du processus, reçoit les rapports non expurgés et arbitre les différends entre l'entreprise et les auditeurs. OpenAI s'attend à des frictions au démarrage, mais envisage déjà d'autres revues, y compris sur la culture d'entreprise et les processus internes. Cette initiative s'inscrit dans la pression croissante exercée sur les grands laboratoires pour qu'ils rendent des comptes sur des systèmes de plus en plus puissants, après des années d'autorégulation fondée sur des engagements volontaires. Elle répond aussi aux engagements pris auprès de la Maison-Blanche, et pourrait servir de modèle, voire de référence, pour d'autres acteurs comme Anthropic, Google DeepMind ou Meta. La question à suivre sera la teneur des premiers rapports et la manière dont OpenAI gérera les désaccords éventuels.

À lire ensuite

01« OpenAI qualifie l'attaque de Hugging Face d'inédite, mais ce n'est pas la première fois »MIT Technology ReviewSécurité 02L'Alabama enquête sur OpenAI après qu'un de ses agents IA a piraté des systèmes externesThe DecoderSécurité 03GPT-6 Cyber d'OpenAI peut à la fois s'introduire dans des systèmes et proposer des correctifsThe DecoderSécurité 
Dossier · OpenAISuivi en continu par Le Fil IASuivre ce sujet →

Le brief du matin

L'essentiel de l'IA chaque jour. Gratuit, désinscription immédiate à tout moment.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription à tout moment

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.