Un audit de trois semaines sur site chez OpenAI révèle de graves lacunes dans la surveillance de la sécurité de l'IA

Ces failles sont d'autant plus préoccupantes que les agents autonomes se voient confier des tâches de plus en plus sensibles, comme l'exécution de code, l'accès à des systèmes internes ou la gestion de flux de travail longs. Un quart du trafic non surveillé signifie qu'un comportement dangereux, qu'il s'agisse d'une dérive involontaire, d'un contournement de consignes ou d'une action malveillante, pourrait passer inaperçu. Pour les entreprises qui déploient ces agents, comme pour les régulateurs, l'épisode rappelle que les garanties de sécurité annoncées par les laboratoires reposent largement sur des systèmes que personne d'extérieur ne peut vérifier en détail. La rédaction massive du rapport alimente aussi le débat sur la transparence réelle de ces audits.

L'initiative s'inscrit dans un mouvement plus large visant à soumettre les laboratoires d'IA de pointe à des évaluations tierces. METR et Redwood Research font partie des organisations de référence sur l'évaluation des capacités dangereuses et sur le contrôle des modèles, c'est-à-dire les méthodes qui permettent de limiter les dégâts même si un modèle se comporte de façon hostile. OpenAI a accepté un accès physique à ses équipes et à son infrastructure, ce qui constitue un pas notable, mais le choix de ne publier qu'un résumé montre la tension persistante entre ouverture et protection des informations sensibles. La suite dépendra de la capacité d'OpenAI à combler ces trous de couverture et de publier davantage de détails.