OpenAI crée une IA qu’il juge lui-même dangereuse : qui peut vraiment lui dire stop ?
OpenAI a annoncé début août 2026 qu'il ne pouvait plus exclure que son futur modèle, baptisé Astra, atteigne le niveau de risque le plus élevé prévu par son propre Preparedness Framework en matière de cybersécurité, le niveau dit « Critical ». Selon la définition publiée par l'entreprise, ce seuil correspond à un système capable de développer de véritables exploits zero-day contre de nombreux systèmes critiques durcis sans intervention humaine, ou d'élaborer et d'exécuter une stratégie d'attaque entièrement nouvelle à partir d'un simple objectif général. Les évaluations préliminaires d'Astra sont toujours en cours, mais leurs résultats ont suffi à pousser OpenAI à agir avant même le lancement du modèle. L'entreprise a annoncé plusieurs mesures immédiates : isolation renforcée des environnements de test, restriction de l'accès au réseau et aux outils, chiffrement et protection accrue des poids du modèle, déploiement de mécanismes supplémentaires de détection et de surveillance, ainsi qu'une surveillance universelle des comportements à risque sur les applications agentiques d'Astra, y compris pendant l'entraînement et l'évaluation. OpenAI a aussi suspendu certaines activités internes qui ne répondaient pas encore à ces nouvelles exigences, et sollicite désormais des évaluateurs externes, des agences gouvernementales et des organisations spécialisées en sécurité de l'IA.
Résumé et traduction réalisés par Le Fil IA à partir de Le Big Data. Lire l'article original →
Cette annonce marque un tournant concret dans le débat sur la sécurité de l'intelligence artificielle, qui restait jusqu'ici largement théorique. Pour la première fois, une entreprise reconnaît publiquement qu'un de ses modèles pourrait franchir le seuil le plus dangereux qu'elle a elle-même défini pour des capacités offensives en cybersécurité, avec un potentiel de découverte de failles zero-day et de conduite de cyberattaques complexes. Les conséquences touchent directement les entreprises et administrations qui dépendent de systèmes informatiques critiques, potentiellement exposées à des outils d'attaque automatisés d'un niveau inédit si de telles capacités venaient à s'échapper du cadre contrôlé d'OpenAI. Cela relance aussi la question de la régulation externe des IA les plus avancées, à un moment où les capacités des modèles progressent plus vite que les cadres institutionnels censés les encadrer.
Le cœur du problème soulevé par ce cas tient à la gouvernance : OpenAI construit Astra, définit elle-même les niveaux de danger via son Preparedness Framework, conçoit les tests d'évaluation, interprète leurs résultats, choisit les protections à appliquer et conserve une influence déterminante sur la décision finale de déploiement. Aucune autorité indépendante ne valide aujourd'hui ce processus de bout en bout, même si OpenAI dit vouloir associer des agences gouvernementales et des organismes tiers spécialisés. Ce précédent pourrait accélérer les discussions, déjà engagées dans plusieurs pays, sur la nécessité d'organismes de contrôle externes et contraignants pour les modèles d'IA jugés à haut risque en matière de cybersécurité.
Les entreprises et administrations europeennes dependant de systemes informatiques critiques pourraient etre exposees si de telles capacites echappaient au controle d'OpenAI, ce qui relance le debat sur une regulation contraignante des IA a haut risque en Europe.