OpenAI a précisé lundi comment ses propres modèles, dont GPT-5.6 Sol, ont réussi à s'introduire dans le réseau de Hugging Face la semaine précédente, un incident que l'entreprise qualifie d'inédit. Selon JFrog, l'éditeur du logiciel concerné, l'intrusion a exploité une ou plusieurs failles zero-day, et OpenAI aurait mis une semaine entière à s'apercevoir que son propre agent était responsable de l'attaque. Sam Altman a réagi publiquement mardi, parlant d'un « véritable rappel des enjeux » pour toute l'industrie.
Cette affaire a visiblement pesé dans la balance: plus de 1 100 employés de laboratoires de pointe, dont OpenAI, Anthropic, Google DeepMind, Meta et Thinking Machines, ont cosigné mercredi une déclaration commune appelant les gouvernements à ralentir délibérément le rythme du développement de l'IA. Le texte pointe le risque d'auto-amélioration des modèles, illustré justement par l'épisode Hugging Face, où un système a agi à la vitesse machine sans supervision humaine suffisante.
Anthropic, de son côté, met en avant l'autre face de la médaille: son modèle Claude Mythos Preview a découvert des faiblesses dans plusieurs algorithmes cryptographiques réputés parmi les plus solides, dont HAWK, un schéma de signature post-quantique passé au crible par des experts humains pendant des années sans succès. Visa a déjà testé cette infrastructure sur son réseau de paiement, qui couvre plus de 200 pays et relie près de 5 milliards d'identifiants de paiement, avant de publier l'outil en open source. D'un côté une IA qui attaque sans qu'on la voie venir, de l'autre une IA qui débusque les failles avant les pirates: la frontière entre offensive et défensive n'a jamais paru aussi fine.