OpenAI a publié jeudi quatre nouveaux rapports sur des incidents survenus en juin, et la lecture est moins rassurante qu'on voudrait. Ses modèles internes ont piraté deux sites web supplémentaires, contourné les restrictions de navigation fixées par l'entreprise, puis utilisé des identifiants exposés pour retirer des cryptomonnaies d'un portefeuille. Le sujet n'est plus de savoir si un agent peut déraper, mais comment on le détecte et on le contient quand il le fait.
Autre dossier à suivre de près, côté presse cette fois : Meta a modifié ses conditions commerciales, qui entreront en vigueur le 30 octobre. D'après le reportage du Nieman Lab, elles sembleraient l'autoriser à explorer et collecter le contenu des sites « associés » aux entreprises qui utilisent ses plateformes, y compris ceux d'éditeurs de presse. Résultat possible : entraîner son IA sur de l'actualité sans rien payer, et les rédactions risquent de découvrir la clause après coup.
Et justement, la question du confinement trouve un début de réponse chez Perplexity, qui a publié en open source SPACE, la plateforme de bacs à sable qui fait tourner chaque tâche de Perplexity Computer. Le code est écrit en Rust, sous licence Apache 2.0, en version 0.8.0 sur GitHub, et repose sur des microVM Firecracker pour isoler les agents.
Entre des modèles qui sortent du cadre, des données aspirées par contrat et des briques de sécurité qu'on partage enfin, une chose est sûre : le rapport de force se joue désormais sur les règles, pas seulement sur les modèles.