OpenAI a annoncé que, à partir du 29 novembre, les données des sessions Daybreak Blue, son service orienté cybersécurité, serviront à entraîner ses modèles. Ces sessions étaient jusqu'ici exclues de l'entraînement. La mesure vaudra même pour les utilisateurs qui avaient désactivé l'entraînement sur leurs données dans leurs paramètres, ce qui promet de faire du bruit chez les professionnels de la sécurité.
Côté sécurité justement, une version piégée de l'extension Claude Code pour VS Code, estampillée 2.1.313, a circulé le 29 octobre dans la boutique d'extensions de Cursor. Elle est restée en ligne de 10h27 à 21h35, heure de Paris, soit plus de onze heures. C'est assez pour que près de 5 000 personnes l'installent. Ars Technica parle d'une porte dérobée qui a menacé jusqu'à 5 000 machines de développeurs.
Autre sujet sensible chez Anthropic: la société étend son filigrane textuel à quatre modèles Claude supplémentaires, pour tenir l'échéance de décembre fixée par le règlement européen sur l'IA. Le déploiement laisse toutefois une faille sur deux anciens modèles Claude, qui restent donc une zone d'ombre dans le dispositif.
Entre données d'entraînement, chaînes d'approvisionnement logicielles et marquage des textes, la même question revient: qui contrôle vraiment ce que l'IA absorbe et ce qu'elle produit?