OpenAI prévoit d'entraîner ses modèles sur les données des sessions de cybersécurité Daybreak Blue, jusqu'ici exclues
OpenAI a annoncé qu'à partir du 29 novembre, les données des sessions Daybreak Blue, son service orienté cybersécurité, serviront à entraîner ses modèles. La mesure vaudra même pour les utilisateurs qui avaient désactivé l'entraînement sur leurs données dans leurs paramètres. Face aux critiques, l'entreprise a envoyé un second courriel promettant une option de refus distincte, propre à ces sessions. Elle n'a pas détaillé son fonctionnement dans ce message.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
L'enjeu est sensible, car des échanges de cybersécurité peuvent contenir des informations confidentielles : architectures de systèmes, failles identifiées, code propriétaire. Qu'un réglage de confidentialité activé volontairement ne protège plus une catégorie entière d'usages fragilise la confiance dans ces paramètres. Les professionnels et les entreprises qui s'appuient sur l'outil devront vérifier leur configuration et obtenir des garanties avant la date butoir. Sinon, des données sensibles pourraient alimenter les modèles sans qu'ils l'aient décidé.
Cet épisode ravive un différend récent entre OpenAI et des mathématiciens. Ceux-ci soupçonnaient l'entreprise d'avoir utilisé leurs recherches non publiées pour l'entraînement, sans leur consentement. Dans les deux cas, le même reproche revient : un accès à des contenus que leurs auteurs pensaient hors de portée, et une transparence jugée insuffisante. Le retournement rapide d'OpenAI, qui concède un refus séparé après la polémique, montre la pression des utilisateurs. Reste à savoir si cette option sera simple d'accès et si elle apaisera les clients les plus exposés.
Les entreprises et professionnels européens de la cybersécurité utilisant Daybreak Blue doivent vérifier leur configuration avant le 29 novembre, la mesure soulevant des questions de conformité au RGPD et de confidentialité des données.