OpenAI emploie des centaines de prestataires qui lisent vos conversations avec ChatGPT
OpenAI emploie des centaines de travailleurs contractuels chargés de lire de véritables conversations d'utilisateurs de ChatGPT et de les noter sur une échelle de un à sept, selon une enquête du site 404 Media. Cette évaluation humaine sert notamment à corriger les tendances du modèle à la flatterie excessive et aux comportements trop humains. Les échanges soumis à ces évaluateurs sont anonymisés, mais peuvent néanmoins contenir des informations personnelles sensibles, puisque les utilisateurs y abordent parfois des sujets intimes, médicaux ou professionnels sans filtre. Le paramètre qui autorise cette relecture, intitulé "Improve the model for everyone", est activé par défaut dans les comptes ChatGPT : les utilisateurs qui refusent que leurs conversations soient examinées par des humains doivent le désactiver manuellement.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Cette révélation ravive les inquiétudes sur la confidentialité des échanges avec les chatbots, à mesure que ces outils deviennent des confidents quotidiens pour des millions de personnes. Beaucoup d'utilisateurs ignorent que leurs propos peuvent être lus par des tiers rémunérés pour évaluer la qualité des réponses, et non uniquement traités par des systèmes automatisés. Pour OpenAI, cette pratique reste néanmoins un outil essentiel d'amélioration continue des modèles, permettant d'ajuster leur ton et de limiter les dérives comportementales identifiées grâce au retour humain.
Le recours à des annotateurs humains pour affiner les grands modèles de langage n'est pas nouveau : la technique du renforcement par retour humain (RLHF) est au cœur de l'entraînement de ChatGPT depuis son lancement. Mais l'ampleur de cette relecture, associée à un réglage de confidentialité peu visible et activé par défaut, relance le débat sur la transparence des entreprises d'intelligence artificielle envers leurs utilisateurs, alors que la pression réglementaire sur la protection des données s'intensifie des deux côtés de l'Atlantique.
Les utilisateurs français et européens de ChatGPT sont concernés par cette même relecture humaine de leurs conversations, dans un contexte de pression croissante du RGPD sur la protection des données.