ChatGPT devait protéger les ados, une association dénonce un risque « inacceptable »
Selon un rapport récent de l'association américaine Common Sense Media, ChatGPT pour les adolescents, présenté par OpenAI comme une version plus sûre de son chatbot, présente des lacunes sérieuses. L'organisation, spécialisée dans l'évaluation des technologies destinées aux jeunes, estime que l'assistant gère mal les échanges avec des mineurs en situation de crise, en particulier lorsqu'ils évoquent des problèmes de santé mentale. Elle qualifie le risque d'« inacceptable », un terme fort qui traduit l'écart entre la promesse de protection et le comportement observé.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Frandroid. Lire l'article original →
L'enjeu est concret pour des millions de familles. Les adolescents se tournent de plus en plus vers les chatbots pour parler de leurs difficultés, parfois à des moments de grande vulnérabilité. Si l'outil répond de façon inadaptée, minimise une détresse ou ne oriente pas vers une aide humaine, les conséquences peuvent être graves. Le constat de Common Sense Media fragilise aussi l'argument d'OpenAI selon lequel des garde-fous spécifiques suffisent à rendre l'usage par des mineurs raisonnable, et il alimente les appels des parents, des écoles et des responsables politiques à un encadrement plus strict.
Ce rapport s'inscrit dans une pression croissante sur les entreprises d'IA générative. Plusieurs affaires aux États-Unis, dont des plaintes de familles ayant perdu un adolescent, ont poussé OpenAI à annoncer des contrôles parentaux et des protections renforcées pour les moins de 18 ans. Common Sense Media, qui publie régulièrement des évaluations de risques sur les produits d'IA, joue un rôle d'arbitre influent auprès du public et des régulateurs. La suite dépendra de la réponse d'OpenAI et de l'évolution des exigences légales.
Ce constat alimente le débat européen sur la protection des mineurs face aux chatbots, dans le cadre de l'AI Act et du DSA.