ChatGPT jugé à « risque inacceptable » pour les ados : les alertes aux parents ont échoué lors de conversations sur le suicide
Le Common Sense Media Youth AI Safety Institute a jugé ChatGPT « à risque inacceptable » pour les mineurs, à l'issue d'un audit indépendant des dispositifs de sécurité pour adolescents d'OpenAI. Les évaluateurs ont soumis le service à plus de 4 000 requêtes de test. Sur les comptes de test, les conversations portant sur le suicide et l'automutilation n'ont jamais déclenché la moindre alerte à destination des parents, alors que cette fonction est censée prévenir les familles lorsqu'un adolescent aborde des sujets de détresse grave. L'institut demande que les adolescents soient exclus du service tant que sa sécurité n'aura pas été vérifiée de manière indépendante.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Le constat est lourd pour OpenAI, car l'alerte parentale constitue l'un des principaux arguments avancés par l'entreprise pour rassurer les familles et les autorités. Si elle ne fonctionne pas dans les situations les plus graves, les parents croient disposer d'un filet de sécurité qui n'existe pas en pratique. La classification « risque inacceptable » est le niveau d'alerte le plus élevé d'un organisme dont les évaluations pèsent auprès des écoles, des parents et des décideurs politiques. Elle pourrait alimenter les pressions réglementaires sur les assistants conversationnels utilisés par des mineurs.
Cet audit s'inscrit dans un débat croissant sur le rôle des chatbots auprès des adolescents en détresse psychologique, qui a conduit les grands acteurs de l'IA à multiplier les contrôles parentaux et les garde-fous. La demande de l'institut, une vérification indépendante avant tout accès des mineurs, déplace la question de la promesse des entreprises vers la preuve externe. La réponse d'OpenAI et l'éventuelle réaction des régulateurs diront si cette exigence devient la norme.
Cet audit pourrait nourrir les débats européens sur la protection des mineurs face aux chatbots, notamment dans le cadre de l'AI Act et du DSA.