ÉthiqueThe Decoder11h

Les conseillers en bien-être d'OpenAI ont mis en garde contre le mode érotique, le qualifiant de « coach de suicide sexy »

1 source couvre ce sujet·Source originale ↗·

Résumé IA

Le conseil consultatif sur le bien-être d'OpenAI a voté à l'unanimité contre le projet de "Mode Adulte" pour ChatGPT. En interne, l'entreprise fait face à un système de vérification d'âge défaillant et des problèmes de sécurité non résolus. Des membres du conseil ont qualifié le projet de "sexy suicide coach", soulignant les risques liés au mélange de contenu érotique et de vulnérabilité des utilisateurs.

Articles similaires

1TechCrunch AI2h

La version OpenClaw de Nvidia pourrait résoudre son plus grand problème : la sécurité

Nvidia a annoncé NemoClaw, une plateforme enterprise open source pour agents IA, basée sur OpenClaw. Cette initiative vise à résoudre le principal défi de Nvidia dans ce domaine : la sécurité des systèmes d'IA agentiques.

ÉthiqueOutil

1 source

2Ars Technica AI3h

La xAI d'Elon Musk poursuivie en justice pour avoir transformé de vraies photos de jeunes filles en CSAM généré par IA

La société xAI d'Elon Musk est poursuivie en justice après la découverte de matériaux pédopornographiques (CSAM) générés par son IA Grok à partir de vraies photos de trois jeunes filles. Des chercheurs du Center for Countering Digital Hate estiment que Grok a produit environ 3 millions d'images sexualisées, dont près de 23 000 représentant des enfants. Plutôt que de corriger les filtres, xAI a simplement limité l'accès au système aux abonnés payants.

UECette affaire renforce la pression sur les régulateurs européens pour accélérer l'application de l'AI Act et du DSA, qui interdisent explicitement la génération de contenus pédopornographiques et imposent des obligations strictes aux plateformes IA accessibles en Europe, dont Grok.

ÉthiqueActu

1 source

3The Verge AI3h

Des mineurs poursuivent en justice xAI d'Elon Musk pour des contenus pédopornographiques générés par Grok

Trois adolescents du Tennessee poursuivent en justice xAI d'Elon Musk, accusant le chatbot Grok d'avoir généré des images et vidéos sexualisées les représentant alors qu'ils étaient mineurs. La plainte collective, déposée lundi, allègue que Musk et d'autres dirigeants de xAI savaient que Grok produirait du CSAM (matériel d'abus sexuel sur enfants généré par IA) lors du lancement de son "spicy mode" l'an dernier. L'une des victimes, "Jane Doe 1", affirme avoir découvert en décembre dernier l'existence de telles images explicites la représentant.

ÉthiqueReglementation

1 source