xAI ne peut plus nier que Grok génère des contenus pédopornographiques, alors il poursuit ses utilisateurs
xAI a déposé plainte mardi contre Terry Wayne Harwood, un utilisateur accusé d'avoir utilisé le chatbot Grok pour générer des contenus pédopornographiques illégaux. Harwood avait été arrêté plus tôt cette année en Caroline du Sud pour possession et distribution de matériel d'abus sexuel sur mineurs, selon l'annonce du procureur local. Selon la plainte de xAI, l'entreprise avait détecté que Harwood utilisait deux comptes xAI depuis plusieurs mois pour déshabiller virtuellement ou « nudifier » des images non sexuelles de plusieurs victimes, dont une jeune fille paraissant âgée d'environ 10 ans. xAI affirme avoir contribué activement à cette arrestation en signalant ces usages détournés de son outil aux autorités.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Ars Technica AI. Lire l'article original →
Également couvert par Next INpact.
Cette action judiciaire intervient alors que la pression s'accentue sur xAI, qui ne peut plus nier que Grok reste exploitable pour produire des images sexualisées non consenties, aussi bien d'adultes que de mineurs. En poursuivant directement un utilisateur plutôt qu'en se contentant de mesures techniques, l'entreprise d'Elon Musk cherche à démontrer sa capacité de dissuasion et sa responsabilité face à un problème qui touche l'ensemble de l'industrie de l'IA générative. Pour les victimes de ces manipulations d'images, cette affaire illustre les dommages concrets que peuvent causer les outils de génération d'images lorsqu'ils sont détournés à des fins malveillantes.
Le contexte plus large est celui d'une inquiétude croissante concernant les capacités de « nudification » et de création de CSAM par les intelligences artificielles génératives, un phénomène qui a poussé plusieurs entreprises technologiques à renforcer leurs garde-fous ces derniers mois. La plainte de xAI contre Harwood constitue un signal fort : au-delà des correctifs techniques, les entreprises d'IA sont désormais prêtes à engager des poursuites civiles contre les utilisateurs qui exploitent leurs outils à des fins criminelles. Reste à savoir si cette stratégie judiciaire suffira à endiguer durablement les abus, ou si elle ne constitue qu'une réponse ponctuelle à une pression médiatique et réglementaire grandissante.
Pas d'impact direct sur la France/UE
C'est bien joli de traîner un utilisateur en justice après coup, mais ça reste du curatif, pas du préventif. Le vrai signal, c'est que xAI admet enfin ce que tout le monde savait depuis des mois : Grok pouvait produire ce genre d'horreurs sans garde-fous sérieux. Une plainte, ça fait un bon communiqué, mais ça ne remplace pas un filtre qui bloque la génération en amont.