L'homme utilise Grok pour créer 7 000 images sexuelles de sa belle-fille, puis se suicide

Une plainte collective déposée contre X et xAI a été élargie mardi, avec un cas parmi les plus glaçants recensés jusqu'ici. Selon la version amendée de la plainte, un beau-père a utilisé le chatbot Grok pour générer 7 000 images sexuellement explicites de sa belle-fille, à partir d'une seule photo prise quand elle avait 11 ans. L'outil aurait permis de produire des contenus extrêmes, y compris des scènes d'inceste et de viol, sans déclencher la moindre alerte. Le système de sécurité enfant de xAI ne serait intervenu qu'au moment où l'homme a formulé une requête mentionnant un « viol collectif », ce qui a généré un signalement automatique (CyberTip) transmis au National Center for Missing and Exploited Children (NCMEC), lequel a ensuite alerté les autorités. En mars, l'homme s'est suicidé après que la police a découvert ces images sur ses appareils.

Au-delà de l'horreur du cas individuel, cette affaire relance la question de la responsabilité des plateformes dans la prolifération des outils d'IA générative dits « nudify », capables de transformer une photo anodine en contenu pédopornographique. Les plaignantes, plusieurs jeunes filles, accusent désormais X et xAI non seulement d'avoir conçu des outils toxiques mais aussi d'avoir entravé les enquêtes policières sur les contenus de pédocriminalité générés par Grok. Si ces accusations sont confirmées, elles pointeraient une défaillance grave des garde-fous censés bloquer ce type de production avant qu'un signalement ne soit nécessaire.

Cette procédure s'inscrit dans un mouvement plus large de plaintes visant les grandes entreprises d'IA générative, accusées de déployer des modèles capables de produire des contenus d'abus sexuel sur mineurs sans dispositifs de détection suffisants en amont. Le rôle du NCMEC, chargé de centraliser les signalements avant transmission aux forces de l'ordre, est également scruté, tout comme la rapidité et la sincérité de la coopération de xAI avec les enquêteurs. L'issue de cette action collective pourrait peser sur les futures obligations légales imposées aux développeurs de chatbots et de générateurs d'images.