xAI traîne un utilisateur en justice pour création d’images porno de mineurs avec Grok
xAI, la société d'intelligence artificielle fondée par Elon Musk, a déposé mardi une plainte devant un tribunal fédéral du Texas contre un utilisateur de son chatbot Grok. L'accusé, Terry Harwood, un homme de Caroline du Sud déjà arrêté cette année dans le cadre d'une enquête pour exploitation sexuelle de mineurs, aurait détourné Grok pour générer des images à caractère sexuel impliquant des mineurs. Selon la plainte, il aurait importé des photos ordinaires d'adultes et de mineurs dans l'outil, puis tenté de les transformer en contenus sexuellement explicites grâce à l'intelligence artificielle. xAI l'accuse également d'avoir créé des deepfakes pornographiques mettant en scène des adultes sans leur consentement. L'entreprise réclame des dommages et intérêts, dont le montant n'a pas été précisé, ainsi qu'une interdiction permanente empêchant Harwood d'utiliser Grok à l'avenir.
Résumé et traduction réalisés par Le Fil IA à partir de Le Big Data. Lire l'article original →
Cette action en justice marque un tournant notable : il s'agit de l'une des premières procédures intentées par une société d'IA directement contre l'un de ses propres utilisateurs pour ce type d'abus, plutôt que de se contenter d'une suspension de compte. Pour xAI, l'enjeu dépasse le cas individuel : la société cherche à démontrer qu'elle prend au sérieux les usages criminels de sa technologie, dans un contexte où sa responsabilité juridique et réputationnelle est directement engagée. Pour l'industrie de l'IA générative dans son ensemble, cette affaire illustre la difficulté croissante à empêcher le détournement d'outils grand public à des fins d'exploitation sexuelle, qu'il s'agisse de mineurs ou d'adultes visés par des deepfakes non consentis. Elle pourrait aussi inciter d'autres entreprises du secteur à judiciariser davantage leurs politiques de modération plutôt que de se limiter à des sanctions internes.
Cette plainte intervient alors que xAI est déjà sous surveillance concernant les garde-fous de Grok. Ces derniers mois, la société avait été critiquée après des révélations selon lesquelles son chatbot aurait permis la création de deepfakes sexuels non consentis reproduisant l'apparence de personnes réelles. Dans sa plainte, xAI rappelle qu'elle lutte contre ces dérives en suspendant ou supprimant les comptes fautifs, et qu'elle signale les contenus suspects d'exploitation sexuelle de mineurs au Centre national américain pour les enfants disparus et exploités (NCMEC). L'affaire s'inscrit dans un débat plus large sur la responsabilité des entreprises d'IA générative face aux usages détournés de leurs outils, à un moment où les régulateurs, aux États-Unis comme ailleurs, s'interrogent sur l'encadrement légal des deepfakes et des contenus pédopornographiques générés par IA.
Pas d'impact direct sur la France/UE