SpaceXAI accusé d’avoir utilisé des photos pédocriminelles pour entrainer Grok
Une victime d'agressions sexuelles subies durant son enfance dans les années 2000 a déposé une plainte collective contre SpaceXAI (xAI), l'entreprise d'intelligence artificielle d'Elon Musk, l'accusant d'avoir utilisé des images pédocriminelles la représentant pour entraîner son IA générative Grok. La plainte, obtenue par Ars Technica et d'autres médias américains, a été déposée sous forme de « class action » ouverte à toute personne aux États-Unis dont des images ou vidéos prises pendant sa minorité auraient été modifiées par Grok pour produire du matériel pédopornographique. Les photos de la victime avaient été enregistrées dans la liste de hachage du National Center for Missing & Exploited Children (NCMEC) ainsi que par le Centre canadien de protection de l'enfance, qui a lui-même identifié des images pédocriminelles générées par xAI la représentant. Grâce à un programme d'alerte auquel elle était inscrite, ses avocats ont été notifiés d'enquêtes en cours impliquant SpaceXAI, révélant que des délinquants échangeaient sur des forums en ligne du contenu généré par IA la mettant en scène, elle et d'autres victimes connues.
Résumé et traduction réalisés par Le Fil IA à partir de Next INpact. Lire l'article original →
Cette affaire marque une première : au-delà des accusations déjà connues selon lesquelles Grok aurait généré des milliers de deepfakes pédocriminels pour des utilisateurs de X, xAI doit désormais répondre de l'accusation d'avoir directement intégré des contenus pédocriminels dans les données d'entraînement de son modèle. Les avocats de la plaignante soulignent que les conditions d'utilisation de Grok considèrent par défaut les publications publiques sur X, ainsi que les propres résultats de Grok, comme des données d'entraînement, ce qui signifie que chaque republication d'une image pédocriminelle alimente directement le pipeline d'entraînement du modèle. Or, retirer l'influence d'un exemple d'entraînement sur un modèle déjà entraîné reste techniquement très difficile, et xAI n'a jamais affirmé publiquement y être parvenue. Concrètement, cela signifierait que du contenu pédocriminel intégré avant son retrait continuerait d'influencer les résultats générés par Grok aujourd'hui, infligeant selon les avocats une nouvelle blessure à la victime à chaque nouvelle image produite.
Cette plainte s'inscrit dans une série de controverses touchant xAI depuis le lancement de Grok, régulièrement accusé de manquements en matière de modération de contenus sensibles sur X, la plateforme également détenue par Elon Musk. Elle relance le débat sur la responsabilité des entreprises d'IA générative quant à la provenance de leurs données d'entraînement, un sujet déjà sensible pour l'ensemble de l'industrie confrontée à des poursuites liées au droit d'auteur, mais qui prend ici une dimension pénale et humaine bien plus grave. L'affaire soulève aussi la question du rôle des organisations comme le NCMEC et le Centre canadien de protection de l'enfance, dont les bases de hachage permettent d'identifier automatiquement des contenus déjà répertoriés, et interroge la capacité réelle des entreprises d'IA à filtrer ce type de matériel en amont. La procédure judiciaire, encore à ses débuts, pourrait déterminer dans les mois à venir si xAI doit assumer une responsabilité légale non seulement pour la diffusion, mais aussi pour l'entraînement de ses modèles sur des contenus illégaux.
Cette affaire relance le débat européen sur la responsabilité des IA génératives concernant leurs données d'entraînement, un enjeu suivi par les régulateurs dans le cadre du DSA et de l'AI Act.
Ce qui change avec cette plainte, c'est qu'on passe du reproche "vous modérez mal" à "vous avez entraîné le modèle sur du contenu pédocriminel identifié", et ça, techniquement, ça ne s'efface pas d'un modèle déjà entraîné. xAI n'a jamais prétendu savoir désentraîner Grok là-dessus, donc si les avocats ont raison, chaque republication d'image continue d'alimenter le pipeline. Le vrai enjeu pour le régulateur européen n'est plus la modération a posteriori, mais l'audit des données d'entraînement en amont, et sur ce point l'industrie entière est à peu près aussi nue que xAI.