Grok aurait généré 7 000 deepfakes pédocriminels d’une mineure pour son beau-père
Cinq jeunes femmes, toutes mineures au moment des faits (l'une l'est toujours), ont porté plainte aux États-Unis contre SpaceXAI, nouveau nom de xAI, l'entreprise d'intelligence artificielle d'Elon Musk, ainsi que contre Stability AI. Trois premières plaintes ont été déposées en mars 2026, deux autres s'y sont ajoutées en juillet. Les plaignantes accusent le chatbot Grok d'avoir généré des milliers d'images pédocriminelles les représentant, à la demande de proches : dans un cas le beau-père de l'une des victimes, dans un autre un ami de la famille. La plainte, déposée devant la justice américaine, détaille notamment le cas d'une jeune femme dont le beau-père a utilisé Grok pour produire plus de 7 000 fausses images la représentant dans des scènes de viol, à partir d'une photo d'elle prise lorsqu'elle avait 11 ans. L'affaire a été découverte par les autorités américaines, qui ont ouvert une enquête contre le beau-père pour détention de contenus pédocriminels ; celui-ci s'est suicidé deux jours après le début des investigations sur ses disques durs. Interrogée anonymement par le Washington Post, la victime raconte : « Ma vie était tout à fait normale, moins de 48 heures plus tard, c'était devenu un véritable cauchemar. »
Résumé et traduction réalisés par Le Fil IA à partir de Next INpact. Lire l'article original →
Cette affaire illustre la facilité avec laquelle des outils d'IA générative grand public peuvent être détournés pour produire des contenus d'abus sexuels sur mineurs, avec un réalisme qui associe durablement le visage d'un enfant réel à une scène de viol fictive. « L'accès illimité à ces outils se généralise à une vitesse fulgurante », souligne la plaignante, transformant selon elle « la vie quotidienne en une situation d'abus sexuel sur mineur ». Au-delà du traumatisme individuel, ces procédures posent la question de la responsabilité juridique des entreprises d'IA lorsque leurs modèles sont utilisés pour fabriquer du matériel pédocriminel à partir de simples photos, et interrogent l'efficacité des systèmes de modération censés bloquer ce type de détournement, y compris quand l'entreprise elle-même signale les faits aux autorités.
Ces plaintes s'inscrivent dans la continuité d'une vague plus large de deepfakes générés par Grok fin 2025 et début 2026, période durant laquelle Elon Musk et xAI auraient, pendant plus de six mois, incité leurs utilisateurs à produire des images dénudant des femmes ou les plaçant dans des positions sexuelles. Cette controverse a déjà entraîné l'ouverture d'une enquête par l'autorité irlandaise de protection des données, ainsi qu'un élargissement de l'enquête menée par la justice française sur le sujet. Le dossier place ainsi SpaceXAI et Stability AI au centre d'une bataille judiciaire et réglementaire transatlantique sur l'encadrement de l'intelligence artificielle générative, avec des suites possibles : nouvelles plaintes, poursuites pénales ou sanctions des régulateurs européens et américains à l'encontre des plateformes concernées.
L'enquête de la justice française sur les dérives de Grok a été élargie suite à cette affaire, et l'autorité irlandaise de protection des données a ouvert une enquête, plaçant l'encadrement europeen de la moderation IA au centre des debats.