Des mineurs poursuivent en justice xAI d'Elon Musk pour des contenus pédopornographiques générés par Grok

xAI ne peut plus nier que Grok génère des contenus pédopornographiques, alors il poursuit ses utilisateurs

xAI a déposé plainte mardi contre Terry Wayne Harwood, un utilisateur accusé d'avoir utilisé le chatbot Grok pour générer des contenus pédopornographiques illégaux. Harwood avait été arrêté plus tôt cette année en Caroline du Sud pour possession et distribution de matériel d'abus sexuel sur mineurs, selon l'annonce du procureur local. Selon la plainte de xAI, l'entreprise avait détecté que Harwood utilisait deux comptes xAI depuis plusieurs mois pour déshabiller virtuellement ou « nudifier » des images non sexuelles de plusieurs victimes, dont une jeune fille paraissant âgée d'environ 10 ans. xAI affirme avoir contribué activement à cette arrestation en signalant ces usages détournés de son outil aux autorités. Cette action judiciaire intervient alors que la pression s'accentue sur xAI, qui ne peut plus nier que Grok reste exploitable pour produire des images sexualisées non consenties, aussi bien d'adultes que de mineurs. En poursuivant directement un utilisateur plutôt qu'en se contentant de mesures techniques, l'entreprise d'Elon Musk cherche à démontrer sa capacité de dissuasion et sa responsabilité face à un problème qui touche l'ensemble de l'industrie de l'IA générative. Pour les victimes de ces manipulations d'images, cette affaire illustre les dommages concrets que peuvent causer les outils de génération d'images lorsqu'ils sont détournés à des fins malveillantes. Le contexte plus large est celui d'une inquiétude croissante concernant les capacités de « nudification » et de création de CSAM par les intelligences artificielles génératives, un phénomène qui a poussé plusieurs entreprises technologiques à renforcer leurs garde-fous ces derniers mois. La plainte de xAI contre Harwood constitue un signal fort : au-delà des correctifs techniques, les entreprises d'IA sont désormais prêtes à engager des poursuites civiles contre les utilisateurs qui exploitent leurs outils à des fins criminelles. Reste à savoir si cette stratégie judiciaire suffira à endiguer durablement les abus, ou si elle ne constitue qu'une réponse ponctuelle à une pression médiatique et réglementaire grandissante.

💬 C'est bien joli de traîner un utilisateur en justice après coup, mais ça reste du curatif, pas du préventif. Le vrai signal, c'est que xAI admet enfin ce que tout le monde savait depuis des mois : Grok pouvait produire ce genre d'horreurs sans garde-fous sérieux. Une plainte, ça fait un bon communiqué, mais ça ne remplace pas un filtre qui bloque la génération en amont.

La xAI d'Elon Musk poursuivie en justice pour avoir transformé de vraies photos de jeunes filles en CSAM généré par IA

La filiale IA d'Elon Musk, xAI, fait face à des poursuites judiciaires après la découverte de ce qui pourrait constituer les premiers matériaux d'abus sexuels sur enfants (CSAM) générés par Grok formellement confirmés par les autorités. Le signalement, parti d'un utilisateur anonyme sur Discord, a conduit les forces de l'ordre à identifier des images réelles de jeunes filles transformées en CSAM par l'IA générative, un cas que xAI ne peut cette fois pas simplement nier. Cette affaire prend une dimension particulièrement grave au regard des réponses passées de l'entreprise. En janvier dernier, Elon Musk avait publiquement affirmé que Grok ne produisait aucun CSAM, en plein scandale autour du refus de xAI de mettre à jour ses filtres pour empêcher le chatbot de "dénuder" des images de personnes réelles. Plutôt que de corriger le modèle, l'entreprise avait choisi de restreindre l'accès à l'image generation aux abonnés payants, une décision qui a limité la visibilité publique des dérives sans en éliminer la cause. Les chiffres révélés lors de cette controverse sont accablants. Des chercheurs du Center for Countering Digital Hate avaient estimé que Grok avait généré environ 3 millions d'images sexualisées, dont approximativement 23 000 représentant des enfants. Selon un rapport de Wired, les contenus les plus extrêmes n'avaient pas été diffusés sur X, ce qui explique pourquoi leur existence était restée difficile à prouver jusqu'à présent. La plainte judiciaire marque un tournant : pour la première fois, des preuves concrètes et confirmées de CSAM généré par Grok se retrouvent entre les mains de la justice, rendant caduque la stratégie de déni d'xAI. Cette affaire pourrait faire jurisprudence sur la responsabilité des éditeurs d'IA générative face aux contenus illicites produits par leurs systèmes.

Google poursuit en justice un réseau cybercriminel chinois ayant utilisé Gemini pour automatiser des arnaques

Google a intenté une action en justice contre un groupe cybercriminel chinois baptisé Outsider Enterprise, accusé d'avoir orchestré une campagne de fraude massive alimentée par l'intelligence artificielle. Selon les documents déposés par l'entreprise, Outsider Enterprise opère principalement via Telegram, où il propose des services de phishing clés en main à des individus peu familiers avec les techniques informatiques. Le groupe aurait fourni des instructions détaillées pour utiliser Gemini, le modèle d'IA de Google, afin de créer des sites web imitant ceux de Google lui-même, YouTube, et des agences gouvernementales américaines comme le système de péage E-ZPass de New York. Au total, le réseau a généré près de 300 modèles d'arnaque, 9 000 faux sites web, et un million d'URL frauduleuses. Plus de 2,5 millions de messages texte ont été envoyés à des utilisateurs Android, dont 55 000 en seulement deux semaines au cours du mois dernier. Cette affaire illustre concrètement les risques liés à la démocratisation des outils d'IA générative : des acteurs malveillants peuvent désormais automatiser et industrialiser des campagnes de fraude sophistiquées sans compétences techniques poussées. Les victimes ciblées sont des particuliers qui reçoivent de faux messages les incitant à saisir des informations personnelles ou bancaires sur des sites frauduleux. L'ampleur du réseau, avec un million d'URLs recensées, témoigne d'une capacité d'exécution inédite rendue possible par l'IA. Google indique travailler en coordination avec les forces de l'ordre et les opérateurs mobiles pour contenir la menace. Cette plainte s'inscrit dans une tendance plus large où les grandes plateformes technologiques recourent aux tribunaux pour lutter contre les abus de leurs propres outils. OpenAI et Microsoft ont adopté des stratégies similaires ces derniers mois. Pour Google, l'enjeu est double : protéger ses utilisateurs tout en défendant la réputation de Gemini, dont le nom est directement associé aux arnaques documentées. L'issue judiciaire reste incertaine, notamment en raison des obstacles liés à la juridiction internationale face à des acteurs opérant depuis la Chine, mais l'action vise aussi à créer un précédent dissuasif pour de futurs abus.

💬 9 000 faux sites, un million d'URLs, 2,5 millions de SMS, tout ça sans compétences techniques grâce à Gemini, c'est le cauchemar qui était prévisible depuis le lancement des modèles grand public. Ce qui me frappe, c'est moins l'arnaque en elle-même que l'industrialisation : avant il fallait des équipes, là c'est du copier-coller sur Telegram. La plainte est bien, mais coincer des acteurs basés en Chine via un tribunal américain, on sait tous comment ça finit.

Cet ingénieur voulait rendre Grok plus sûr, Elon Musk l’a viré

Devin Kim, l'un des premiers ingénieurs recrutés par xAI en 2024, a déposé une plainte devant un tribunal californien contre la société d'Elon Musk et sa maison mère SpaceX. Kim, qui avait rapidement gravi les échelons pour occuper un poste de direction stratégique, affirme avoir été licencié abruptement en septembre 2025, quelques heures seulement avant une présentation sur la sécurité de l'IA qu'il devait soumettre à la direction de l'entreprise. Il accuse xAI de représailles et de licenciement abusif en violation du droit californien, et réclame des dommages et intérêts dont le montant n'a pas été précisé. La plainte survient simultanément à la publication d'un rapport d'un organisme canadien de surveillance concluant que Grok enfreint les lois canadiennes sur la protection de la vie privée, notamment en raison d'un outil de génération d'images permettant la création de deepfakes sexuels sans le consentement des personnes représentées. Selon les documents judiciaires, Kim avait alerté à plusieurs reprises ses supérieurs sur l'absence de priorité accordée à la sécurité au sein de xAI, une situation qui exposait l'entreprise à des risques majeurs : diffusion de contenus discriminatoires, mais aussi production d'informations susceptibles de faciliter la prolifération d'armes de destruction massive. Kim précise qu'Elon Musk souhaitait en principe voir des procédures de sécurité rigoureuses mises en place, mais que Jimmy Ba, cofondateur de xAI et supérieur hiérarchique direct de Kim, aurait systématiquement ignoré ces directives et rejeté les demandes de renforcement des mécanismes de protection. Le licenciement aurait donc visé directement à faire taire un lanceur d'alerte interne au moment le plus critique. Cette affaire s'inscrit dans une série de controverses qui frappent depuis plusieurs années les entreprises d'Elon Musk, des accusations liées à la sécurité des employés chez Tesla aux critiques sur la conduite autonome. Grok en particulier fait l'objet d'enquêtes et de procédures judiciaires dans plusieurs pays. Des chercheurs du Center for Countering Digital Hate ont estimé que le chatbot aurait généré près de 23 000 images à caractère sexuel, dont certaines impliquant des enfants, sur une période de onze jours entre décembre 2025 et janvier 2026, parfois à partir de photographies de femmes utilisées sans leur autorisation. En janvier, Musk avait affirmé ne pas avoir eu connaissance de la génération d'images de mineurs. Face à la pression réglementaire croissante, xAI a finalement restreint les capacités de génération d'images de Grok début 2026. Le cas Kim pourrait néanmoins accélérer les demandes de contrôle législatif sur les pratiques internes des grandes entreprises d'IA, en particulier aux États-Unis.

💬 Viré quelques heures avant sa présentation sur la sécurité, le timing est tellement mauvais qu'il va peser lourd au tribunal. Ce qui dérange, c'est pas l'absence de procédures chez xAI, c'est que Musk aurait voulu ces procédures, et que ça s'est quand même terminé comme ça. 23 000 images en onze jours, certaines impliquant des mineurs, à un moment c'est plus un raté de modération, c'est un choix.