Aller au contenu principal
RégulationLe Big Data · 2 min de lecture

xAI traîne un utilisateur en justice pour création d’images porno de mineurs avec Grok

Source originale ↗·

xAI, la société d'intelligence artificielle fondée par Elon Musk, a déposé mardi une plainte devant un tribunal fédéral du Texas contre un utilisateur de son chatbot Grok. L'accusé, Terry Harwood, un homme de Caroline du Sud déjà arrêté cette année dans le cadre d'une enquête pour exploitation sexuelle de mineurs, aurait détourné Grok pour générer des images à caractère sexuel impliquant des mineurs. Selon la plainte, il aurait importé des photos ordinaires d'adultes et de mineurs dans l'outil, puis tenté de les transformer en contenus sexuellement explicites grâce à l'intelligence artificielle. xAI l'accuse également d'avoir créé des deepfakes pornographiques mettant en scène des adultes sans leur consentement. L'entreprise réclame des dommages et intérêts, dont le montant n'a pas été précisé, ainsi qu'une interdiction permanente empêchant Harwood d'utiliser Grok à l'avenir.

Cette action en justice marque un tournant notable : il s'agit de l'une des premières procédures intentées par une société d'IA directement contre l'un de ses propres utilisateurs pour ce type d'abus, plutôt que de se contenter d'une suspension de compte. Pour xAI, l'enjeu dépasse le cas individuel : la société cherche à démontrer qu'elle prend au sérieux les usages criminels de sa technologie, dans un contexte où sa responsabilité juridique et réputationnelle est directement engagée. Pour l'industrie de l'IA générative dans son ensemble, cette affaire illustre la difficulté croissante à empêcher le détournement d'outils grand public à des fins d'exploitation sexuelle, qu'il s'agisse de mineurs ou d'adultes visés par des deepfakes non consentis. Elle pourrait aussi inciter d'autres entreprises du secteur à judiciariser davantage leurs politiques de modération plutôt que de se limiter à des sanctions internes.

Cette plainte intervient alors que xAI est déjà sous surveillance concernant les garde-fous de Grok. Ces derniers mois, la société avait été critiquée après des révélations selon lesquelles son chatbot aurait permis la création de deepfakes sexuels non consentis reproduisant l'apparence de personnes réelles. Dans sa plainte, xAI rappelle qu'elle lutte contre ces dérives en suspendant ou supprimant les comptes fautifs, et qu'elle signale les contenus suspects d'exploitation sexuelle de mineurs au Centre national américain pour les enfants disparus et exploités (NCMEC). L'affaire s'inscrit dans un débat plus large sur la responsabilité des entreprises d'IA générative face aux usages détournés de leurs outils, à un moment où les régulateurs, aux États-Unis comme ailleurs, s'interrogent sur l'encadrement légal des deepfakes et des contenus pédopornographiques générés par IA.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Meta devra répondre aux accusations d’entraînement d’IA avec du porno piraté
1Next INpact 

Meta devra répondre aux accusations d’entraînement d’IA avec du porno piraté

Meta fait face à une procédure judiciaire initiée à l'été 2025 par deux entreprises américaines de production et distribution de films pornographiques, Strike 3 Holdings et Counterlife Media. Ces sociétés accusent le géant des réseaux sociaux d'avoir téléchargé illégalement 2 396 films via le protocole BitTorrent pour entraîner Llama, son grand modèle de langage. Le 11 juin 2026, la juge Eumi K. Lee a refusé de rejeter la plainte, estimant que les éléments présentés par les plaignants étaient suffisamment solides pour justifier la poursuite de la procédure et l'ouverture d'une phase d'enquête approfondie. La magistrate a également précisé que les plaignants n'avaient pas à démontrer que leurs films avaient effectivement servi à l'entraînement du modèle : le simple fait d'avoir téléchargé et distribué ces contenus via BitTorrent sans autorisation constitue déjà une violation du droit d'auteur. Cette décision établit un précédent important dans les batailles juridiques qui opposent l'industrie créative aux grandes entreprises d'IA. En dissociant l'infraction au droit d'auteur de l'usage ultérieur des données, la juge ouvre la voie à des poursuites plus faciles à engager contre les acteurs qui ont massivement aspiré du contenu en ligne pour construire leurs modèles. Pour Meta, le risque est non seulement financier, Strike 3 est connu pour ses milliers de poursuites et sa réputation de "troll des droits d'auteur", mais aussi réputationnel, dans un contexte où la question du consentement des créateurs de contenu est au cœur du débat sur l'IA générative. L'entreprise a tenté de se défendre en arguant que l'adresse IP retrouvée ne prouve pas que c'est Meta en tant qu'organisation qui a procédé aux téléchargements, suggérant que des employés, sous-traitants ou visiteurs auraient pu agir à titre personnel. Le dossier s'inscrit dans un contexte plus large où Meta a déjà reconnu avoir utilisé BitTorrent pour récupérer la bibliothèque clandestine LibGen et alimenter ses modèles Llama, ce que la juge a pris en compte pour évaluer la crédibilité des nouvelles accusations. Cette affaire illustre la pratique répandue dans le secteur consistant à collecter massivement des données accessibles en ligne sans le consentement de leurs auteurs. La prochaine étape verra Meta tenter de démontrer que ces téléchargements BitTorrent n'étaient pas liés à ses projets d'intelligence artificielle, tandis que les plaignants s'efforceront d'établir un lien direct entre les fichiers récupérés et les systèmes d'entraînement des modèles. L'issue de cette procédure pourrait influencer durablement les pratiques de collecte de données dans toute l'industrie de l'IA.

UECe précédent judiciaire américain pourrait influencer les débats européens sur la légalité de la collecte de données d'entraînement, alors que l'UE élabore sa propre jurisprudence sur le droit d'auteur appliqué à l'IA générative.

💬 La décision qui compte ici, c'est pas l'affaire porno en soi, c'est ce que la juge a posé comme principe : télécharger sans autorisation suffit à constituer une infraction, que les données aient servi à l'entraînement ou pas. Tous les acteurs qui ont aspiré du contenu via BitTorrent en mode "on verra bien plus tard" se retrouvent exposés, Meta en tête vu qu'ils avaient déjà avoué pour LibGen. C'est ce précédent-là qui va faire mal, pas l'angle "film porno" qui fait sourire mais détourne l'attention.

RégulationReglementation
1 source
2Siècle Digital 

Des YouTubeurs accusent Apple d’avoir utilisé leurs vidéos pour entraîner son IA

Le fondateur de h3h3Productions, la chaîne YouTube comptant plusieurs millions d'abonnés, a déposé une action collective devant un tribunal fédéral de Californie contre Apple. Il est rejoint par deux chaînes spécialisées dans le golf, MrShortGame Golf et Golfholics. Les plaignants accusent Apple d'avoir utilisé leurs vidéos sans autorisation ni compensation pour entraîner les modèles de langage qui alimentent Apple Intelligence, le système d'IA intégré à iOS 18, iPadOS 18 et macOS Sequoia. Cette affaire illustre une tension croissante entre les créateurs de contenu numérique et les grandes entreprises technologiques qui aspirent des volumes massifs de données pour construire leurs modèles d'IA. Si le recours aboutit, il pourrait contraindre Apple à indemniser des milliers de créateurs dont les œuvres ont été ingérées sans consentement, et potentiellement redéfinir les obligations légales des entreprises en matière de collecte de données d'entraînement. Pour les YouTubeurs, dont les revenus dépendent directement de la valorisation de leur contenu, l'enjeu est autant financier que symbolique. Cette plainte s'inscrit dans une vague de litiges similaires qui secouent l'industrie de l'IA depuis 2023 : des auteurs, artistes, journaux comme le New York Times, et désormais des créateurs vidéo contestent devant les tribunaux l'utilisation de leurs œuvres par OpenAI, Meta, Google ou Stability AI. Apple, longtemps discret sur ses pratiques d'entraînement, se retrouve pour la première fois en première ligne de ces batailles juridiques qui pourraient remodeler les règles du jeu pour tout le secteur.

UEL'AI Act européen impose des obligations de transparence sur les données d'entraînement, et ce procès pourrait renforcer les revendications des créateurs de contenu européens face aux pratiques similaires des grandes plateformes opérant en Europe.

RégulationReglementation
1 source
☕️ Google accusé d’avoir entraîné Gemini avec des millions de livres sans autorisation
3Next INpact 

☕️ Google accusé d’avoir entraîné Gemini avec des millions de livres sans autorisation

Google fait face à une plainte pour violation massive de droits d'auteur, déposée le 10 juillet à New York et révélée par The Wrap. Parmi les plaignants figurent l'éditeur Hachette, le spécialiste de l'éducation Cengage, le groupe scientifique Elsevier ainsi que l'auteur à succès Scott Turow. Ils accusent Google d'avoir entraîné son modèle Gemini à partir de millions de livres et d'articles obtenus via Google Books, Google Play Books et Google Scholar, des services dont les autorisations se limitaient pourtant à la recherche, l'affichage d'extraits ou la vente d'ouvrages. La plainte va plus loin: Google aurait aussi intégré des textes récupérés sur le web, y compris depuis des sites pirates, et réalisé des copies de ces œuvres lors de la préparation des données d'entraînement. Plus grave encore, l'entreprise aurait supprimé les informations de gestion des droits d'auteur attachées aux œuvres protégées, dans le but de dissimuler l'origine des contenus utilisés. Les plaignants réclament la reconnaissance d'un recours collectif, la reconnaissance d'une infraction au droit d'auteur et au DMCA, l'arrêt des pratiques incriminées, des dommages et intérêts, ainsi que la transparence sur les contenus ayant servi à l'entraînement de Gemini. Cette affaire illustre concrètement le préjudice que peuvent subir auteurs et éditeurs face aux IA génératives: la plainte affirme que Gemini est capable de produire des résumés très détaillés, des passages proches des textes originaux, des chapitres entiers ou des imitations du style de certains auteurs, des contenus qui concurrencent directement les œuvres sources sans qu'aucune compensation ne soit versée. Pour l'industrie de l'édition, l'enjeu dépasse le seul cas Google: il s'agit d'établir un précédent sur l'obligation des géants de l'IA à rémunérer les créateurs dont le travail nourrit leurs modèles, et sur la transparence des données d'entraînement, un sujet sur lequel les entreprises du secteur restent généralement très évasives. Cette procédure s'inscrit dans une vague plus large de contentieux visant les acteurs de l'intelligence artificielle. Anthropic avait choisi la voie du règlement à l'amiable en septembre 2025, acceptant de verser 1,5 milliard de dollars pour clore une poursuite lancée par des auteurs et autrices. Apple fait elle aussi l'objet d'une plainte de chaînes YouTube, tandis que le français Mistral AI a été visé par une enquête révélant l'entraînement de ses modèles sur des textes littéraires protégés. Le sort de la plainte contre Google, qui invoque également l'abandon symbolique de la devise « Don't be evil », pourrait peser lourd sur la manière dont l'ensemble du secteur collecte et exploite ses données à l'avenir.

UEL'affaire, qui mentionne aussi une enquête visant le français Mistral AI pour l'entraînement de ses modèles sur des textes littéraires protégés, pourrait influencer les débats européens sur la transparence des données d'entraînement et l'application de l'AI Act aux acteurs de l'IA générative.

💬 Bon, on savait déjà que les gros modèles n'étaient pas nés du néant, mais là c'est écrit noir sur blanc: Google Books et Scholar servaient à indexer, pas à nourrir Gemini, et effacer les métadonnées de droits d'auteur, c'est plus une gêne qu'un oubli. Anthropic a réglé à 1,5 milliard, donc le prix d'un dataset "propre" commence à avoir un ordre de grandeur concret. Selon Le Fil IA, chaque procès de ce genre pousse un peu plus l'industrie de l'IA générative vers un modèle où l'entraînement sur des œuvres protégées a un coût financier, pas juste un risque juridique théorique.

RégulationReglementation
1 source
Aux Etats-Unis, des demandeurs d’emploi attaquent des logiciels de recrutement utilisant l’IA, pour discrimination par l’âge
4Le Monde Pixels 

Aux Etats-Unis, des demandeurs d’emploi attaquent des logiciels de recrutement utilisant l’IA, pour discrimination par l’âge

Des milliers de candidats à l'emploi ont engagé des poursuites judiciaires contre Workday, l'un des principaux éditeurs de logiciels de ressources humaines aux États-Unis, accusant ses outils d'intelligence artificielle de discriminer les candidats selon leur âge, leur race ou leur handicap. L'affaire, portée en recours collectif devant les tribunaux fédéraux californiens, reproche à Workday d'avoir conçu des algorithmes de tri automatisé qui écartent systématiquement certains profils avant même qu'un recruteur humain n'examine leur dossier. Les plaignants, dont beaucoup ont plus de 40 ans, soutiennent avoir été éliminés non pas sur leurs compétences, mais en raison de caractéristiques protégées par le droit américain. L'enjeu juridique est inédit : c'est le fournisseur du logiciel lui-même qui est visé, et non les entreprises clientes qui l'utilisent pour gérer leurs recrutements. Cette approche pourrait redéfinir la chaîne de responsabilité dans l'automatisation RH, forçant les éditeurs à répondre des biais embarqués dans leurs systèmes. Si la jurisprudence se précise en faveur des plaignants, toute l'industrie des ATS (applicant tracking systems) pourrait être contrainte de revoir ses modèles et de démontrer l'équité de leurs critères de sélection. Ce contentieux s'inscrit dans une vague plus large de remises en cause des usages de l'IA dans l'emploi. La loi américaine sur la discrimination par l'âge (ADEA) interdit tout traitement défavorable des travailleurs de plus de 40 ans, mais son application aux systèmes automatisés reste largement non testée. Parallèlement, des villes comme New York ont déjà imposé des audits obligatoires sur les outils d'IA utilisés en recrutement. L'issue de la procédure contre Workday, dont les logiciels sont déployés dans des milliers d'entreprises mondiales, sera suivie de près comme un précédent potentiel pour encadrer l'IA dans les ressources humaines.

UEUn précédent américain favorable aux plaignants renforcerait la pression sur les éditeurs de logiciels RH opérant en Europe, où l'AI Act impose déjà des exigences de transparence et de non-discrimination pour les systèmes d'IA utilisés dans le recrutement.

💬 Ce procès, c'est le premier vrai test de qui porte la responsabilité quand un algo élimine des gens avant même qu'un humain ait vu leur CV. Que ce soit Workday dans le viseur plutôt que les entreprises clientes, ça change tout, parce que ça force enfin les éditeurs à répondre des biais qu'ils ont mis dans leurs modèles. Reste à voir si ça tient, mais si la jurisprudence va dans ce sens, tous les ATS vont devoir ouvrir leurs boîtes noires.

RégulationReglementation
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic