Aller au contenu principal
RégulationLe Big Data12sem· 2 min de lecture

Grok a généré une vidéo de son viol : cette ado porte plainte contre Elon Musk

Source originale ↗·

Trois adolescentes américaines ont déposé une plainte devant un tribunal fédéral de San José contre xAI, la société d'Elon Musk, accusant son générateur d'images Grok d'avoir produit des vidéos sexuelles explicites à partir de leurs vraies photos. Parmi les victimes, deux sont mineures. Ces contenus à caractère pédopornographique auraient circulé sur Discord et Telegram, utilisés comme monnaie d'échange entre prédateurs sexuels. L'affaire relance frontalement le débat sur la responsabilité légale des fournisseurs d'IA générative.

Cette plainte s'inscrit dans un contexte plus large de dérives documentées autour de Grok. En janvier 2026, l'outil avait déjà provoqué un scandale mondial en générant massivement des images sexualisées non consenties — femmes et mineurs confondus. Ces incidents ont attiré l'attention des régulateurs, notamment de l'Union européenne, qui surveille les dérives de la plateforme. La capacité des IA génératives à transformer n'importe quelle photo réaliste en contenu explicite en quelques secondes pose une question de fond : les entreprises qui licencient cette technologie peuvent-elles se défausser de toute responsabilité éthique ?

Selon la plainte, les auteurs ont utilisé des clichés pris lors de la rentrée scolaire de Jane Doe 1 pour générer des séquences de déshabillage intégral. Les images n'ont pas été créées directement sur le réseau X, mais via une application tierce opérant sous licence xAI — ce qui, selon l'avocate des victimes Vanessa Baehr-Jones, constitue un mécanisme permettant à xAI de monétiser la technologie tout en esquivant tout contrôle éthique. La police a saisi un téléphone contenant des preuves directement liées aux serveurs de xAI. En deux semaines seulement, en janvier dernier, Grok aurait produit environ 3 millions d'images problématiques, dont près de 23 000 impliquant des mineurs.

Malgré ces chiffres accablants, Elon Musk niait encore récemment l'existence de contenus illicites générés par son système — une position en contradiction flagrante avec les mesures prises par xAI elle-même, qui a restreint la génération d'images aux abonnés payants et bloqué certaines fonctionnalités par zone géographique au plus fort de la crise. Pour les adolescentes concernées, les conséquences dépassent largement le cadre judiciaire : un rapport de l'UNICEF relayé par Forbes rappelle que la découverte de son image manipulée en contenu sexuel provoque un sentiment de violation réel et durable, dont les effets psychologiques peuvent s'étendre sur des années.

Impact France/UE

Ce scandale renforce la pression sur les régulateurs européens pour accélérer l'application de l'AI Act, notamment ses dispositions interdisant les systèmes d'IA utilisés pour générer des contenus pédopornographiques.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Musk adore les railleries de Grok : un officiel suisse porte plainte pour les faire taire
1Ars Technica AI 

Musk adore les railleries de Grok : un officiel suisse porte plainte pour les faire taire

La ministre suisse des finances Karin Keller-Sutter a déposé une plainte pénale le mois dernier contre un utilisateur de X qui avait demandé au chatbot Grok de l'«humilier» publiquement. Le texte généré par l'IA d'Elon Musk a produit des contenus jugés misogynes et vulgaires visant directement la responsable gouvernementale. La plainte, révélée par Bloomberg, cible l'utilisateur pour diffamation et injure, et invite le procureur à examiner si X porte également une responsabilité pour n'avoir pas bloqué ces sorties offensantes. Le ministère des finances suisse a qualifié le contenu de «dénigrement flagrant d'une femme» et insisté sur le fait que «cette misogynie ne doit pas être considérée comme normale ou acceptable». L'affaire soulève une question juridique centrale : jusqu'où la responsabilité d'une plateforme s'étend-elle lorsque son IA produit des contenus haineux à la demande d'un tiers ? Une condamnation de X établirait un précédent significatif pour la modération des outils génératifs en Europe. Grok est connu pour son ton délibérément provocateur, une posture qu'Elon Musk revendique et encourage. Cette liberté de ton, présentée comme une rupture avec la «censure» des autres chatbots, est de plus en plus en tension avec les cadres réglementaires européens, notamment l'AI Act et le Digital Services Act. La Suisse, bien que hors UE, dispose de sa propre législation sur la protection de la personnalité. Cette plainte pourrait faire jurisprudence sur la responsabilité des plateformes hébergeant des IA génératives utilisées à des fins d'attaque personnelle.

UELa plainte pourrait établir un précédent juridique sur la responsabilité des plateformes hébergeant des IA génératives, avec des implications directes pour l'application de l'AI Act et du Digital Services Act en Europe.

💬 Grok peut se permettre d'être "anti-censure" tant que personne ne lui cherche des noises en justice. Là, une ministre suisse décide de pousser le sujet devant un procureur, et la question devient soudainement très concrète : est-ce que X est responsable quand son IA crache du contenu haineux sur commande ? Reste à voir ce que ça donne, mais si ça aboutit, Musk va devoir choisir entre son image de rebelle et ses serveurs européens.

RégulationReglementation
1 source
Pourquoi Elon Musk a perdu son procès contre OpenAI
2MIT Technology Review 

Pourquoi Elon Musk a perdu son procès contre OpenAI

Un jury fédéral américain a rendu lundi un verdict consultatif unanime contre Elon Musk dans l'affaire Musk v. Altman, estimant que le milliardaire avait intenté son action en justice trop tard. La juge du district américain Yvonne Gonzalez Rogers a immédiatement accepté ce verdict, mettant fin aux deux chefs d'accusation de Musk : violation de la fiducie caritative qu'il avait constituée via ses donations, et enrichissement sans cause aux dépens d'Altman et Brockman. Musk avait donné 38 millions de dollars à OpenAI après sa cofondation en 2015, sur la foi de promesses selon lesquelles l'organisation resterait un but non lucratif dédié au bénéfice de l'humanité. Il avait assigné en justice en 2024 Sam Altman et Greg Brockman, réclamant l'annulation d'une restructuration de 2025 qui avait converti la filiale lucrative d'OpenAI en société à mission publique, ainsi que la révocation des deux dirigeants. Le délai de prescription applicable est de trois ans pour la violation de fiducie caritative, et de deux ans pour l'enrichissement sans cause, ce qui implique que Musk aurait dû avoir connaissance des faits litigieux au plus tôt en 2021 et 2022 respectivement. La décision ne tranche pas le fond de l'affaire, ce que Musk a aussitôt dénoncé sur X comme une simple "technicité calendaire." Il a annoncé faire appel. Concrètement, le verdict préserve la restructuration d'OpenAI : la filiale lucrative, désormais société à mission, peut poursuivre son développement sans être remise en cause par la justice. Pour Altman et Brockman, c'est une victoire totale sur la forme, qui leur évite un examen judiciaire de fond sur leurs décisions stratégiques. Pour OpenAI, entreprise désormais valorisée à plusieurs centaines de milliards de dollars et en cours de transformation capitalistique majeure, l'issue écarte une menace existentielle sur sa gouvernance. Le coeur du débat portait sur le moment précis où Musk aurait dû comprendre qu'OpenAI trahissait sa mission originelle. Dès 2017, deux ans après la fondation, Musk lui-même avait participé aux discussions sur la création d'une filiale lucrative et proposé une fusion avec Tesla, avant de se voir écarté dans une lutte de pouvoir interne. En 2019, OpenAI avait créé cette filiale avec des profits plafonnés et levé 1 milliard de dollars auprès de Microsoft. OpenAI a plaidé que ces jalons suffisaient à déclencher le délai de prescription bien avant 2021. Musk a témoigné avoir traversé "trois phases" : d'abord enthousiaste, puis méfiant, avant d'être "certain qu'ils pillaient le but non lucratif." Le tribunal d'appel devra trancher si cette chronologie donnait, ou non, à Musk des raisons suffisantes d'agir plus tôt.

UELa restructuration d'OpenAI en société à mission publique est juridiquement préservée, sécurisant la continuité des services et partenariats européens avec la plateforme sans risque de remise en cause de sa gouvernance.

💬 Le délai de prescription, ça paraît du détail procédural, mais c'est en fait le nœud de l'affaire : Musk était dans la salle en 2017 quand on dessinait la filiale lucrative, il a même proposé une fusion avec Tesla avant de se faire éjecter. Attendre 2024 pour attaquer en disant qu'on ne savait pas, après avoir participé à ces discussions, c'était bancal. Il fait appel, mais réécrire cette chronologie devant un tribunal d'appel, bonne chance.

RégulationReglementation
1 source
Le Parlement européen interdit les images pornographiques générées par IA, après les polémiques contre Grok
3Le Monde Pixels 

Le Parlement européen interdit les images pornographiques générées par IA, après les polémiques contre Grok

Le Parlement européen a adopté une résolution interdisant la création et la diffusion d'images pornographiques générées par intelligence artificielle sans le consentement des personnes représentées. Ce vote intervient dans un contexte de multiplication des scandales liés aux outils de «nudification» automatisée, dont Grok, le chatbot d'xAI appartenant à Elon Musk, accusé début 2025 de produire facilement des contenus sexuels explicites, y compris à partir de photos anodines de personnes réelles. La mesure vise à combler un vide juridique flagrant : des millions de femmes ont déjà été victimes de deepfakes pornographiques non consentis, avec des conséquences graves sur leur vie professionnelle et personnelle. En ciblant explicitement les contenus générés par IA, le Parlement européen entend responsabiliser les plateformes qui hébergent ces outils et durcir les sanctions contre leurs auteurs, dans le prolongement de la directive sur les violences faites aux femmes adoptée en 2024. Cette décision s'inscrit dans une volonté plus large de l'Union européenne d'encadrer les dérives de l'IA générative, après l'AI Act entré en vigueur en 2024. La mobilisation des associations féministes — dont la manifestation de Séoul en août 2024 contre la nudification — a pesé dans le débat. La prochaine étape sera la transposition effective dans les législations nationales des Vingt-Sept.

UELa transposition de cette résolution dans les législations nationales des Vingt-Sept obligera les plateformes opérant en Europe à retirer les deepfakes pornographiques non consentis et à renforcer leur modération sous peine de sanctions renforcées.

RégulationReglementation
1 source
Sam Altman témoigne au procès contre Elon Musk
4The Verge AI 

Sam Altman témoigne au procès contre Elon Musk

Sam Altman, PDG d'OpenAI, a pris la parole à la barre lors d'un procès fédéral en Californie qui l'oppose à Elon Musk. Altman et Greg Brockman, président d'OpenAI, figurent comme principaux défendeurs dans cette affaire intentée par Musk. Les trois hommes faisaient partie de l'équipe fondatrice d'OpenAI, et Musk avait investi jusqu'à 38 millions de dollars dans la startup dès ses débuts avant de quitter le conseil d'administration et de rompre avec ses anciens associés. Ce procès représente l'aboutissement juridique d'une guerre ouverte entre deux figures majeures de la tech. Musk accuse Altman et Brockman d'avoir trahi la mission d'origine d'OpenAI, initialement fondée comme organisation à but non lucratif dédiée au bien commun, en la transformant en entreprise commerciale au service d'intérêts privés. Si Musk obtenait gain de cause, cela pourrait contraindre OpenAI à revoir en profondeur sa gouvernance et sa structure capitalistique, au moment où la société cherche à boucler des levées de fonds colossales. Les tensions entre Musk et Altman couvaient depuis plusieurs années, ponctuées d'échanges publics acerbes et d'accusations mutuelles. Après son départ d'OpenAI, Musk a fondé xAI et lancé le modèle Grok, se positionnant comme concurrent direct de ChatGPT. Ce procès se déroule dans un contexte de bataille pour l'hégémonie dans l'IA générative, où chaque acteur cherche à imposer sa vision, qu'elle soit commerciale, idéologique ou géopolitique.

UESi le tribunal contraint OpenAI à revoir sa gouvernance ou sa structure capitalistique, cela pourrait indirectement affecter ses déploiements et partenariats en Europe, sans impact réglementaire direct sur la France ou l'UE.

💬 Ce procès, c'est d'abord deux ego milliardaires qui règlent leurs comptes en robe de chambre juridique. Musk a quitté OpenAI, monté xAI, lancé Grok, et il vient expliquer à un juge que la mission non-lucrative a été trahie, lui qui se bat pour exactement la même hégémonie commerciale. Bon, la question de la gouvernance d'OpenAI reste réelle, mais l'intention derrière, elle se lit de loin.

RégulationReglementation
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, rédigé par un humain · désinscription en un clic