L'UE s'apprête à interdire les applications de déshabillage après que Grok les a démocratisées

Grok interdit en Europe : l’UE veut bannir les IA qui déshabillent les femmes

xAI et son assistant Grok sont au cœur d'une crise majeure qui secoue l'Europe. Des milliers d'utilisateurs ont exploité l'outil pour générer des images intimes de femmes, et même de mineurs, à partir d'une simple requête textuelle, sans aucun filtre. Trois adolescentes ont depuis déposé une plainte collective contre xAI, accusant Grok d'avoir produit des images pornographiques hyperréalistes à partir de leurs vraies photos, selon The Guardian. Ce scandale a servi de déclencheur à une accélération législative à Bruxelles. L'Union européenne ne se contente plus de sanctionner la diffusion de contenus illicites, elle s'attaque désormais aux outils eux-mêmes. C'est un changement de paradigme majeur : l'approche devient préventive, et non plus seulement punitive. Les développeurs d'IA seraient ainsi tenus d'empêcher techniquement la génération de ces contenus, sous peine de lourdes sanctions. Le 18 mars 2026, la commission LIBE a approuvé un amendement intégré à l'AI Omnibus, le texte qui ajuste l'AI Act, interdisant les systèmes capables de produire des images sexuelles réalistes de personnes identifiables sans leur consentement. Validé politiquement le 11 mars 2026 par le Parlement et le Conseil, le texte doit encore passer un vote en séance plénière. Les sanctions prévues peuvent atteindre 7 % du chiffre d'affaires mondial. L'entrée en vigueur de certaines obligations reste incertaine, avec un calendrier qui pourrait être repoussé à 2027, voire 2028 pour les applications à haut risque. Plusieurs acteurs du secteur redoutent un frein à l'innovation face à des contraintes techniques jugées complexes. Mais l'UE dispose déjà d'une base : depuis 2024, une directive sanctionne les violences faites aux femmes via l'IA, et le Digital Services Act impose le retrait rapide des contenus illégaux, des dispositifs qui ont pourtant montré leurs limites face à la vitesse de propagation des deepfakes.

💬 C'est la première fois qu'on cible l'outil plutôt que le contenu, et c'est un vrai changement de logique. Grok a servi de déclencheur, mais l'amendement va bien au-delà d'xAI : n'importe quelle plateforme qui peut générer ce genre d'images devra l'empêcher techniquement, pas juste le modérer après coup. Reste à voir comment on définit "deepfake réaliste de personne identifiable" en pratique, parce que là, ça va faire débat.

Le Parlement européen interdit les images pornographiques générées par IA, après les polémiques contre Grok

Le Parlement européen a adopté une résolution interdisant la création et la diffusion d'images pornographiques générées par intelligence artificielle sans le consentement des personnes représentées. Cette décision fait suite à une série de scandales impliquant des outils de «nudification» automatisée, au premier rang desquels Grok, le chatbot d'xAI appartenant à Elon Musk, accusé début 2025 de produire facilement des contenus sexuels explicites à partir de simples photos de personnes réelles. La mesure vise à combler un vide juridique considérable : des millions de femmes ont déjà été victimes de deepfakes pornographiques non consentis, avec des répercussions graves sur leur vie professionnelle et personnelle. En ciblant explicitement les contenus générés par IA, le Parlement européen entend responsabiliser les plateformes hébergeant ces outils et durcir les sanctions contre leurs auteurs, dans le prolongement de la directive sur les violences faites aux femmes adoptée en 2024. Cette résolution s'inscrit dans une stratégie plus large d'encadrement des dérives de l'IA générative par l'Union européenne, après l'AI Act entré en vigueur en 2024. La pression des associations féministes a pesé dans le débat, notamment la manifestation de Séoul en août 2024 contre les pratiques de nudification, qui avait réuni des dizaines de milliers de personnes. Le texte prévoit que les plateformes soient tenues pour coresponsables en cas de diffusion de ces contenus illicites. La prochaine étape cruciale sera la transposition de ces dispositions dans les législations nationales des Vingt-Sept, un processus qui déterminera l'effectivité réelle des sanctions et la capacité des États membres à poursuivre les auteurs de ces contenus, y compris lorsqu'ils opèrent depuis l'extérieur de l'espace européen.

Un grand changement arrive pour ChatGPT en France : ce que l’UE s’apprête à annoncer aura d’importantes implications sur la manière dont l’IA est gérée

Un grand changement se prépare pour ChatGPT en Europe. Selon des informations rapportées par Bloomberg, la Commission européenne s'apprêterait à désigner officiellement ChatGPT comme une plateforme relevant du Digital Services Act (DSA), une annonce attendue pour le mois d'août 2026. Cette loi européenne, entrée en vigueur pour encadrer les grandes plateformes numériques, impose des obligations renforcées en matière de modération de contenu, de transparence des algorithmes et de protection des utilisateurs mineurs. Jusqu'à présent, ChatGPT, développé par OpenAI, échappait à cette classification spécifique, malgré sa popularité croissante auprès des utilisateurs européens. La désignation formelle marquerait donc un tournant dans la manière dont Bruxelles considère les assistants conversationnels basés sur l'intelligence artificielle générative. Cette décision aurait des conséquences concrètes pour les millions d'utilisateurs européens de ChatGPT. En pratique, OpenAI devrait se conformer à des exigences plus strictes : plus de transparence sur le fonctionnement de ses algorithmes, des mécanismes renforcés de signalement de contenus problématiques, et des garanties supplémentaires pour protéger les jeunes utilisateurs. Pour l'industrie de l'IA générative dans son ensemble, ce signal indique que les régulateurs européens ne comptent pas laisser les chatbots conversationnels évoluer hors du cadre réglementaire existant, même si leur nature diffère des réseaux sociaux traditionnels visés initialement par le DSA. Ce mouvement s'inscrit dans une tendance plus large de la Commission européenne, qui a déjà désigné plusieurs grandes plateformes comme Facebook, Google Search ou TikTok au titre du DSA depuis 2023. L'essor fulgurant de ChatGPT, devenu un outil incontournable pour des usages professionnels et personnels, semble avoir convaincu Bruxelles d'étendre ce cadre aux assistants IA. Reste à savoir comment OpenAI réagira à cette classification et quels ajustements concrets l'entreprise devra apporter à son service en Europe, dans un contexte où la régulation de l'intelligence artificielle reste un chantier en constante évolution des deux côtés de l'Atlantique.

💬 Sur le papier, ça ressemble à un ajustement administratif. En pratique, c'est le premier texte qui force OpenAI à traiter ChatGPT comme une plateforme et plus comme un simple outil, avec transparence des algorithmes et protection des mineurs en prime. Bruxelles vient de dire que les chatbots ne sont plus hors radar réglementaire, et ça, tous les éditeurs d'IA générative vont devoir s'en souvenir.

L’Union européenne veut interdire les outils d’IA qui dénudent sans consentement

L'Union européenne s'apprête à franchir une nouvelle étape dans la lutte contre les abus liés à l'intelligence artificielle. Les eurodéputés réunis à Bruxelles souhaitent interdire explicitement les outils d'IA capables de générer des images de nudité non consentie à partir de photos de personnes réelles, une pratique connue sous le nom de deepnude. Cette initiative cible directement les applications qui, en quelques secondes, peuvent déshabiller virtuellement n'importe quelle personne à partir d'un simple cliché. L'enjeu est considérable : ces outils alimentent une forme de violence sexuelle numérique qui touche en majorité des femmes, souvent sans qu'elles en soient informées. Pour les institutions européennes, laisser proliférer ces technologies sans cadre légal revient à tolérer une atteinte grave à la dignité et à l'intégrité des personnes. La démarche s'inscrit dans le prolongement du règlement européen sur l'IA (AI Act), entré en vigueur en 2024, qui classe certains usages comme "à haut risque" ou carrément interdits. Les parlementaires européens entendent inscrire cette interdiction dans une législation ciblée, distincte des cadres généraux déjà existants. Si les détails techniques du texte n'ont pas encore été finalisés, la direction politique est claire : toute application dont la fonction principale ou dérivée consiste à générer des contenus intimes non consentis devrait être bannie sur le territoire de l'UE. Les plateformes qui hébergent ou distribuent ces outils seraient également visées. Cette initiative rejoint un mouvement législatif plus large à l'échelle internationale. Le Royaume-Uni et plusieurs États américains ont déjà adopté ou préparent des textes similaires. Pour les défenseurs des droits numériques, la question n'est plus de savoir si ces outils doivent être régulés, mais à quelle vitesse les législateurs peuvent agir face à une technologie dont la diffusion s'accélère.