Aller au contenu principal
Images et vidéos pédocriminelles crédibles générées par IA se multiplient, alerte l’IWF
ÉthiqueNext INpact12sem· 1 min de lecture

Images et vidéos pédocriminelles crédibles générées par IA se multiplient, alerte l’IWF

Source originale ↗·

L'Internet Watch Foundation (IWF), organisation britannique indépendante spécialisée dans la lutte contre les contenus pédocriminels en ligne, tire la sonnette d'alarme : les images et vidéos d'agressions sexuelles sur mineurs générées par intelligence artificielle atteignent désormais un niveau de réalisme tel qu'elles deviennent difficiles à distinguer de contenus réels. Ce qui relevait encore de la curiosité technologique en 2024 est aujourd'hui qualifié de phénomène « routinier » par les analystes de l'ONG.

L'enjeu dépasse la seule question technique. Ces contenus, même synthétiques, ne sont pas considérés comme moins dangereux que les images réelles : ils renforcent l'intérêt sexuel pour les enfants, contribuent à la normalisation des violences et peuvent favoriser le passage à l'acte. De plus, l'entraînement des modèles génératifs repose sur des images d'agressions réelles, ce qui signifie que chaque nouveau contenu produit prolonge et démultiplie la victimisation des survivants dont l'image a été utilisée.

Les chiffres publiés par l'IWF dans son rapport « Violence sans limites » sont saisissants. En 2025, l'organisation a recensé plus de 8 000 images et près de 3 500 vidéos crédibles générées par IA — contre seulement 13 vidéos l'année précédente. Plus préoccupant encore, 65 % de ces vidéos relèvent de la « catégorie A », soit les contenus les plus extrêmes, contre 43 % pour les vidéos criminelles non générées par IA traitées sur la même période. Par ailleurs, 97 % des enfants représentés dans ces contenus sont des filles, une surreprésentation encore plus marquée que dans les affaires de pédocriminalité traditionnelles.

Des cas concrets illustrent déjà les dérives dans l'espace réel, notamment en Espagne, à Almendralejo, où des images de mineures ont été manipulées par IA. Face à cette escalade, l'IWF appelle à un renforcement urgent de la régulation des outils génératifs et à une coopération accrue entre plateformes, forces de l'ordre et organisations comme le réseau INHOPE, dont fait partie l'association française Point de Contact.

Impact France/UE

Le réseau INHOPE, dont fait partie l'association française Point de Contact, est directement impliqué dans la lutte contre ces contenus, et la multiplication de ces matériaux générés par IA accroît la pression sur le cadre réglementaire européen pour encadrer les outils génératifs.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Giorgia Meloni : ses photos choc en lingerie générées par IA
1Le Big Data 

Giorgia Meloni : ses photos choc en lingerie générées par IA

Le 5 mai 2026, des images générées par intelligence artificielle représentant la Première ministre italienne Giorgia Meloni en lingerie ont envahi les réseaux sociaux, provoquant une vague de commentaires indignés avant d'être rapidement identifiées comme des deepfakes. Face à la viralité immédiate du contenu, Meloni a choisi de répondre publiquement en partageant elle-même l'image falsifiée, barrée d'un bandeau rouge portant la mention "FOTO FALSA GENERATA CON L'IA". Dans un message mêlant autodérision et fermeté, elle a ironisé sur le fait que son auteur "avait même plutôt bien amélioré son apparence", avant de dénoncer des adversaires "prêts à utiliser absolument n'importe quoi pour attaquer et répandre des mensonges". L'affaire dépasse largement le simple bad buzz politique. Elle illustre une tendance documentée et croissante : l'utilisation de l'IA générative comme arme de décrédibilisation ciblée contre les femmes en position de pouvoir, via l'hyper-sexualisation synthétique. Meloni elle-même a souligné l'asymétrie du problème : "Moi, je peux me défendre. Beaucoup d'autres ne le peuvent pas." Pour les millions d'utilisateurs ordinaires, sans service de communication ni tribune publique, un deepfake similaire peut détruire une réputation, une carrière ou une vie privée sans recours immédiat. La facilité de production de ces contenus, désormais accessible sans compétence technique particulière, transforme l'IA en vecteur de harcèlement de masse à coût quasi nul. Ce scandale intervient dans un contexte législatif où l'Italie a précisément anticipé ce risque. En septembre 2025, le gouvernement Meloni avait fait de l'Italie le premier pays de l'Union européenne à adopter une loi globale sur l'IA incluant des peines d'emprisonnement pour l'utilisation malveillante de deepfakes et le cyberharcèlement. L'épisode valide rétrospectivement l'urgence de ce cadre légal, tout en révélant ses limites pratiques : la détection reste difficile en temps réel, et la viralité précède toujours le démenti. À l'échelle européenne, le débat sur la régulation des contenus synthétiques s'intensifie, avec la pression croissante sur les plateformes pour détecter et étiqueter automatiquement les médias générés par IA. L'affaire Meloni pourrait accélérer ces discussions, en donnant un visage politique concret à un phénomène que les textes législatifs décrivent encore de façon abstraite.

UEL'affaire valide l'urgence de réguler les deepfakes au niveau européen et pourrait accélérer les débats sur l'obligation faite aux plateformes d'étiqueter automatiquement les contenus générés par IA, dans le sillage de la loi italienne pionnière de 2025.

💬 Sa réponse est maligne : republier l'image barrée "FOTO FALSA", c'est retourner l'arme contre l'attaquant. Mais Meloni a elle-même dit l'essentiel, la phrase qu'on devrait graver quelque part : "Moi, je peux me défendre. Beaucoup d'autres ne le peuvent pas." C'est là que tout coince.

ÉthiqueOpinion
1 source
Mort de Netanyahu : les vidéos sont-elles vraiment créées par IA ?
2Le Big Data 

Mort de Netanyahu : les vidéos sont-elles vraiment créées par IA ?

Des rumeurs virales ont affirmé que Benjamin Netanyahu avait été remplacé par un deepfake, déclenchées par un livestream où certains internautes croyaient voir six doigts à sa main droite. Les organismes de fact-checking n'ont trouvé aucune preuve de manipulation, et Netanyahu a publié une vidéo de réfutation, mais chaque détail a été scruté avec méfiance. L'affaire illustre une crise de confiance généralisée : à l'ère de l'IA générative, le doute sur l'authenticité des vidéos devient une arme informationnelle en soi, selon le New York Times.

UEL'affaire illustre les risques de désinformation par deepfake qui menacent le débat public, un phénomène que l'AI Act européen cherche précisément à encadrer via les obligations de transparence sur les contenus synthétiques.

ÉthiqueOpinion
1 source
Deezer : les chansons générées par IA, « un problème pour toute la filière musicale »
3Next INpact 

Deezer : les chansons générées par IA, « un problème pour toute la filière musicale »

Deezer a révélé que 44 % des chansons soumises quotidiennement à ses serveurs sont générées par intelligence artificielle, soit environ 75 000 titres chaque jour. Ce chiffre, communiqué par Aurélien Hérault, directeur de l'innovation de la plateforme française, marque une accélération brutale : le volume de musique IA a doublé en seulement trois mois. Ces contenus transitent principalement par des distributeurs indépendants, des plateformes intermédiaires qui permettent à n'importe qui de livrer des morceaux à Deezer sans contrôle éditorial préalable. Pour les identifier, l'entreprise a développé son propre outil de détection, qui analyse le signal audio à la recherche de traces numériques invisibles à l'oreille humaine mais caractéristiques des modèles génératifs. Ces modèles laissent des empreintes statistiques dans le fichier sonore, que la technologie de Deezer est conçue à repérer avec une précision suffisante pour alimenter un système de signalement à grande échelle. L'enjeu dépasse la simple question de goût ou de qualité artistique. La prolifération de titres générés automatiquement s'accompagne fréquemment de fraudes au streaming, où des scripts font tourner en boucle des morceaux pour générer des revenus artificiels de droits voisins, au détriment des artistes humains. Deezer a choisi de répondre sur deux fronts : informer les auditeurs en affichant la mention « contenu généré par IA » sur les pages des albums concernés, et exclure ces titres de ses algorithmes de recommandation, refusant ainsi de leur accorder la même visibilité qu'aux productions humaines. Cette décision éditoriale, assumée publiquement, constitue une prise de position rare dans un secteur qui préfère souvent minimiser le problème. La situation met en lumière une faille structurelle du secteur du streaming musical : les standards de métadonnées censés encadrer ces déclarations, notamment le format DDEX adopté par l'industrie, ne sont pas encore suffisamment déployés ni harmonisés entre les acteurs pour constituer un rempart efficace. Deezer se retrouve donc à investir dans ses propres outils en attendant qu'une réponse collective émerge. Hérault plaide pour que l'ensemble de la filière, distributeurs, labels et plateformes, s'empare collectivement du problème. La question d'une suppression pure et simple de ces contenus du catalogue reste épineuse : des obligations contractuelles avec les distributeurs compliquent toute décision unilatérale. Le secteur musical s'approche d'un point de bascule où la majorité des morceaux uploadés pourraient être d'origine artificielle, rendant urgente une gouvernance commune que personne n'a encore réussi à mettre en place.

UEDeezer, plateforme française leader du streaming, est en première ligne face à l'inondation de contenus IA, ce qui fragilise directement les revenus des artistes français et révèle une faille de gouvernance collective urgente pour toute la filière musicale européenne.

💬 44 % de musique IA en upload quotidien, ça veut dire que le problème n'est plus hypothétique. Ce qui m'intéresse chez Deezer, c'est qu'ils ont construit leur propre détecteur plutôt que d'attendre que l'industrie se réveille, parce que DDEX n'est clairement pas prêt. Reste à voir ce que ça donne quand les modèles génératifs commenceront à lisser leurs empreintes statistiques.

ÉthiqueOpinion
1 source
Des images de propagande iranienne générées par IA se retrouvent dans un grand média allemand
4The Decoder 

Des images de propagande iranienne générées par IA se retrouvent dans un grand média allemand

Der Spiegel a retiré plusieurs images de sa couverture sur l'Iran après avoir constaté qu'elles avaient très probablement été générées ou manipulées par intelligence artificielle. Ces visuels s'inscrivaient dans une campagne de propagande iranienne diffusée via des outils d'IA. L'incident soulève des questions sur la vérification des images dans les grands médias européens.

UECet incident expose la vulnérabilité des grands médias européens face aux campagnes de désinformation alimentées par l'IA, renforçant l'urgence de mécanismes de vérification robustes dans la presse européenne.

ÉthiqueActu
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, rédigé par un humain · désinscription en un clic