Aller au contenu principal
Images et vidéos pédocriminelles crédibles générées par IA se multiplient, alerte l’IWF
ÉthiqueNext INpact · 2 min de lecture

Images et vidéos pédocriminelles crédibles générées par IA se multiplient, alerte l’IWF

Source originale ↗·

L'Internet Watch Foundation (IWF), organisation britannique indépendante spécialisée dans la lutte contre les contenus pédocriminels en ligne, tire la sonnette d'alarme dans un rapport publié en 2025 : les images et vidéos d'agressions sexuelles sur mineurs générées par intelligence artificielle sont devenues « routinières ». En juillet 2024, ses analystes repéraient encore les premières vidéos entièrement produites par IA, facilement identifiables à leurs défauts techniques. Un an plus tard, l'organisation a recensé plus de 8 000 images et près de 3 500 vidéos crédibles de ce type, contre seulement 13 vidéos l'année précédente. Plus alarmant encore, 65 % de ces vidéos appartiennent à la « catégorie A », réservée aux contenus les plus extrêmes, une proportion supérieure aux 43 % observés pour les contenus criminels non générés par IA traités sur la même période.

Ces contenus ne sont pas moins dangereux parce qu'ils sont artificiels. Selon l'IWF, ils renforcent l'attrait sexuel pour les enfants, contribuent à normaliser des actes d'une violence extrême et peuvent accroître le risque de passages à l'acte. S'y ajoute une double victimisation : les modèles génératifs sont entraînés sur des images d'agressions réelles, ce qui signifie que l'image de survivants est réutilisée, modifiée et parfois « augmentée » pour produire de nouveaux contenus. Cette réexploitation démultiplie le traumatisme des victimes initiales. Le phénomène présente également une dimension de genre très marquée : 97 % des enfants représentés dans ces contenus générés par IA sont des filles, une surreprésentation encore plus forte que dans les affaires de pédocriminalité réelle. Des cas concrets ont illustré cette dérive, notamment en Espagne à Almendralejo, où des images de lycéennes réelles ont été manipulées par IA pour produire des contenus à caractère sexuel.

L'IWF, fondée en 1996 et membre du réseau international INHOPE, auquel appartient également l'association française Point de Contact, travaille en lien avec les forces de police et les fournisseurs d'accès à internet, auxquels elle transmet notamment une liste noire d'environ 150 000 URL de sites diffusant des contenus illégaux. Ce rapport s'inscrit dans un contexte où la démocratisation des outils de génération d'images et de vidéos par IA pose des défis croissants aux dispositifs légaux et techniques de protection de l'enfance à l'échelle mondiale.

Impact France/UE

Le réseau INHOPE, dont fait partie l'association française Point de Contact, est directement impliqué dans la lutte contre ces contenus, et la multiplication de ces matériaux générés par IA accroît la pression sur le cadre réglementaire européen pour encadrer les outils génératifs.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Mort de Netanyahu : les vidéos sont-elles vraiment créées par IA ?
1Le Big Data 

Mort de Netanyahu : les vidéos sont-elles vraiment créées par IA ?

Une rumeur sur la mort de Benjamin Netanyahu a envahi les réseaux sociaux en quelques heures, alimentée par des vidéos supposément générées par IA. Tout est parti d'un livestream politique où des internautes ont cru apercevoir six doigts à la main droite du Premier ministre israélien, un artefact considéré comme un signe classique de génération par intelligence artificielle. La machine complotiste s'est emballée : Netanyahu aurait été éliminé et remplacé par un deepfake. Ce phénomène illustre une crise de confiance profonde dans l'image numérique. Les organismes de fact-checking ont rapidement démenti les allégations, rappelant que compression vidéo, éclairage et angle de prise de vue peuvent créer des illusions visuelles sans aucune manipulation. Mais le démenti lui-même n'a fait qu'alimenter les soupçons. Netanyahu a publié une nouvelle vidéo pour prouver qu'il n'avait que cinq doigts, les internautes y ont aussitôt traqué d'autres anomalies : un café qui ne se vide pas, une bague qui disparaît, un décor jugé suspect. Le cœur du problème est technique et structurel : aucune des vidéos ne contient de métadonnées fiables permettant d'attester leur authenticité ou de prouver une manipulation. Comme le souligne une analyse du New York Times, dans les tensions géopolitiques, ces incertitudes deviennent des armes informationnelles, semer le doute est souvent plus efficace que diffuser une fausse information vérifiable. Les experts parlent désormais d'une zone grise de crédibilité : les IA modernes génèrent des vidéos avec de moins en moins d'erreurs visibles, rendant obsolète le fameux « test des mains déformées ». L'affaire Netanyahu est moins une histoire de deepfake avéré qu'un signal d'alarme sur l'effondrement de la confiance dans l'image. La solution passe par une accélération sur la certification des contenus (notamment le standard C2PA), un renforcement des méthodes de vérification journalistique, et une éducation des utilisateurs à la lecture critique des médias visuels. Car désormais, voir ne suffit plus pour croire.

UEL'affaire illustre les risques de désinformation par deepfake qui menacent le débat public, un phénomène que l'AI Act européen cherche précisément à encadrer via les obligations de transparence sur les contenus synthétiques.

ÉthiqueOpinion
1 source
Les arnaques au colis dopées à l’IA se multiplient en France
201net 

Les arnaques au colis dopées à l’IA se multiplient en France

Les arnaques au faux colis franchissent un nouveau palier technologique en France. Des escrocs exploitent désormais l'intelligence artificielle générative pour produire de fausses photos réalistes représentant un livreur tenant un colis au nom de la victime ciblée, rendant la tromperie bien plus convaincante qu'auparavant. Cette évolution marque un tournant dans les techniques d'hameçonnage. Jusqu'ici, les arnaques au colis reposaient sur de simples SMS ou e-mails génériques invitant à reprogrammer une livraison fictive. En personnalisant visuellement le message avec le nom du destinataire et une image générée par IA, les fraudeurs augmentent considérablement leur taux de crédibilité, et donc leur taux de conversion. L'impact potentiel touche des millions de Français qui reçoivent régulièrement des livraisons de plateformes comme Amazon, Chronopost ou La Poste. Ces dernières semaines, de nombreuses victimes en France ont signalé avoir reçu ce type de contenu trompeur. La photo générée par IA représente un faux livreur avec un colis personnalisé, accompagnée d'un lien frauduleux invitant à payer des frais de douane ou à confirmer une adresse de livraison, mécanisme classique de vol de coordonnées bancaires ou de données personnelles. Face à la démocratisation des outils de génération d'images, cette tendance risque de s'intensifier. Les autorités et les opérateurs logistiques sont appelés à renforcer leurs communications de sensibilisation, tandis que les experts en cybersécurité recommandent de ne jamais cliquer sur un lien reçu par SMS, même si le visuel semble authentique, et de passer systématiquement par les applications officielles des transporteurs.

UEDes consommateurs français sont directement ciblés par ces arnaques au colis générées par IA, nécessitant une vigilance accrue face aux tentatives de phishing personnalisées.

ÉthiqueActu
1 source
Giorgia Meloni : ses photos choc en lingerie générées par IA
3Le Big Data 

Giorgia Meloni : ses photos choc en lingerie générées par IA

Le 5 mai 2026, des images générées par intelligence artificielle représentant la Première ministre italienne Giorgia Meloni en lingerie ont envahi les réseaux sociaux, provoquant une vague de commentaires indignés avant d'être rapidement identifiées comme des deepfakes. Face à la viralité immédiate du contenu, Meloni a choisi de répondre publiquement en partageant elle-même l'image falsifiée, barrée d'un bandeau rouge portant la mention "FOTO FALSA GENERATA CON L'IA". Dans un message mêlant autodérision et fermeté, elle a ironisé sur le fait que son auteur "avait même plutôt bien amélioré son apparence", avant de dénoncer des adversaires "prêts à utiliser absolument n'importe quoi pour attaquer et répandre des mensonges". L'affaire dépasse largement le simple bad buzz politique. Elle illustre une tendance documentée et croissante : l'utilisation de l'IA générative comme arme de décrédibilisation ciblée contre les femmes en position de pouvoir, via l'hyper-sexualisation synthétique. Meloni elle-même a souligné l'asymétrie du problème : "Moi, je peux me défendre. Beaucoup d'autres ne le peuvent pas." Pour les millions d'utilisateurs ordinaires, sans service de communication ni tribune publique, un deepfake similaire peut détruire une réputation, une carrière ou une vie privée sans recours immédiat. La facilité de production de ces contenus, désormais accessible sans compétence technique particulière, transforme l'IA en vecteur de harcèlement de masse à coût quasi nul. Ce scandale intervient dans un contexte législatif où l'Italie a précisément anticipé ce risque. En septembre 2025, le gouvernement Meloni avait fait de l'Italie le premier pays de l'Union européenne à adopter une loi globale sur l'IA incluant des peines d'emprisonnement pour l'utilisation malveillante de deepfakes et le cyberharcèlement. L'épisode valide rétrospectivement l'urgence de ce cadre légal, tout en révélant ses limites pratiques : la détection reste difficile en temps réel, et la viralité précède toujours le démenti. À l'échelle européenne, le débat sur la régulation des contenus synthétiques s'intensifie, avec la pression croissante sur les plateformes pour détecter et étiqueter automatiquement les médias générés par IA. L'affaire Meloni pourrait accélérer ces discussions, en donnant un visage politique concret à un phénomène que les textes législatifs décrivent encore de façon abstraite.

UEL'affaire valide l'urgence de réguler les deepfakes au niveau européen et pourrait accélérer les débats sur l'obligation faite aux plateformes d'étiqueter automatiquement les contenus générés par IA, dans le sillage de la loi italienne pionnière de 2025.

💬 Sa réponse est maligne : republier l'image barrée "FOTO FALSA", c'est retourner l'arme contre l'attaquant. Mais Meloni a elle-même dit l'essentiel, la phrase qu'on devrait graver quelque part : "Moi, je peux me défendre. Beaucoup d'autres ne le peuvent pas." C'est là que tout coince.

ÉthiqueOpinion
1 source
☕️ Google généralise le signalement des publicités générées par IA
4Next INpact 

☕️ Google généralise le signalement des publicités générées par IA

Google, l'une des plus grandes régies publicitaires au monde, va généraliser le signalement des publicités créées ou modifiées par intelligence artificielle générative sur ses services de recherche, Discover et YouTube. Le panneau « Mes préférences publicitaires », déjà accessible en touchant les trois petits points sous une annonce ou son icône d'information, va intégrer une nouvelle catégorie baptisée « Comment cette annonce est faite », qui précisera si le contenu a été généré ou édité avec de l'IA. Lorsqu'un annonceur utilise les outils d'IA maison de Google, la mention sera ajoutée automatiquement. Si des outils tiers ont servi à produire une publicité diffusée sur les espaces de Google, l'annonceur pourra volontairement préciser le recours à l'IA. Selon les exigences locales, une étiquette pourra aussi apparaître directement sur la publicité elle-même, de façon automatique ou à l'initiative de l'annonceur. Cette généralisation s'appuie sur une règle déjà en vigueur depuis 2023, qui imposait le signalement des contenus IA ou numériquement altérés dans les publicités électorales. Cette évolution répond à un problème concret : les outils d'IA générative permettent désormais à n'importe quel annonceur de produire des visuels et vidéos publicitaires quasiment indiscernables de contenus authentiques. Si Google interdit officiellement les publicités trompeuses ou mensongères, rien n'empêche un annonceur de recourir à l'IA pour créer des contenus lourdement retouchés, brouillant la frontière entre mise en valeur légitime d'un produit et tromperie pure. Pour l'internaute, qui n'a souvent aucun moyen de vérifier l'origine d'une image ou d'une vidéo publicitaire, cette opacité complique l'exercice d'un jugement éclairé. En rendant visible l'usage de l'IA, Google cherche à redonner aux utilisateurs un repère minimal pour évaluer ce qu'ils voient, sans pour autant interdire la pratique elle-même, ce qui laisse une marge d'appréciation importante aux annonceurs sur le degré de retouche à signaler. Cette annonce s'inscrit dans un mouvement plus large de la part des grandes plateformes pour encadrer la publicité générée par IA, sur fond d'inquiétudes autour de la désinformation, notamment en période électorale : une enquête a récemment révélé que 16 % des électeurs ont consulté une IA pour savoir pour qui voter aux dernières municipales. Meta a mis en place un dispositif comparable, avec une étiquette « Infos IA » obligatoire pour les publicités politiques utilisant des contenus audio, vidéo ou images générés ou modifiés par IA, et une signalisation plus générale pour les autres publicités utilisant des outils maison ou tiers. Selon la fiche d'assistance de Meta, mise à jour il y a cinq semaines, le déploiement reste toutefois partiel, si bien que toutes les publicités concernées ne portent pas encore systématiquement la mention. Reste à savoir si ces mesures, encore largement déclaratives et dépendantes de la bonne foi des annonceurs, suffiront à contenir la multiplication des contenus publicitaires synthétiques à mesure que les outils de génération deviennent plus accessibles et plus convaincants.

UELes internautes français seront concernés par ce signalement sur les annonces Google, notamment en période électorale ou une étude récente montre que 16% des électeurs français consultent une IA avant de voter.

💬 Enfin un peu de transparence sur un truc qui était devenu incontrôlable. La pub générée par IA est déjà indiscernable d'un vrai visuel, et Google se contente d'une étiquette qui dépend en grande partie de la bonne foi de l'annonceur, pas d'un contrôle systématique. Le vrai signal, c'est que ça arrive juste avant les municipales où 16% des électeurs ont consulté une IA pour choisir leur vote : la publicité électorale synthétique n'est plus une hypothèse, c'est le sujet du moment.

ÉthiqueActu
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic