Booster les sondages avec l’IA générative, une (fausse) bonne idée ?

Amnesty appelle à interdire les IA génératives entraînées sur du pillage de données

Amnesty International a publié un rapport détaillé sur les violations des droits humains causées par l'intelligence artificielle générative, appelant explicitement à interdire les modèles entraînés sur du scraping de données non consenti. L'organisation analyse l'ensemble de la chaîne de production de l'IA, des fabricants de puces GPU jusqu'aux contenus générés, en passant par la constitution des jeux de données. Elle cible directement les outils grand public les plus utilisés : ChatGPT, DALL-E, Gemini, Midjourney, LLaMA, Stable Diffusion et DeepSeek. Selon Amnesty, ces modèles ont été construits à partir de données collectées "sans la connaissance ni le consentement des personnes à l'origine des données", qu'il s'agisse d'utilisateurs de réseaux sociaux ou d'artistes. La conclusion est sans appel : le scraping massif et non consenti est "fondamentalement incompatible avec le droit international relatif aux droits humains", notamment le Pacte international relatif aux droits civils et politiques adopté par l'ONU en 1966. L'impact dépasse la seule question de la vie privée. Amnesty identifie des violations du droit à la non-discrimination, à la liberté d'expression et à la liberté de pensée. Le rapport pointe également les coûts environnementaux de l'IA générative, dont l'augmentation continue de la taille des modèles et des volumes de données nécessaires à leur entraînement affecte de manière disproportionnée les pays du Sud global. À cela s'ajoute une domination culturelle et linguistique anglophone structurelle, intégrée dès la phase de collecte des données. Pour l'ONG, derrière l'apparence de sophistication technologique se cache "une réalité faite de principes de conception qui bafouent les droits humains", comparables aux dérives des outils d'IA antérieurs à la générative. Ce rapport s'inscrit dans un mouvement plus large de contestation juridique et institutionnelle du modèle économique des grandes plateformes d'IA. En Europe, l'organisation noyb a déjà menacé Meta d'une class action pour l'entraînement de ses modèles sur des données d'utilisateurs européens, et plusieurs artistes ainsi que des éditeurs de presse ont engagé des procédures similaires aux États-Unis contre OpenAI et Google. Le règlement européen sur l'IA impose des obligations de transparence sur les données d'entraînement, mais les ONG estiment ces mesures insuffisantes. En demandant une interdiction pure et simple des systèmes bâtis sur du scraping non consenti, Amnesty franchit un cap rhétorique notable : il ne s'agit plus de réguler ces pratiques, mais de les proscrire au nom du droit international, ce qui pourrait alimenter de nouvelles stratégies judiciaires et législatives dans les mois à venir.

💬 La position d'Amnesty est radicale, et c'est exactement là son intérêt : plus de régulation molle, on interdit ce qui viole les droits humains, point. Interdire ChatGPT et Gemini du jour au lendemain c'est pas pour demain, mais ancrer ce débat dans le droit international plutôt que dans la soft law de l'AI Act, c'est un changement de registre qui peut nourrir des procédures vraiment musclées. Reste à voir si les juges suivront.

Le culte de l'IA générative a un goût d'eugénisme

La réalisatrice Valerie Veatch a exploré Sora, le modèle texte-vers-vidéo d'OpenAI lancé en 2024, attirée par les communautés d'artistes qui se formaient autour de l'IA générative. Elle a rapidement été choquée par la fréquence avec laquelle la technologie produisait des contenus racistes et sexistes. Ce qui l'a encore plus troublée : l'indifférence de ses pairs enthousiastes face à ces dérives, qu'elle associe à une forme d'eugénisme numérique.

Images et vidéos pédocriminelles crédibles générées par IA se multiplient, alerte l’IWF

L'Internet Watch Foundation (IWF), organisation britannique indépendante spécialisée dans la lutte contre les contenus pédocriminels en ligne, tire la sonnette d'alarme dans un rapport publié en 2025 : les images et vidéos d'agressions sexuelles sur mineurs générées par intelligence artificielle sont devenues « routinières ». En juillet 2024, ses analystes repéraient encore les premières vidéos entièrement produites par IA — facilement identifiables à leurs défauts techniques. Un an plus tard, l'organisation a recensé plus de 8 000 images et près de 3 500 vidéos crédibles de ce type, contre seulement 13 vidéos l'année précédente. Plus alarmant encore, 65 % de ces vidéos appartiennent à la « catégorie A », réservée aux contenus les plus extrêmes — une proportion supérieure aux 43 % observés pour les contenus criminels non générés par IA traités sur la même période. Ces contenus ne sont pas moins dangereux parce qu'ils sont artificiels. Selon l'IWF, ils renforcent l'attrait sexuel pour les enfants, contribuent à normaliser des actes d'une violence extrême et peuvent accroître le risque de passages à l'acte. S'y ajoute une double victimisation : les modèles génératifs sont entraînés sur des images d'agressions réelles, ce qui signifie que l'image de survivants est réutilisée, modifiée et parfois « augmentée » pour produire de nouveaux contenus. Cette réexploitation démultiplie le traumatisme des victimes initiales. Le phénomène présente également une dimension de genre très marquée : 97 % des enfants représentés dans ces contenus générés par IA sont des filles, une surreprésentation encore plus forte que dans les affaires de pédocriminalité réelle. Des cas concrets ont illustré cette dérive, notamment en Espagne à Almendralejo, où des images de lycéennes réelles ont été manipulées par IA pour produire des contenus à caractère sexuel. L'IWF, fondée en 1996 et membre du réseau international INHOPE — auquel appartient également l'association française Point de Contact —, travaille en lien avec les forces de police et les fournisseurs d'accès à internet, auxquels elle transmet notamment une liste noire d'environ 150 000 URL de sites diffusant des contenus illégaux. Ce rapport s'inscrit dans un contexte où la démocratisation des outils de génération d'images et de vidéos par IA pose des défis croissants aux dispositifs légaux et techniques de protection de l'enfance à l'échelle mondiale.

Deezer : les chansons générées par IA, « un problème pour toute la filière musicale »

Deezer a révélé que 44 % des chansons soumises quotidiennement à ses serveurs sont générées par intelligence artificielle, soit environ 75 000 titres chaque jour. Ce chiffre, communiqué par Aurélien Hérault, directeur de l'innovation de la plateforme française, marque une accélération brutale : le volume de musique IA a doublé en seulement trois mois. Ces contenus transitent principalement par des distributeurs indépendants, des plateformes intermédiaires qui permettent à n'importe qui de livrer des morceaux à Deezer sans contrôle éditorial préalable. Pour les identifier, l'entreprise a développé son propre outil de détection, qui analyse le signal audio à la recherche de traces numériques invisibles à l'oreille humaine mais caractéristiques des modèles génératifs. Ces modèles laissent des empreintes statistiques dans le fichier sonore, que la technologie de Deezer est conçue à repérer avec une précision suffisante pour alimenter un système de signalement à grande échelle. L'enjeu dépasse la simple question de goût ou de qualité artistique. La prolifération de titres générés automatiquement s'accompagne fréquemment de fraudes au streaming, où des scripts font tourner en boucle des morceaux pour générer des revenus artificiels de droits voisins, au détriment des artistes humains. Deezer a choisi de répondre sur deux fronts : informer les auditeurs en affichant la mention « contenu généré par IA » sur les pages des albums concernés, et exclure ces titres de ses algorithmes de recommandation, refusant ainsi de leur accorder la même visibilité qu'aux productions humaines. Cette décision éditoriale, assumée publiquement, constitue une prise de position rare dans un secteur qui préfère souvent minimiser le problème. La situation met en lumière une faille structurelle du secteur du streaming musical : les standards de métadonnées censés encadrer ces déclarations, notamment le format DDEX adopté par l'industrie, ne sont pas encore suffisamment déployés ni harmonisés entre les acteurs pour constituer un rempart efficace. Deezer se retrouve donc à investir dans ses propres outils en attendant qu'une réponse collective émerge. Hérault plaide pour que l'ensemble de la filière, distributeurs, labels et plateformes, s'empare collectivement du problème. La question d'une suppression pure et simple de ces contenus du catalogue reste épineuse : des obligations contractuelles avec les distributeurs compliquent toute décision unilatérale. Le secteur musical s'approche d'un point de bascule où la majorité des morceaux uploadés pourraient être d'origine artificielle, rendant urgente une gouvernance commune que personne n'a encore réussi à mettre en place.

💬 44 % de musique IA en upload quotidien, ça veut dire que le problème n'est plus hypothétique. Ce qui m'intéresse chez Deezer, c'est qu'ils ont construit leur propre détecteur plutôt que d'attendre que l'industrie se réveille, parce que DDEX n'est clairement pas prêt. Reste à voir ce que ça donne quand les modèles génératifs commenceront à lisser leurs empreintes statistiques.