SociétéSiècle Digital6sem

« AI slop » : ces contenus générés par IA qui envahissent YouTube Kids et inquiètent les experts

Résumé IASource uniqueImpact UE

Près de 40 % des recommandations proposées aux enfants après une vidéo sur YouTube Kids sont des contenus générés par intelligence artificielle de mauvaise qualité, selon une analyse récente. Ces productions, baptisées « AI slop », se présentent sous forme d'animations éducatives où les lettres affichées ne correspondent pas aux sons prononcés, de chansons énumérant des mots déformés ou de comptines visuellement incohérentes. L'algorithme de recommandation de YouTube les propulse massivement dans les flux enfants, immédiatement après des contenus populaires comme Cocomelon.

L'enjeu est particulièrement grave pour cette tranche d'âge : les enfants en bas âge sont en phase d'apprentissage du langage et de la lecture, et une exposition répétée à des contenus phonétiquement erronés ou visuellement incohérents peut perturber ce développement. Les experts en pédiatrie et en linguistique s'inquiètent d'un effet d'apprentissage inversé, où l'enfant assimile des associations incorrectes entre sons, lettres et images. Pour les parents, le problème est d'autant plus insidieux que ces vidéos imitent superficiellement les codes des contenus éducatifs légitimes.

Ce phénomène s'inscrit dans une explosion plus large de contenus générés automatiquement sur les plateformes vidéo, facilitée par la démocratisation des outils d'IA générative. YouTube, qui avait déjà été critiqué pour l'affaire « Elsagate » en 2017, des vidéos choquantes déguisées en dessins animés, fait face à une nouvelle vague difficile à modérer à l'échelle. La question de la responsabilité des plateformes dans la curation algorithmique des contenus destinés aux mineurs revient au centre du débat réglementaire, notamment en Europe où le DSA impose des obligations renforcées de protection des utilisateurs vulnérables.

Impact France/UE

Le DSA impose aux plateformes des obligations renforcées de protection des mineurs, ce qui rend YouTube directement exposé à des sanctions européennes si ses algorithmes de recommandation continuent de propulser ces contenus vers les enfants.

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

1Le Big Data

Chaos total sur YouTube : des vidéos IA absurdes passent entre les mailles du filet

YouTube fait face à une prolifération massive de contenus générés automatiquement par intelligence artificielle, au point que la plateforme peine à maintenir un semblant de contrôle éditorial. Des milliers de vidéos produites sans intervention humaine sont publiées chaque jour, contournant les systèmes de modération mis en place par Google. Parmi les cas les plus frappants signalés par des utilisateurs sur Bluesky, certaines vidéos présentent une voix masculine synthétique répétant un mot unique en boucle pendant de longues minutes, parfois sous couvert de contenu éducatif ou de bandes-annonces fictives. Ces productions, souvent incohérentes, longues et jamais relues par un humain, inondent la plateforme malgré les efforts répétés de YouTube pour intensifier sa lutte contre les contenus automatisés. L'impact est concret et touche plusieurs catégories d'acteurs. Les créateurs légitimes voient leur visibilité écrasée par un flot de contenus parasites optimisés pour le référencement algorithmique : titres accrocheurs, miniatures trompeuses, récits entièrement inventés conçus pour maximiser les clics. Les utilisateurs, souvent piégés par le système d'autoplay, enchaînent ces vidéos sans toujours identifier leur nature artificielle. Plus grave, certains de ces contenus ne se limitent pas à l'absurde : ils véhiculent des affirmations fausses ou des théories complotistes qui circulent librement, sans filtre efficace. La désinformation à grande échelle devient ainsi une conséquence directe de cette incapacité à endiguer le phénomène. Ce problème s'inscrit dans une dynamique plus large liée à la démocratisation des outils de génération vidéo par IA, qui permettent désormais à n'importe qui de produire des contenus en masse à coût quasi nul. YouTube a bien tenté de réagir en renforçant ses politiques et ses systèmes de détection, mais chaque vague de suppressions est immédiatement suivie d'une nouvelle vague de publications, dans ce que certains décrivent comme un jeu de tape-taupe numérique sans fin. Les chaînes les plus agressives exploitent méthodiquement les failles de l'algorithme pour maintenir leur présence. La question qui se pose désormais est de savoir si YouTube peut adapter ses outils de modération à la même vitesse que progressent les capacités génératives, ou si la plateforme est structurellement condamnée à subir ce déferlement tant que la création automatisée de contenus reste aussi accessible et rentable.

UELes créateurs francophones voient leur visibilité écrasée par des contenus parasites IA, tandis que les utilisateurs français sont exposés à des flux de désinformation automatisée sans modération efficace de la plateforme.

SociétéOpinion

1 source

2Next INpact

Le contenu d’un tiers des nouveaux sites est généré totalement ou partiellement par IA

En mai 2025, 35 % des sites internet nouvellement créés contenaient des textes entièrement ou majoritairement générés par intelligence artificielle, selon un rapport publié par Internet Archive. Cette étude, signée par Mark Graham, responsable de la Wayback Machine, accompagné d'un chercheur maison et de deux doctorants, s'appuie sur l'analyse du texte brut de milliers de sites archivés. Pour détecter l'origine des contenus, l'équipe a comparé plusieurs outils, Binoculars, Desklib, DivEye, avant de retenir l'API commerciale Pangram v3, choisie pour sa capacité à traiter le HTML et à analyser des textes en plusieurs langues, avec un taux de précision annoncé à 99,98 %. La proportion de sites à contenu genAI est passée de zéro avant le lancement de ChatGPT fin 2022 à ce tiers des nouvelles publications en l'espace de deux ans et demi. Ce que révèle ce rapport va à l'encontre des craintes les plus répandues. Sondés par les chercheurs, 75 % des internautes redoutaient d'être davantage exposés à des informations factuellement erronées, et 83 % anticipaient une homogénéisation du style des textes sur le web. Or, les données d'Internet Archive ne confirment ni l'une ni l'autre de ces hypothèses : les fact-checkers mandatés par l'équipe n'ont pas trouvé de corrélation statistiquement significative entre la hausse du contenu IA et une augmentation des fausses informations. L'homogénéisation stylistique, elle non plus, ne progresse pas mécaniquement. En revanche, deux effets distincts sont bien documentés : une contraction sémantique mesurable, les textes générés couvrent un spectre de vocabulaire et d'idées plus étroit, et un glissement artificiel vers la positivité, les contenus IA affichant systématiquement un ton plus optimiste et lissé que ceux rédigés par des humains. Ce travail s'inscrit dans un débat plus large sur ce que certains chercheurs appellent la "théorie de l'Internet mort", formulée dès 2021 et relancée début 2024 : l'idée que le web serait progressivement peuplé de contenus automatisés où des machines s'adressent à d'autres machines, au détriment d'une production humaine authentique. La méthode du rapport comporte toutefois des limites importantes : Pangram v3 est un outil commercial dont la méthode n'a pas été évaluée par des chercheurs indépendants, et les résultats dépendent donc directement de sa fiabilité réelle. Reste que cette étude est l'une des premières à quantifier l'empreinte de l'IA générative à l'échelle du web archivé, et elle devrait pousser les plateformes, moteurs de recherche et régulateurs à affiner leur compréhension des effets concrets, moins spectaculaires que redoutés, mais bien réels, de cette prolifération silencieuse.

UECette étude quantitative sur la prolifération des contenus IA pourrait alimenter les travaux des régulateurs européens, notamment sur les obligations de transparence et de marquage des contenus générés par IA prévues dans l'AI Act.

SociétéPaper

1 source

3FrenchWeb

Carlos Diaz : « Le futur des médias sera incarné, distribué par YouTube et augmenté par l’IA »

Carlos Diaz, entrepreneur et investisseur français installé à San Francisco depuis seize ans, livre sa vision du futur des médias : un paysage incarné, structuré autour de YouTube comme plateforme de distribution dominante, et profondément transformé par l'intelligence artificielle. Observateur privilégié depuis la Silicon Valley, il partage ses analyses à travers deux formats qu'il a créés : Silicon Carne, un podcast qui tranche avec le discours lisse habituel de l'écosystème tech, et Le Festin, un déjeuner conçu pour libérer la parole dans un milieu souvent formaté. Sa thèse centrale est que l'avenir des médias appartient aux créateurs incarnés, c'est-à-dire à des personnalités identifiables qui construisent une audience directe, sans passer par les intermédiaires traditionnels. YouTube, plus que les plateformes de streaming ou la presse en ligne, s'impose selon lui comme le canal incontournable de distribution à grande échelle. L'IA, elle, n'est pas vue comme une menace mais comme un amplificateur : elle permet de produire davantage, mieux et plus vite, tout en restant centré sur la voix humaine comme valeur différenciante. Ce discours s'inscrit dans un débat plus large qui agite l'industrie des médias depuis plusieurs années : comment survivre à la désintermédiation imposée par les plateformes numériques ? Pendant que les groupes de presse traditionnels perdent des revenus publicitaires au profit de Google et Meta, une nouvelle génération de créateurs indépendants, souvent formés dans la culture startup, construit des médias rentables en s'appuyant sur l'audience directe, la communauté et les outils d'IA générative.

UELa thèse interpelle directement les médias français confrontés à la désintermédiation publicitaire par Google et Meta, en proposant une feuille de route aux créateurs indépendants français pour s'adapter à ce nouvel écosystème.

SociétéOpinion

1 source

4Frandroid

Sur Amazon, les faux guides de jeux générés par IA se multiplient

Sur Amazon, des guides de jeux vidéo générés par intelligence artificielle prolifèrent dans le catalogue de la plateforme, trompant des joueurs qui cherchent de l'aide pour progresser dans leurs titres favoris. Ces ouvrages, produits en masse à faible coût grâce à des outils d'IA générative, sont vendus plusieurs euros voire dizaines d'euros, alors qu'ils contiennent des informations incorrectes, inventées ou périmées. Les auteurs de ces arnaques exploitent la facilité avec laquelle Amazon permet à n'importe qui de publier via son programme Kindle Direct Publishing. L'impact est direct pour les acheteurs : un joueur qui paie pour un guide sur un RPG complexe ou un jeu de stratégie se retrouve avec un document truffé d'erreurs, de niveaux inexistants ou de conseils inutilisables. Au-delà de la frustration individuelle, ce phénomène pollue l'écosystème Amazon : les vrais guides, rédigés par des spécialistes, se noient dans un océan de contenu généré automatiquement, et les avis clients deviennent peu fiables car les acheteurs découvrent la supercherie trop tard. Ce problème s'inscrit dans une tendance plus large de production de contenu IA bas de gamme qui inonde les plateformes de vente en ligne depuis l'essor de ChatGPT et de ses concurrents à partir de 2023. Amazon a déjà tenté de limiter le nombre de publications quotidiennes par auteur sur KDP, sans parvenir à endiguer le flot. La question de la responsabilité de la plateforme dans la modération de ce type de contenu trompeur reste entière, alors que les régulateurs européens examinent de près les pratiques des grandes marketplaces.

UELes régulateurs européens examinent les pratiques des grandes marketplaces face à la prolifération de contenu IA trompeur, ce qui pourrait accélérer les obligations de modération éditoriale sous le Digital Services Act (DSA).

SociétéOpinion

1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour