L’IA est-elle en train d’abîmer le cerveau des enfants ? Des experts alertent sur l’IA Slop
Des vidéos générées par intelligence artificielle mettant en scène des personnages en forme de fruits ou légumes colorés inquiètent désormais des chercheurs spécialisés dans l'extrémisme. Selon une analyse publiée par le GNET (Global Network on Extremism and Technology), ces contenus, qualifiés d'IA Slop, débutent souvent par des scénarios simplistes et presque enfantins, ruptures amoureuses, licenciements, conflits familiaux, avant de basculer brutalement vers des scènes de violence graphique, de torture ou de mutilation. Les chercheurs signalent également l'apparition de personnages liés à des cartels, des mouvements d'extrême droite ou des idéologies nihilistes radicales, glissés au milieu de ces productions à l'esthétique volontairement naïve. Ces vidéos, produites en masse par des fermes de contenus automatisées, circulent largement sur les plateformes sociales et sont visionnées par un public comprenant de nombreux jeunes utilisateurs.
Résumé et traduction réalisés par Le Fil IA à partir de Le Big Data. Lire l'article original →
L'inquiétude porte moins sur une vidéo isolée que sur l'effet cumulatif de ce type de contenu. Le GNET estime que cette production audiovisuelle "renforce la fascination pour la violence gratuite" chez les jeunes spectateurs et pourrait "préparer le terrain à la consommation d'autres contenus audiovisuels violents". Le mécanisme redouté est algorithmique : les plateformes recommandent des séquences similaires après quelques interactions seulement, ce qui peut entraîner un enfant attiré par l'absurde vers des contenus de plus en plus sombres en peu de temps. L'accumulation de ces images réduirait progressivement le seuil de surprise face à la brutalité, sans que chaque vidéo soit reçue comme un message idéologique explicite. Pour les plateformes, dont le modèle économique repose sur la rétention de l'attention, la violence qui capte mieux les regards ne crée guère d'incitation commerciale à ralentir ce phénomène spontanément.
Ce rapport doit toutefois être lu avec prudence sur le plan scientifique. Le GNET ne démontre pas de lien causal direct entre le visionnage de ces vidéos et une radicalisation effective ; son analyse reste largement descriptive et cite même, sans le vouloir, au moins un texte rédigé par une intelligence artificielle, une faiblesse méthodologique qui fragilise sa portée. Le contexte institutionnel mérite aussi d'être noté : le GNET dépend du Global Internet Forum to Counter Terrorism, une organisation financée par l'industrie technologique elle-même, régulièrement critiquée pour son rôle dans la modération des contenus. Au-delà de la violence, les mêmes fermes de production automatisée diffusent aussi du racisme, de la désinformation électorale ou des escroqueries, suggérant que le danger réside moins dans un contenu isolé que dans le volume massif généré par ces systèmes. Le véritable enjeu pour les plateformes consiste désormais à interrompre cette boucle de recommandation avant que ces contenus extrêmes ne deviennent familiers, donc normalisés, aux yeux des plus jeunes utilisateurs.
Les jeunes utilisateurs francais et europeens sont exposes aux memes plateformes et algorithmes de recommandation, sans qu'aucune regulation europeenne specifique ne soit mentionnee dans l'article.