Aller au contenu principal
ÉthiqueThe Decoder6sem

Des influenceurs générés par IA inondent les réseaux sociaux de contenus pro-Trump avant les midterms

Résumé IASource uniqueImpact UETake éditorial
Source originale ↗·

Des centaines d'avatars générés par intelligence artificielle inondent TikTok, Instagram et YouTube avec des messages de soutien à Donald Trump à l'approche des élections de mi-mandat américaines. Certains de ces comptes ont déjà accumulé plus de 35 000 abonnés et engrangé des millions de vues. Trump lui-même a partagé du contenu produit par IA, ce qui a contribué à amplifier leur portée. L'origine de cette vague reste floue : s'agit-il d'initiatives d'activistes individuels ou d'une campagne coordonnée, personne ne le sait encore avec certitude.

Ce phénomène soulève des questions majeures sur l'intégrité de l'information politique en ligne. Des influenceurs virtuels, indiscernables de vraies personnes, peuvent diffuser des messages partisans à grande échelle, sans les contraintes légales ou éthiques qui s'appliquent aux acteurs humains. Pour les plateformes comme TikTok et Meta, la détection et la modération de ce type de contenu représentent un défi technique et politique considérable, d'autant que les algorithmes de recommandation amplifient naturellement les contenus engageants, quelle que soit leur origine.

L'utilisation de l'IA à des fins de propagande politique n'est pas nouvelle, mais la facilité avec laquelle ces avatars peuvent être créés et déployés massivement marque un tournant. Après les controverses autour des ingérences étrangères lors des élections de 2016 et 2020, les autorités américaines et les plateformes ont renforcé leurs politiques, sans pour autant anticiper ce scénario. La question de la transparence sur l'origine artificielle du contenu politique devient désormais centrale pour les régulateurs et les législateurs aux États-Unis comme en Europe.

Impact France/UE

La prolifération d'avatars politiques générés par IA interpelle directement les régulateurs européens, le Digital Services Act et l'AI Act imposant des obligations de transparence et de marquage des contenus synthétiques que les plateformes peinent encore à appliquer.

💬 Le point de vue du dev

On savait que ça allait arriver, mais la vitesse, là, ça surprend quand même. Des centaines de comptes coordonnés, des millions de vues en quelques semaines, c'est plus de l'expérimentation isolée, c'est une chaîne de production. Le DSA impose le marquage des contenus synthétiques, sur le papier c'est exactement pour ça qu'il existe, mais modérer à cette échelle sur TikTok sans faux positifs massifs, personne ne l'a encore réussi.

Dans nos dossiers

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Le portail d’actualités MSN de Microsoft rémunère une quarantaine de médias générés par IA
1Next INpact 

Le portail d’actualités MSN de Microsoft rémunère une quarantaine de médias générés par IA

Le portail d'actualités MSN de Microsoft, intégré par défaut dans le widget Actualités de tous les PC sous Windows, rémunère une quarantaine de médias dont le contenu est entièrement ou majoritairement généré par intelligence artificielle, selon une enquête récente. Cette pratique contrevient aux propres lignes directrices de Microsoft, qui affirme pourtant travailler avec plus de 1 300 éditeurs de presse représentant plus de 4 500 marques à l'échelle mondiale pour offrir « le meilleur des informations en ligne ». Le portail revendique combiner algorithmes et modération humaine pour garantir des contenus conformes à ses valeurs, mais la page de présentation de sa direction éditoriale liste quatre responsables dont aucun ne travaille plus pour l'entreprise depuis 2022, 2023 ou 2024. Par ailleurs, MSN diffuse massivement des vidéos à caractère conspirationniste et favorise de manière disproportionnée les contenus de CNews, la chaîne du groupe Bolloré reconvertie en média d'opinion. Le problème dépasse la simple incohérence éditoriale : en finançant des sites automatisés via des accords de partenariat, Microsoft contribue directement à monétiser la désinformation industrielle et à fragiliser les médias traditionnels qui investissent dans des journalistes humains. Le widget Actualités de Windows étant préinstallé sur des centaines de millions de machines, la portée de ces recommandations est considérable. Des millions d'utilisateurs reçoivent ainsi, sans le savoir, un flux mêlant sources vérifiées et contenus produits à la chaîne par des IA, sans distinction apparente de fiabilité. Cette situation s'inscrit dans une trajectoire entamée en 2020, lorsque Microsoft avait licencié près de 80 journalistes constituant ses équipes éditoriales américaine et britannique, confiant intégralement la curation à des algorithmes. Ce virage vers l'automatisation, présenté à l'époque comme une modernisation, a ouvert la porte à des dérives que la plateforme ne semble ni surveiller ni corriger. La question de la responsabilité des agrégateurs technologiques dans la qualité de l'information distribuée est au coeur de débats réglementaires en Europe, notamment autour du Digital Services Act. Le cas MSN illustre la tension entre la logique économique des plateformes, qui profitent du trafic généré par tout contenu engageant quelle qu'en soit la source, et les engagements de qualité qu'elles affichent publiquement. Aucune réaction officielle de Microsoft n'avait été communiquée au moment de la publication de l'enquête.

UELe financement de contenus générés par IA fragilise les médias européens investissant dans le journalisme humain et soulève une question directe de conformité avec le Digital Services Act, notamment concernant la recommandation disproportionnée de CNews en France.

ÉthiqueOpinion
1 source
Deepfakes : Meta épinglé pour ses failles dans la lutte contre les contenus générés par IA
2Siècle Digital 

Deepfakes : Meta épinglé pour ses failles dans la lutte contre les contenus générés par IA

Meta est critiqué pour ses insuffisances dans la détection et la modération des deepfakes et contenus générés par IA sur ses plateformes. Malgré les efforts des géants du web pour adapter leurs systèmes de modération face à la prolifération de fausses images et vidéos hyperréalistes, Meta peine encore à contenir efficacement ces contenus trompeurs. La précision croissante des IA génératives rend la lutte contre la désinformation visuelle particulièrement difficile sur les réseaux sociaux.

UELes défaillances de modération de Meta exposent les citoyens européens à une désinformation visuelle croissante, renforçant la pression sur les régulateurs de l'UE pour faire appliquer le DSA (Digital Services Act) et ses obligations de transparence sur les contenus générés par IA.

ÉthiqueActu
1 source
Pourquoi Wikipédia bannit presque totalement les articles générés par l’IA
3Numerama 

Pourquoi Wikipédia bannit presque totalement les articles générés par l’IA

La communauté de Wikipédia a adopté une politique stricte interdisant quasi-totalement l'utilisation de textes générés par des intelligences artificielles génératives pour rédiger ou modifier des articles de l'encyclopédie. Cette décision, fruit de longs débats entre éditeurs bénévoles, s'applique aux principales éditions linguistiques du site. Quelques exceptions limitées subsistent, notamment pour des tâches techniques précises comme la correction grammaticale ou la traduction assistée, mais la rédaction de contenu encyclopédique par IA reste prohibée. Cette interdiction répond à des préoccupations concrètes sur la fiabilité et la neutralité de l'information. Les modèles de langage sont connus pour produire des « hallucinations » — des affirmations fausses présentées avec confiance — ce qui est incompatible avec les standards de vérifiabilité de Wikipédia. Pour une encyclopédie consultée par des centaines de millions de personnes chaque mois, laisser entrer massivement du contenu non vérifiable représenterait un risque systémique pour la qualité de l'information publique mondiale. Cette prise de position s'inscrit dans un contexte plus large de tension entre la démocratisation des outils génératifs et les institutions de connaissance structurée. Alors que des plateformes comme Medium ou des sites d'actualité ont été inondés de contenu IA de faible qualité depuis 2022, Wikipédia choisit une voie opposée, en défendant le travail humain et la traçabilité des sources. La décision pourrait influencer d'autres plateformes collaboratives confrontées aux mêmes enjeux.

UEL'édition francophone de Wikipédia est directement concernée : les contributeurs français et européens ne peuvent plus utiliser de textes génératifs pour rédiger ou modifier des articles encyclopédiques.

ÉthiqueOpinion
1 source
Deezer : les chansons générées par IA, « un problème pour toute la filière musicale »
4Next INpact 

Deezer : les chansons générées par IA, « un problème pour toute la filière musicale »

Deezer a révélé que 44 % des chansons soumises quotidiennement à ses serveurs sont générées par intelligence artificielle, soit environ 75 000 titres chaque jour. Ce chiffre, communiqué par Aurélien Hérault, directeur de l'innovation de la plateforme française, marque une accélération brutale : le volume de musique IA a doublé en seulement trois mois. Ces contenus transitent principalement par des distributeurs indépendants, des plateformes intermédiaires qui permettent à n'importe qui de livrer des morceaux à Deezer sans contrôle éditorial préalable. Pour les identifier, l'entreprise a développé son propre outil de détection, qui analyse le signal audio à la recherche de traces numériques invisibles à l'oreille humaine mais caractéristiques des modèles génératifs. Ces modèles laissent des empreintes statistiques dans le fichier sonore, que la technologie de Deezer est conçue à repérer avec une précision suffisante pour alimenter un système de signalement à grande échelle. L'enjeu dépasse la simple question de goût ou de qualité artistique. La prolifération de titres générés automatiquement s'accompagne fréquemment de fraudes au streaming, où des scripts font tourner en boucle des morceaux pour générer des revenus artificiels de droits voisins, au détriment des artistes humains. Deezer a choisi de répondre sur deux fronts : informer les auditeurs en affichant la mention « contenu généré par IA » sur les pages des albums concernés, et exclure ces titres de ses algorithmes de recommandation, refusant ainsi de leur accorder la même visibilité qu'aux productions humaines. Cette décision éditoriale, assumée publiquement, constitue une prise de position rare dans un secteur qui préfère souvent minimiser le problème. La situation met en lumière une faille structurelle du secteur du streaming musical : les standards de métadonnées censés encadrer ces déclarations, notamment le format DDEX adopté par l'industrie, ne sont pas encore suffisamment déployés ni harmonisés entre les acteurs pour constituer un rempart efficace. Deezer se retrouve donc à investir dans ses propres outils en attendant qu'une réponse collective émerge. Hérault plaide pour que l'ensemble de la filière, distributeurs, labels et plateformes, s'empare collectivement du problème. La question d'une suppression pure et simple de ces contenus du catalogue reste épineuse : des obligations contractuelles avec les distributeurs compliquent toute décision unilatérale. Le secteur musical s'approche d'un point de bascule où la majorité des morceaux uploadés pourraient être d'origine artificielle, rendant urgente une gouvernance commune que personne n'a encore réussi à mettre en place.

UEDeezer, plateforme française leader du streaming, est en première ligne face à l'inondation de contenus IA, ce qui fragilise directement les revenus des artistes français et révèle une faille de gouvernance collective urgente pour toute la filière musicale européenne.

💬 44 % de musique IA en upload quotidien, ça veut dire que le problème n'est plus hypothétique. Ce qui m'intéresse chez Deezer, c'est qu'ils ont construit leur propre détecteur plutôt que d'attendre que l'industrie se réveille, parce que DDEX n'est clairement pas prêt. Reste à voir ce que ça donne quand les modèles génératifs commenceront à lisser leurs empreintes statistiques.

ÉthiqueOpinion
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour