Deezer : les chansons générées par IA, « un problème pour toute la filière musicale »

Une école voulait filmer des enfants pour entraîner l’IA : les parents pètent les plombs

L'Université de Washington a dû abandonner un projet de recherche après une levée de boucliers de parents d'élèves. L'étude prévoyait d'équiper des enseignants de maternelle de caméras embarquées et d'installer des dispositifs fixes dans les salles de classe, afin de capter les interactions quotidiennes entre professeurs et enfants. Ces enregistrements devaient alimenter des modèles d'intelligence artificielle capables d'analyser la qualité pédagogique des échanges en classe. Le dispositif reposait sur un opt-out qui incluait automatiquement tous les enfants, sauf refus explicite des parents. Selon 404 Media, qui a consulté les documents transmis aux familles, les vidéos pouvaient être traitées via des services d'IA hébergés dans le cloud, sans que les entreprises impliquées ni les modèles utilisés ne soient nommément identifiés. Face aux protestations, l'université a confirmé l'arrêt du programme peu après les premières réactions négatives. Les parents ont soulevé des questions concrètes restées sans réponse satisfaisante : que devenait l'image d'un enfant dont la famille refusait de participer, dans une classe où tous les autres élèves étaient filmés ? Les chercheurs promettaient de masquer visages et noms "dans la mesure du possible", une formulation jugée nettement insuffisante. S'y ajoutaient des problèmes d'accessibilité : de nombreuses familles issues de l'immigration ne parlaient pas anglais, et aucun formulaire traduit n'était disponible. Faith Boninger, codirectrice du National Education Policy Center, a également pointé l'opacité du dispositif, notamment l'absence de réponse claire sur qui pouvait accéder aux données, combien de temps elles seraient conservées, et qui finançait réellement la recherche. Un parent interrogé anonymement par 404 Media résumait l'inquiétude collective : "Je suis troublé par l'idée que l'image de mon enfant soit utilisée dans des outils d'IA inconnus." Cet incident s'inscrit dans un mouvement de fond : l'IA s'impose rapidement dans l'éducation, portée par des investissements massifs d'entreprises comme OpenAI, Anthropic et Microsoft, qui multiplient partenariats universitaires et accès gratuits aux outils génératifs pour les étudiants et enseignants. Mais développer des modèles spécialisés dans l'éducation nécessite des volumes considérables de données réelles, et c'est précisément là que le bât blesse. Les établissements scolaires, qui accueillent des mineurs dans un cadre légalement protégé, deviennent des terrains convoités pour la collecte de données d'entraînement. L'échec du projet de l'Université de Washington illustre la tension croissante entre les besoins de l'industrie IA et les droits fondamentaux des familles, en particulier autour du consentement éclairé. À mesure que ces projets se multiplient, la gouvernance des données issues des environnements scolaires ne peut plus être reléguée en note de bas de page d'un formulaire incompréhensible.

Pourquoi Wikipédia bannit presque totalement les articles générés par l’IA

La communauté de Wikipédia a adopté une politique stricte interdisant quasi-totalement l'utilisation de textes générés par des intelligences artificielles génératives pour rédiger ou modifier des articles de l'encyclopédie. Cette décision, fruit de longs débats entre éditeurs bénévoles, s'applique aux principales éditions linguistiques du site. Quelques exceptions limitées subsistent, notamment pour des tâches techniques précises comme la correction grammaticale ou la traduction assistée, mais la rédaction de contenu encyclopédique par IA reste prohibée. Cette interdiction répond à des préoccupations concrètes sur la fiabilité et la neutralité de l'information. Les modèles de langage sont connus pour produire des « hallucinations » — des affirmations fausses présentées avec confiance — ce qui est incompatible avec les standards de vérifiabilité de Wikipédia. Pour une encyclopédie consultée par des centaines de millions de personnes chaque mois, laisser entrer massivement du contenu non vérifiable représenterait un risque systémique pour la qualité de l'information publique mondiale. Cette prise de position s'inscrit dans un contexte plus large de tension entre la démocratisation des outils génératifs et les institutions de connaissance structurée. Alors que des plateformes comme Medium ou des sites d'actualité ont été inondés de contenu IA de faible qualité depuis 2022, Wikipédia choisit une voie opposée, en défendant le travail humain et la traçabilité des sources. La décision pourrait influencer d'autres plateformes collaboratives confrontées aux mêmes enjeux.

Deepfakes : Meta épinglé pour ses failles dans la lutte contre les contenus générés par IA

Meta est critiqué pour ses insuffisances dans la détection et la modération des deepfakes et contenus générés par IA sur ses plateformes. Malgré les efforts des géants du web pour adapter leurs systèmes de modération face à la prolifération de fausses images et vidéos hyperréalistes, Meta peine encore à contenir efficacement ces contenus trompeurs. La précision croissante des IA génératives rend la lutte contre la désinformation visuelle particulièrement difficile sur les réseaux sociaux.

Le concept de "Magnifica Humanitas" du pape, un modèle pour faire face à l'IA

Le pape Léon XIV a publié une encyclique intitulée Magnifica Humanitas ("Magnificence de l'humanité"), consacrée entièrement à l'intelligence artificielle. Le texte affirme dès l'ouverture que "la technologie n'est jamais neutre" et place l'IA dans une perspective historique comparable à la révolution industrielle. S'appuyant sur deux récits bibliques, l'encyclique oppose la tour de Babel, symbole d'une croissance effrénée coupée de toute considération humaine et divine, au livre de Néhémie, où la reconstruction de Jérusalem devient un acte collectif et solidaire. Léon XIV y voit l'image de deux chemins possibles pour notre époque : une course technologique atomisante, ou un projet partagé remettant l'humain au centre. Le document insiste sur un point précis : l'IA n'est pas une force naturelle ni une entité abstraite et omnisciente, mais un produit commercial, né à un moment où des pouvoirs économiques considérables se concentrent entre un nombre infime de mains. Cette prise de position pontificale arrive alors que les mécanismes de régulation de l'IA restent profondément lacunaires. Il n'existe aucune autorité de sécurité dédiée à l'échelle mondiale. Aux États-Unis, la Federal Trade Commission dispose de compétences limitées sur la conception algorithmique, et les recommandations du NIST sont largement ignorées par l'industrie. L'AI Act européen, partiellement entré en vigueur, ne couvre qu'une fraction des usages réels. Dans ce vide institutionnel, ce sont les investisseurs qui ont pris le relais. Des coalitions regroupées autour de l'Interfaith Center on Corporate Responsibility, représentant plus de 400 milliards de dollars d'actifs sous gestion, ont multiplié les résolutions d'actionnaires lors des dernières assemblées générales pour exiger transparence, évaluation des risques et responsabilité dans le déploiement de l'IA. Des géants comme Alphabet, Amazon, Nvidia, Palantir et Uber ont été directement interpellés, avec des demandes formelles d'interdire toute utilisation de leurs systèmes à des fins de violence ou de violation des droits humains. L'encyclique survient dans un contexte d'escalade des usages militaires de l'IA, illustré de façon tragique lors des premières heures de la guerre contre l'Iran, où des systèmes d'IA ont servi à identifier des cibles pour des milliers de frappes de missiles, causant des centaines de morts. Cette réalité confère une résonance particulière au message de Léon XIV, premier pape de l'ère de l'IA de masse. Son texte ne prétend pas innover sur le terrain de la gouvernance : il entérine et légitime un mouvement déjà en marche, porté non par les États ni par les institutions internationales, mais par des actionnaires citoyens qui ont choisi d'exercer leur responsabilité là où les gouvernements ont jusqu'ici échoué.

💬 C'est quand même le Vatican qui dit ce que les gouvernements n'arrivent pas à formuler clairement. L'encyclique ne prétend pas réinventer la gouvernance, mais elle pointe un truc précis : l'IA n'est pas une force naturelle, c'est un produit commercial concentré dans quelques mains. Que ce soit le pape ou des coalitions d'actionnaires qui comblent le vide laissé par les États, c'est un aveu d'échec institutionnel assez glaçant.