Aller au contenu principal
ÉthiqueNext INpact · 3 min de lecture

France Travail : un algorithme pour accélérer le profilage des chômeurs et les contrôles

Source originale ↗·

France Travail travaille sur un algorithme destiné à cibler plus efficacement les contrôles de recherche d'emploi, selon un document interne révélé par la Quadrature du Net. Ce support de présentation, daté de décembre 2025 et conçu pour un exposé d'une trentaine de minutes, détaille les travaux menés autour du Contrôle de Recherche d'Emploi, ou CRE. Le dispositif prévoit d'analyser 26 variables par demandeur d'emploi : historique des cessations d'inscription, délai avant inscription, nombre d'entretiens, niveau de formation, métier recherché et tension sur ce métier, heures travaillées, ancienneté d'une Offre Raisonnable d'Emploi, nombre de refus d'offres, présence d'un CV visible ou encore absences aux prestations. Le modèle retenu repose sur un arbre de décision statistique, et non sur un LLM d'IA générative. Pour 2026, France Travail prévoyait 500 000 contrôles ciblés, soit 40 % du total des vérifications programmées, en plus des contrôles déclenchés par vérification d'assiduité, tirage aléatoire ou signalement des agences. L'organisme dispose déjà de deux outils d'IA développés par Mistral : ChatFT, qui assiste les conseillers dans leurs échanges avec les demandeurs d'emploi, et MatchFT, qui rapproche offres et profils puis contacte par SMS les candidats jugés pertinents.

L'enjeu dépasse la simple automatisation administrative : il s'agit de faire porter par un algorithme le tri entre demandeurs d'emploi de bonne foi et « contournements volontaires », une distinction qui déclenche ensuite une sanction, une révision du suivi ou au contraire un renforcement de l'accompagnement. Pour les personnes concernées, cela signifie que des critères comme un délai d'inscription jugé trop long, un CV non visible ou un nombre de refus d'offres pourront désormais alimenter un score qui oriente directement vers un contrôle renforcé, avec un risque de radiation à la clé. La Quadrature du Net pointe un double danger : une massification des contrôles ciblés, qui passeraient d'exceptions justifiées à un mode de gestion de masse, et un déplacement de la responsabilité politique vers un outil présenté comme neutre et « objectif », alors que le choix des 26 variables et leur pondération relèvent eux-mêmes de décisions politiques. L'association estime que plusieurs principes que France Travail affiche comme garanties, notamment le bénéfice du doute, l'équité de traitement ou la séparation entre accompagnement et contrôle, pourraient être fragilisés par cette automatisation.

Ce projet s'inscrit dans une tendance plus large de numérisation du contrôle social, déjà observée avec les algorithmes de notation utilisés par la CAF pour détecter les fraudes aux prestations, ou par Pôle emploi devenu France Travail dans sa recherche de gains de productivité face à la hausse du volume de dossiers à traiter. France Travail justifie sa démarche par la nécessité de mieux distinguer les demandeurs ayant besoin d'un accompagnement renforcé de ceux qui chercheraient à contourner leurs obligations, dans le cadre du « contrat d'engagement dynamique » qui formalise droits et devoirs réciproques. Mais le recours à Mistral, entreprise française d'IA déjà partenaire de l'État sur plusieurs projets publics, alimente les critiques sur l'imbrication croissante entre acteurs privés de l'IA et politiques publiques sensibles. La suite dépendra en grande partie de la réaction des associations de défense des chômeurs et des syndicats, ainsi que d'une éventuelle saisine de la CNIL, dans un contexte où l'usage de l'IA dans les administrations sociales fait déjà l'objet d'un examen accru en Europe, notamment via l'AI Act qui classe ce type de systèmes parmi les usages à haut risque.

Impact France/UE

Ce projet implique directement une institution publique française (France Travail) et une entreprise française (Mistral), et soulève des questions de conformité avec l'AI Act, qui classe ce type de systèmes de notation des demandeurs d'emploi parmi les usages à haut risque, avec une possible saisine de la CNIL.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Deezer : les chansons générées par IA, « un problème pour toute la filière musicale »
1Next INpact 

Deezer : les chansons générées par IA, « un problème pour toute la filière musicale »

Deezer a révélé que 44 % des chansons soumises quotidiennement à ses serveurs sont générées par intelligence artificielle, soit environ 75 000 titres chaque jour. Ce chiffre, communiqué par Aurélien Hérault, directeur de l'innovation de la plateforme française, marque une accélération brutale : le volume de musique IA a doublé en seulement trois mois. Ces contenus transitent principalement par des distributeurs indépendants, des plateformes intermédiaires qui permettent à n'importe qui de livrer des morceaux à Deezer sans contrôle éditorial préalable. Pour les identifier, l'entreprise a développé son propre outil de détection, qui analyse le signal audio à la recherche de traces numériques invisibles à l'oreille humaine mais caractéristiques des modèles génératifs. Ces modèles laissent des empreintes statistiques dans le fichier sonore, que la technologie de Deezer est conçue à repérer avec une précision suffisante pour alimenter un système de signalement à grande échelle. L'enjeu dépasse la simple question de goût ou de qualité artistique. La prolifération de titres générés automatiquement s'accompagne fréquemment de fraudes au streaming, où des scripts font tourner en boucle des morceaux pour générer des revenus artificiels de droits voisins, au détriment des artistes humains. Deezer a choisi de répondre sur deux fronts : informer les auditeurs en affichant la mention « contenu généré par IA » sur les pages des albums concernés, et exclure ces titres de ses algorithmes de recommandation, refusant ainsi de leur accorder la même visibilité qu'aux productions humaines. Cette décision éditoriale, assumée publiquement, constitue une prise de position rare dans un secteur qui préfère souvent minimiser le problème. La situation met en lumière une faille structurelle du secteur du streaming musical : les standards de métadonnées censés encadrer ces déclarations, notamment le format DDEX adopté par l'industrie, ne sont pas encore suffisamment déployés ni harmonisés entre les acteurs pour constituer un rempart efficace. Deezer se retrouve donc à investir dans ses propres outils en attendant qu'une réponse collective émerge. Hérault plaide pour que l'ensemble de la filière, distributeurs, labels et plateformes, s'empare collectivement du problème. La question d'une suppression pure et simple de ces contenus du catalogue reste épineuse : des obligations contractuelles avec les distributeurs compliquent toute décision unilatérale. Le secteur musical s'approche d'un point de bascule où la majorité des morceaux uploadés pourraient être d'origine artificielle, rendant urgente une gouvernance commune que personne n'a encore réussi à mettre en place.

UEDeezer, plateforme française leader du streaming, est en première ligne face à l'inondation de contenus IA, ce qui fragilise directement les revenus des artistes français et révèle une faille de gouvernance collective urgente pour toute la filière musicale européenne.

💬 44 % de musique IA en upload quotidien, ça veut dire que le problème n'est plus hypothétique. Ce qui m'intéresse chez Deezer, c'est qu'ils ont construit leur propre détecteur plutôt que d'attendre que l'industrie se réveille, parce que DDEX n'est clairement pas prêt. Reste à voir ce que ça donne quand les modèles génératifs commenceront à lisser leurs empreintes statistiques.

ÉthiqueOpinion
1 source
Taylor Swift dépose sa voix et son image comme marques pour contrer les clones IA
2Next INpact 

Taylor Swift dépose sa voix et son image comme marques pour contrer les clones IA

Taylor Swift a déposé le 24 avril 2026 plusieurs marques auprès de l'USPTO, l'agence américaine des brevets et des marques, pour protéger sa voix et son image contre les clones générés par intelligence artificielle. Deux de ces dépôts portent sur des extraits sonores de sa voix, les phrases "Hey, it's Taylor Swift" et "Hey, it's Taylor", tandis qu'un troisième concerne une photographie précisément décrite dans le dossier : la chanteuse tenant une guitare rose à sangle noire, vêtue d'une combinaison irisée multicolore et de bottes argentées. Cette démarche fait suite à celle de l'acteur Matthew McConaughey, qui avait obtenu mi-janvier l'approbation de huit marques similaires auprès de la même agence, incluant des vidéos et un enregistrement audio de sa célèbre réplique "Alright, alright, alright" tirée du film Dazed and Confused. Ces dépôts visent à combler un angle mort juridique que l'essor de l'IA générative a creusé dans l'arsenal légal des artistes. Le droit d'auteur protège les enregistrements existants, mais il ne couvre pas les contenus "inédits" produits "à la manière de" par une IA, sans copie directe d'une oeuvre protégée. Cette zone grise alimente déjà une industrie de l'escroquerie prospère : deepfakes de célébrités utilisés pour vendre des produits sur les réseaux sociaux, comme l'a vécu Tom Hanks en devant alerter publiquement ses fans qu'il ne faisait pas la promotion d'une assurance dentaire. Les "marques sonores" déposées par Swift fonctionnent sur le même modèle que le "tudum" de Netflix ou les carillons de la BBC, offrant un ancrage juridique qui couvre non seulement les copies exactes mais aussi les sons susceptibles de créer une confusion dans l'esprit du public. L'enjeu dépasse largement le cas de deux célébrités fortunées cherchant à protéger leur image. Si cette approche résiste aux tribunaux, elle pourrait redéfinir les responsabilités des plateformes d'IA et ouvrir la voie à des injonctions bien plus rapides et plus larges que ce que permet le droit d'auteur. Mais le chemin reste incertain : le droit des marques n'a jamais été testé de cette façon pour protéger une voix ou une apparence humaine, et des questions fondamentales demeurent sans réponse, notamment la définition de la "ressemblance trompeuse" appliquée à une voix synthétique. Les disparités juridiques entre pays ajoutent une couche de complexité supplémentaire. McConaughey lui-même, pourtant investisseur chez ElevenLabs, résume l'enjeu : "Nous voulons établir un cadre clair autour de la propriété, où le consentement et l'attribution deviennent la norme dans un monde dominé par l'IA."

UESi cette stratégie de marques sonores résiste aux tribunaux américains, elle pourrait inspirer des recours similaires pour les artistes européens, dont la protection contre les clones IA reste lacunaire malgré l'AI Act.

ÉthiqueOpinion
1 source
Une école voulait filmer des enfants pour entraîner l’IA : les parents pètent les plombs
3Le Big Data 

Une école voulait filmer des enfants pour entraîner l’IA : les parents pètent les plombs

L'Université de Washington a dû abandonner un projet de recherche après une levée de boucliers de parents d'élèves. L'étude prévoyait d'équiper des enseignants de maternelle de caméras embarquées et d'installer des dispositifs fixes dans les salles de classe, afin de capter les interactions quotidiennes entre professeurs et enfants. Ces enregistrements devaient alimenter des modèles d'intelligence artificielle capables d'analyser la qualité pédagogique des échanges en classe. Le dispositif reposait sur un opt-out qui incluait automatiquement tous les enfants, sauf refus explicite des parents. Selon 404 Media, qui a consulté les documents transmis aux familles, les vidéos pouvaient être traitées via des services d'IA hébergés dans le cloud, sans que les entreprises impliquées ni les modèles utilisés ne soient nommément identifiés. Face aux protestations, l'université a confirmé l'arrêt du programme peu après les premières réactions négatives. Les parents ont soulevé des questions concrètes restées sans réponse satisfaisante : que devenait l'image d'un enfant dont la famille refusait de participer, dans une classe où tous les autres élèves étaient filmés ? Les chercheurs promettaient de masquer visages et noms "dans la mesure du possible", une formulation jugée nettement insuffisante. S'y ajoutaient des problèmes d'accessibilité : de nombreuses familles issues de l'immigration ne parlaient pas anglais, et aucun formulaire traduit n'était disponible. Faith Boninger, codirectrice du National Education Policy Center, a également pointé l'opacité du dispositif, notamment l'absence de réponse claire sur qui pouvait accéder aux données, combien de temps elles seraient conservées, et qui finançait réellement la recherche. Un parent interrogé anonymement par 404 Media résumait l'inquiétude collective : "Je suis troublé par l'idée que l'image de mon enfant soit utilisée dans des outils d'IA inconnus." Cet incident s'inscrit dans un mouvement de fond : l'IA s'impose rapidement dans l'éducation, portée par des investissements massifs d'entreprises comme OpenAI, Anthropic et Microsoft, qui multiplient partenariats universitaires et accès gratuits aux outils génératifs pour les étudiants et enseignants. Mais développer des modèles spécialisés dans l'éducation nécessite des volumes considérables de données réelles, et c'est précisément là que le bât blesse. Les établissements scolaires, qui accueillent des mineurs dans un cadre légalement protégé, deviennent des terrains convoités pour la collecte de données d'entraînement. L'échec du projet de l'Université de Washington illustre la tension croissante entre les besoins de l'industrie IA et les droits fondamentaux des familles, en particulier autour du consentement éclairé. À mesure que ces projets se multiplient, la gouvernance des données issues des environnements scolaires ne peut plus être reléguée en note de bas de page d'un formulaire incompréhensible.

UELe RGPD impose en Europe un consentement explicite pour le traitement des données de mineurs, rendant un dispositif d'opt-out similaire illégal, mais l'incident souligne la vigilance nécessaire face aux projets de recherche en IA dans les établissements scolaires européens.

ÉthiqueOpinion
1 source
Claude Desktop s’arroge le droit de pré-autoriser ses extensions pour navigateurs
4Next INpact 

Claude Desktop s’arroge le droit de pré-autoriser ses extensions pour navigateurs

Lors de l'installation de Claude Desktop, le logiciel d'Anthropic crée automatiquement sur la machine hôte un fichier de configuration baptisé com.anthropic.claudebrowserextension.json, présent dans les dossiers système des navigateurs web installés. Ce manifeste, découvert fortuitement le 18 avril par Alexander Hanff, consultant spécialisé dans la vie privée en ligne, contient les identifiants de trois extensions Chrome, dont certaines absentes de la machine, et les déclare comme sources autorisées à communiquer avec l'application locale. La découverte a été relayée par The Register le 20 avril, puis vérifiée de façon indépendante sur macOS et Windows 11 : dans les deux cas, le fichier apparaît dès le premier lancement, sans que l'utilisateur en soit explicitement informé. Sur Windows, l'installation génère en outre de nouvelles clés de registre et dépose un exécutable chrome-native-host.exe, alors même qu'aucune extension Anthropic n'a jamais été installée. Ce comportement soulève des questions légitimes de consentement et de sécurité. Anthropic demande bien aux utilisateurs d'accepter ses conditions d'utilisation, et affiche un écran de gestion des cookies au premier lancement, mais nulle part il n'est fait mention explicite de la création de ces autorisations au niveau des navigateurs. Pour un consultant en vie privée, l'absence de transparence sur ce mécanisme constitue un manquement, quel que soit l'objectif déclaré. En termes de surface d'attaque, un pont permanent entre une application desktop et des extensions de navigateur représente un vecteur potentiel si l'une des extensions référencées venait à être compromise ou si le fichier de configuration était modifié par un tiers malveillant. Le mécanisme en jeu, dit "Native Messaging", est en réalité une fonctionnalité standard des navigateurs modernes : il permet à une application installée en local de communiquer avec une extension web via un canal dédié, sans passer par internet. C'est exactement ainsi que fonctionnent la plupart des gestionnaires de mots de passe, qui font le lien entre leur coffre-fort local et leurs extensions de remplissage automatique. La pratique n'est donc pas anormale en elle-même, mais l'absence d'information explicite lors de l'installation place Anthropic en porte-à-faux vis-à-vis des attentes de transparence qui entourent les logiciels manipulant des données sensibles. La découverte intervient dans un contexte où le modèle économique d'Anthropic repose sur la confiance des utilisateurs, et où la firme a déjà subi des critiques pour ses pratiques de vérification d'identité. Une clarification publique sur la finalité précise de ce manifeste et une mention explicite dans le processus d'installation sembleraient être le minimum attendu.

UECe comportement non documenté lors de l'installation pourrait constituer un manquement au RGPD en matière d'information préalable des utilisateurs, exposant Anthropic à un examen des autorités de protection des données européennes.

ÉthiqueOpinion
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic