Les employés de Meta poursuivent l'entreprise en justice après des licenciements qu'ils attribuent à des systèmes d'IA discriminatoires

Aux Etats-Unis, des demandeurs d’emploi attaquent des logiciels de recrutement utilisant l’IA, pour discrimination par l’âge

Des milliers de candidats à l'emploi ont engagé des poursuites judiciaires contre Workday, l'un des principaux éditeurs de logiciels de ressources humaines aux États-Unis, accusant ses outils d'intelligence artificielle de discriminer les candidats selon leur âge, leur race ou leur handicap. L'affaire, portée en recours collectif devant les tribunaux fédéraux californiens, reproche à Workday d'avoir conçu des algorithmes de tri automatisé qui écartent systématiquement certains profils avant même qu'un recruteur humain n'examine leur dossier. Les plaignants, dont beaucoup ont plus de 40 ans, soutiennent avoir été éliminés non pas sur leurs compétences, mais en raison de caractéristiques protégées par le droit américain. L'enjeu juridique est inédit : c'est le fournisseur du logiciel lui-même qui est visé, et non les entreprises clientes qui l'utilisent pour gérer leurs recrutements. Cette approche pourrait redéfinir la chaîne de responsabilité dans l'automatisation RH, forçant les éditeurs à répondre des biais embarqués dans leurs systèmes. Si la jurisprudence se précise en faveur des plaignants, toute l'industrie des ATS (applicant tracking systems) pourrait être contrainte de revoir ses modèles et de démontrer l'équité de leurs critères de sélection. Ce contentieux s'inscrit dans une vague plus large de remises en cause des usages de l'IA dans l'emploi. La loi américaine sur la discrimination par l'âge (ADEA) interdit tout traitement défavorable des travailleurs de plus de 40 ans, mais son application aux systèmes automatisés reste largement non testée. Parallèlement, des villes comme New York ont déjà imposé des audits obligatoires sur les outils d'IA utilisés en recrutement. L'issue de la procédure contre Workday, dont les logiciels sont déployés dans des milliers d'entreprises mondiales, sera suivie de près comme un précédent potentiel pour encadrer l'IA dans les ressources humaines.

💬 Ce procès, c'est le premier vrai test de qui porte la responsabilité quand un algo élimine des gens avant même qu'un humain ait vu leur CV. Que ce soit Workday dans le viseur plutôt que les entreprises clientes, ça change tout, parce que ça force enfin les éditeurs à répondre des biais qu'ils ont mis dans leurs modèles. Reste à voir si ça tient, mais si la jurisprudence va dans ce sens, tous les ATS vont devoir ouvrir leurs boîtes noires.

Meta visé par une plainte accusant une IA, et non des humains, d'avoir décidé des licenciements

Vingt-six anciens salariés de Meta ont déposé hier une plainte devant le tribunal fédéral du district nord de Californie, accusant l'entreprise d'avoir utilisé des systèmes d'intelligence artificielle internes pour établir la liste des 8 000 personnes licenciées. Selon la plainte, déposée sous couvert d'anonymat par des plaignants désignés comme "Doe", Meta n'aurait pas confié cette décision au jugement de managers connaissant le travail de leurs équipes, mais à une combinaison d'outils algorithmiques comprenant "Metamate", des agents dits "second-brain" entraînés par les employés eux-mêmes, des données de surveillance de frappe et d'activité, des tableaux de bord mesurant l'usage de jetons IA, ainsi que des systèmes de notation et de calibration des performances assistés par algorithme. Les employés auraient notamment été évalués sur leur degré d'adoption des outils d'IA maison, classés dans des catégories internes telles que "AI Native", "AI First" ou "AI Enabled". Cette affaire soulève une question centrale pour l'avenir du travail dans la tech : la légalité de décisions de licenciement massif prises, en tout ou partie, par des systèmes automatisés plutôt que par des humains responsables. Les plaignants affirment que cette méthode a particulièrement pénalisé les salariés en situation de handicap ainsi que ceux ayant pris des congés médicaux ou familiaux protégés par la loi, ce qui constituerait une discrimination illégale si les faits sont avérés. Un tel système, en réduisant la valeur d'un employé à des métriques d'usage d'outils IA, ignorerait des facteurs comme l'ancienneté, la qualité du travail ou des absences légitimes. L'affaire s'inscrit dans un contexte plus large où Meta pousse activement ses salariés à adopter l'IA générative en interne, tout en réduisant ses effectifs à plusieurs reprises depuis 2022. Elle rejoint une série de contentieux visant l'usage de l'IA dans les ressources humaines, un domaine encore peu encadré juridiquement aux États-Unis. L'issue de la procédure pourrait avoir des répercussions sur la manière dont d'autres grandes entreprises technologiques utilisent des outils algorithmiques pour piloter leurs décisions de personnel.

💬 Ce qui me frappe, c'est pas que l'IA note les employés, c'est que Meta a laissé la machine trancher qui reste et qui part sans qu'aucun manager signe la décision. Bon, sur le papier c'est de l'optimisation RH, mais dans les faits ça permet de virer des gens en arrêt maladie ou en situation de handicap sans que personne n'ait à assumer le choix. Si le tribunal valide la plainte, les boîtes tech vont devoir remettre un humain responsable dans la boucle avant chaque licenciement.

Des systèmes d'IA autonomes mettent à l'épreuve la gouvernance dans les environnements physiques

Le 20 mai dernier, l'Infocomm Media Development Authority (IMDA) de Singapour a publié la version 1.5 de son cadre de gouvernance pour les IA agentiques, au moment où les systèmes d'intelligence artificielle autonomes quittent les environnements logiciels pour s'installer dans les entrepôts, les réseaux de livraison et les espaces publics. Ce cadre définit des lignes directrices pour les organisations qui déploient des agents capables de planifier, décider et agir en plusieurs étapes pour accomplir des objectifs. Parallèlement, lors d'un sommet IA à Singapour la semaine dernière, des acteurs comme Grab ont présenté leurs expériences concrètes : l'entreprise pilote actuellement des véhicules autonomes et des robots de livraison dans le quartier de Punggol, à Singapour. Son directeur technique, Suthen Thomas Paradatheth, a détaillé leur approche : simulation intensive, tests en circuit fermé puis ouvert, et déploiement progressif avant tout passage à l'échelle. L'enjeu central est que les défaillances d'une IA dans le monde physique ont des conséquences bien plus graves que dans le domaine numérique. Le Dr Ya-Qin Zhang, doyen fondateur de l'Institute for AI Industry Research de l'université Tsinghua, a résumé le problème : "Tout risque dans le domaine numérique sera amplifié dans le domaine physique, et le domaine physique aura des conséquences physiques." Les systèmes de transport, les drones, les réseaux logistiques et les infrastructures critiques deviennent des points de vulnérabilité à mesure que l'IA s'intègre plus profondément dans les opérations physiques. Grab a également souligné qu'une longue traîne de problèmes imprévus peut surgir après le déploiement, ce qui rend la surveillance continue non négociable. La plupart des cadres de gouvernance existants se sont concentrés sur les risques en ligne : biais algorithmiques, désinformation, contenus nuisibles. L'émergence des IA incarnées dans des environnements physiques imprévisibles force une refonte de cette approche. Le cadre de l'IMDA préconise des déploiements graduels, une surveillance continue et des tests post-déploiement, reconnaissant explicitement que tous les risques ne peuvent être anticipés avant la mise en service. Les discussions au sommet de Singapour ont pointé vers des modèles de gouvernance fondés sur la télémétrie et les tests itératifs, plutôt que sur une certification unique. L'IMDA recommande aussi d'appliquer le principe du moindre privilège pour les accès des agents, de définir des procédures opérationnelles standard et de prévoir des mécanismes permettant de mettre hors ligne un agent défaillant. La question de la répartition des responsabilités entre développeurs, intégrateurs et opérateurs reste un chantier ouvert dans ce secteur en rapide mutation.

Le PDG d'Anthropic réclame une réglementation de l'IA inspirée de la FAA : ce que les entreprises doivent savoir

Dario Amodei, cofondateur et PDG d'Anthropic, a publié un essai intitulé "Policy on the AI Exponential" dans lequel il appelle le gouvernement américain à réguler la mise sur le marché des modèles d'IA les plus puissants, en s'inspirant explicitement de la Federal Aviation Administration (FAA). Anthropic a simultanément dévoilé deux feuilles de route : un "Advanced AI Framework" ciblant les risques catastrophiques, et un "Economic Policy Framework" sur les déplacements d'emplois liés à l'IA, doté de 350 millions de dollars. Ces annonces surviennent le lendemain du lancement de Claude Fable 5, le modèle grand public le plus puissant de l'entreprise, et de Claude Mythos 5, une version plus restreinte aux capacités offensives et défensives avancées en cybersécurité. Concrètement, le cadre proposé exigerait que tout modèle entraîné avec plus de 10^25 opérations flottantes (FLOPs), ou développé par une entreprise dépassant 500 millions de dollars de revenus IA ou 1 milliard en R&D, soit soumis à des audits obligatoires par des tiers indépendants. En cas de risques biologiques, cybernétiques ou d'autonomie graves, les autorités auraient le pouvoir de bloquer, retarder ou révoquer le déploiement de ces modèles. Pour les entreprises qui s'appuient sur des API d'IA dans leur infrastructure, les conséquences sont immédiates : une mise à jour très attendue pourrait être indéfiniment bloquée par des régulateurs, ou un modèle déjà déployé retiré si des tests post-déploiement révèlent des comportements dangereux. Cela contraint les architectes techniques à concevoir des systèmes multi-modèles pour éviter toute dépendance exclusive à un fournisseur unique. La cybersécurité est au coeur du dispositif : Amodei cite directement les capacités de Claude Mythos Preview, capable de découvrir des vulnérabilités critiques dans les principaux systèmes d'exploitation, comme facteur ayant "bouleversé" le paysage mondial de la sécurité informatique. Les développeurs frontières seraient tenus de protéger les poids de leurs modèles contre les attaques extérieures et les menaces internes, et de signaler les "attaques par distillation", où des acteurs malveillants utilisent un modèle principal pour entraîner un clone moins aligné. Cette prise de position marque un tournant pour Anthropic, longtemps positionné comme champion de la sécurité de l'IA face à OpenAI et Google DeepMind. Pendant trois ans, les entreprises ont construit leurs produits sur l'hypothèse que les API d'IA n'évolueraient que vers plus de puissance. L'introduction d'embargos réglementaires potentiels bouleverse ce postulat. "Nous avons longtemps plaidé pour des exigences de transparence sur l'IA frontière, parce que les risques n'étaient pas encore assez clairs pour être précisément régulés. Ce n'est plus suffisant", a écrit Amodei sur X. Avec ces propositions, Anthropic cherche à façonner le cadre législatif avant que d'autres acteurs, notamment au Congrès américain, ne le définissent à sa place, tout en consolidant sa légitimité auprès des régulateurs et des grandes entreprises clientes.

💬 Lancer Fable 5 la veille de l'essai sur la régulation, c'est du lobbying bien habillé, et personne n'est dupe. Sur le fond, les audits tiers pour les modèles frontières ça a du sens, c'est même ce qu'on attendait depuis un moment. Ce qui change vraiment pour ceux qui construisent sur ces API, c'est la clause retrait post-déploiement : ton modèle en prod peut être coupé du jour au lendemain par des régulateurs, donc le multi-fournisseur passe d'option à urgence.