Le projet Debian s’interroge sur son possible usage des LLM

Meta : les données du projet de surveillance des employés étaient accessibles en interne

Meta a suspendu son programme interne de surveillance des employés, baptisé Model Capability Initiative (MCI), après la découverte d'une faille de sécurité majeure. Lancé en avril 2026, cet outil enregistrait les mouvements de curseur, les clics, les frappes clavier et réalisait des captures d'écran périodiques sur les machines des salariés de l'entreprise. L'objectif affiché était de collecter des données comportementales pour entraîner les modèles d'intelligence artificielle de Meta, notamment pour améliorer les fonctionnalités d'agents IA. Le problème : les données ainsi récoltées se sont révélées accessibles à l'ensemble du personnel de l'entreprise. Business Insider a consulté des captures d'écran confirmant qu'il était possible d'accéder à des discussions privées, des données de performance et des transcriptions. Selon un avis de sécurité interne obtenu par Wired, les données de 45 000 tables Hive étaient exposées. Meta a classé l'incident au niveau 2 de son échelle de sévérité interne, dont le degré 0 représente la criticité maximale. L'exposition concerne des informations hautement sensibles. Des employés indiquent avoir eu accès depuis leur poste de travail à des données fiscales et médicales personnelles de leurs collègues, en violation directe des garanties formulées par l'entreprise lors du déploiement du programme. La réaction en interne a été vive : sur les canaux de messagerie interne, certains salariés ont exprimé leur colère ouvertement, l'un d'eux partageant un mème de la série The Office avec la pancarte « 0 jour depuis notre dernière bêtise ». Le CTO de Meta, Andrew Bosworth, a reconnu dans un message interne une mauvaise configuration des listes de contrôle d'accès (ACL) et annoncé une analyse complète des causes, incluant la traçabilité de chaque accès aux données compromises. Des employés réclament désormais qu'une réunion post-mortem soit organisée avec toutes les personnes concernées. Cette faille intervient dans un contexte déjà tendu autour du programme MCI. Dès son lancement, le projet avait suscité une fronde interne, contraignant Meta à introduire une fonctionnalité de pause de 30 minutes, insuffisante aux yeux de nombreux salariés qui réclamaient un bouton de désactivation complet. La suspension actuelle du programme, présentée comme temporaire le temps de l'enquête, ravive des questions plus larges sur les pratiques de collecte de données des grandes entreprises technologiques sur leurs propres employés au nom de l'entraînement de l'IA. Si Meta affirme ne pas avoir de preuve d'accès malveillant, l'incident illustre les risques concrets que font peser ces dispositifs massifs de collecte interne, et la difficulté à concilier ambitions en IA et respect élémentaire de la vie privée des travailleurs.

Meta revient (plus ou moins) sur son projet de surveillance de ses employés

Meta a partiellement reculé sur son projet de surveillance étendue de ses employés, après plusieurs semaines de résistance interne. Annoncé en avril, l'outil baptisé Model Capability Initiative (MCI) devait enregistrer en continu les mouvements de curseur, les clics, les frappes au clavier et des captures d'écran périodiques de tous les salariés de l'entreprise. L'objectif affiché : collecter des données réelles d'utilisation des ordinateurs pour entraîner les agents IA de Meta. Face à la fronde, la direction a fait circuler un nouveau mémo le 2 juin, signé par Stephane Kasriel, vice-président des Superintelligence Labs. Il annonce plusieurs ajustements : les employés pourront désormais mettre MCI en pause jusqu'à 30 minutes à la fois, voire demander une exemption complète du programme. Une optimisation technique réduit également la pression sur la batterie des ordinateurs portables, un grief concret soulevé par ceux qui travaillent depuis chez eux et constataient une hausse de leur consommation internet. Ce recul partiel illustre la tension croissante entre les ambitions d'IA des grandes entreprises technologiques et les droits de leurs propres salariés. La résistance a été organisée et coordonnée : début mai, des flyers circulaient dans les bureaux américains qualifiant Meta d'« Employee Data Extraction Factory ». Plus de 1 500 personnes ont signé une pétition adressée directement à Mark Zuckerberg. Au Royaume-Uni, un groupe de travailleurs s'est rapproché du syndicat United Tech and Allied Workers (UTAW). Le mouvement est d'autant plus significatif qu'il émerge dans un secteur historiquement peu syndiqué, et que Meta n'a pas supprimé MCI mais seulement aménagé ses modalités, les concessions restent donc limitées. La controverse s'inscrit dans un contexte social particulièrement tendu au sein de Meta. L'entreprise a licencié 1 500 personnes ces derniers mois, déplacé 7 000 autres, et annoncé une réduction prochaine de 10 % de ses effectifs restants. Déployer simultanément un outil de surveillance généralisée des postes de travail a été perçu en interne comme une provocation. Meta justifiait pourtant la démarche par une nécessité technique : construire des agents capables d'assister les utilisateurs sur leurs ordinateurs exige des exemples concrets de la façon dont les gens utilisent leurs machines au quotidien. L'argument n'a pas convaincu. Le mémo de Kasriel reconnaît implicitement l'échec de la communication initiale, tout en maintenant que les protections de la vie privée étaient suffisantes dès le lancement. L'avenir du programme reste incertain, notamment en Europe où le cadre juridique du RGPD pourrait poser des obstacles supplémentaires à ce type de collecte de données salariées.

💬 Enregistrer les clics et frappes au clavier de tes propres employés pour entraîner tes agents IA, c'est culotté. Bon, sur le papier l'argument technique tient (les agents doivent apprendre comment les humains utilisent leurs machines), mais le lancer en pleine vague de licenciements massifs, c'est un timing particulièrement raté. La "pause de 30 minutes", c'est de la gestion de crise minimale, pas une vraie concession.

Amnesty appelle à interdire les IA génératives entraînées sur du pillage de données

Amnesty International a publié un rapport détaillé sur les violations des droits humains causées par l'intelligence artificielle générative, appelant explicitement à interdire les modèles entraînés sur du scraping de données non consenti. L'organisation analyse l'ensemble de la chaîne de production de l'IA, des fabricants de puces GPU jusqu'aux contenus générés, en passant par la constitution des jeux de données. Elle cible directement les outils grand public les plus utilisés : ChatGPT, DALL-E, Gemini, Midjourney, LLaMA, Stable Diffusion et DeepSeek. Selon Amnesty, ces modèles ont été construits à partir de données collectées "sans la connaissance ni le consentement des personnes à l'origine des données", qu'il s'agisse d'utilisateurs de réseaux sociaux ou d'artistes. La conclusion est sans appel : le scraping massif et non consenti est "fondamentalement incompatible avec le droit international relatif aux droits humains", notamment le Pacte international relatif aux droits civils et politiques adopté par l'ONU en 1966. L'impact dépasse la seule question de la vie privée. Amnesty identifie des violations du droit à la non-discrimination, à la liberté d'expression et à la liberté de pensée. Le rapport pointe également les coûts environnementaux de l'IA générative, dont l'augmentation continue de la taille des modèles et des volumes de données nécessaires à leur entraînement affecte de manière disproportionnée les pays du Sud global. À cela s'ajoute une domination culturelle et linguistique anglophone structurelle, intégrée dès la phase de collecte des données. Pour l'ONG, derrière l'apparence de sophistication technologique se cache "une réalité faite de principes de conception qui bafouent les droits humains", comparables aux dérives des outils d'IA antérieurs à la générative. Ce rapport s'inscrit dans un mouvement plus large de contestation juridique et institutionnelle du modèle économique des grandes plateformes d'IA. En Europe, l'organisation noyb a déjà menacé Meta d'une class action pour l'entraînement de ses modèles sur des données d'utilisateurs européens, et plusieurs artistes ainsi que des éditeurs de presse ont engagé des procédures similaires aux États-Unis contre OpenAI et Google. Le règlement européen sur l'IA impose des obligations de transparence sur les données d'entraînement, mais les ONG estiment ces mesures insuffisantes. En demandant une interdiction pure et simple des systèmes bâtis sur du scraping non consenti, Amnesty franchit un cap rhétorique notable : il ne s'agit plus de réguler ces pratiques, mais de les proscrire au nom du droit international, ce qui pourrait alimenter de nouvelles stratégies judiciaires et législatives dans les mois à venir.

💬 La position d'Amnesty est radicale, et c'est exactement là son intérêt : plus de régulation molle, on interdit ce qui viole les droits humains, point. Interdire ChatGPT et Gemini du jour au lendemain c'est pas pour demain, mais ancrer ce débat dans le droit international plutôt que dans la soft law de l'AI Act, c'est un changement de registre qui peut nourrir des procédures vraiment musclées. Reste à voir si les juges suivront.

☕️ Le pape lance une commission sur l’intelligence artificielle

Le pape Léon XIV a annoncé dimanche 18 mai 2026 la création d'une commission vaticane dédiée à l'intelligence artificielle, chargée de coordonner la réponse de l'Église catholique au développement de ces technologies. Cette annonce intervient quelques jours avant la publication de la première encyclique du souverain pontife, prévue pour le 25 mai, dont le contenu reste confidentiel mais qui doit tracer les orientations morales de l'Église sur plusieurs sujets contemporains, dont l'IA. La commission a pour mandat explicite d'examiner la technologie, ses effets potentiels sur les êtres humains et l'humanité entière, ainsi que les préoccupations de l'Église concernant la dignité de chaque personne. Cette initiative traduit une volonté d'institutionnaliser la réflexion éthique catholique sur l'IA à un moment où la technologie s'impose dans tous les secteurs de la société. Pour des centaines de millions de fidèles catholiques dans le monde, cette commission pourrait constituer un cadre de référence moral face à des outils dont l'adoption est souvent plus rapide que la réflexion éthique. L'Église se positionne ainsi non pas comme un acteur technologique, mais comme une autorité morale capable d'interpeller gouvernements et entreprises sur les garde-fous nécessaires, notamment en matière de dignité humaine, de travail et d'usage responsable des données. Cette démarche s'inscrit dans un contexte plus large où les grands développeurs d'IA cherchent activement des repères éthiques auprès des traditions religieuses et philosophiques. Des entreprises comme Google, Microsoft ou des startups spécialisées ont multiplié les consultations avec des leaders religieux de toutes confessions. Le Vatican lui-même avait déjà pris position sur le sujet par le passé, Léon XIV ayant notamment demandé aux prêtres de ne pas utiliser l'IA pour rédiger leurs homélies. Avec cette commission permanente et l'encyclique à venir, l'Église catholique franchit un cap en dotant sa réflexion d'une structure institutionnelle durable, susceptible de peser dans les débats réglementaires internationaux.