Amnesty appelle à interdire les IA génératives entraînées sur du pillage de données

Meta surveille désormais l'activité informatique de ses employés pour entraîner ses agents IA

Meta installe en ce moment un outil de surveillance sur les ordinateurs de ses employés basés aux États-Unis, selon une information révélée par Reuters. L'outil, baptisé Model Capability Initiative (MCI), tourne en arrière-plan dans les applications et sites web liés au travail et enregistre les mouvements de souris, les clics, les frappes au clavier ainsi que des captures d'écran ponctuelles. L'objectif affiché par l'entreprise est d'utiliser ces données comportementales pour entraîner ses modèles d'intelligence artificielle à interagir avec les ordinateurs de la même façon que le font les humains au quotidien. Meta précise que les données collectées ne seront pas utilisées à des fins d'évaluation des performances des salariés. Cette initiative s'inscrit dans la course aux agents IA capables d'automatiser des tâches informatiques complexes, remplir des formulaires, naviguer dans des interfaces, exécuter des workflows bureautiques. En capturant directement les gestes réels de travailleurs qualifiés, Meta cherche à constituer un jeu de données d'entraînement à haute valeur, bien plus représentatif que des données synthétiques. Pour les employés concernés, cela soulève des questions concrètes sur la frontière entre contribution au produit et surveillance au travail. La démarche rappelle celle d'autres géants tech qui collectent des données humaines pour affiner leurs systèmes d'automatisation, comme Google ou Microsoft avec leurs outils Copilot. Meta, qui développe activement ses propres agents IA sous l'impulsion de Mark Zuckerberg, considère visiblement ses équipes internes comme un terrain d'entraînement privilégié. Le fait que le programme soit pour l'instant limité aux États-Unis suggère des contraintes légales en Europe, où le RGPD encadre strictement ce type de collecte en milieu professionnel.

Booster les sondages avec l’IA générative, une (fausse) bonne idée ?

En 2024, l'Ifop a publié un sondage sur l'intention de vote des enseignants aux élections européennes en s'associant avec la start-up française Fairgen, spécialisée dans la donnée synthétique. Le sondage affichait un échantillon de 8 000 personnes et 580 enseignants de collège et lycée, mais en réalité, seuls 116 enseignants avaient été interrogés. Les 464 réponses restantes avaient été générées artificiellement via la technologie "DataBoostAI" de Fairgen, décrite comme une IA générative permettant "la mise en relation holistique des données recueillies" pour produire des "échantillons synthétiques". L'information figurait dans la notice méthodologique, mais l'Ifop n'avait pas jugé utile de mentionner explicitement l'usage de l'IA générative dans ses avertissements habituels. Interrogé par Next, l'Ifop n'a pas répondu. Fairgen se présente toujours comme "pionniers de la donnée synthétique" et revendique un partenariat avec l'Ifop "depuis 2023". L'enjeu est considérable pour l'industrie du sondage : si l'IA générative permettait de multiplier virtuellement les réponses à partir d'un petit échantillon réel, les coûts d'enquête s'effondreraient et les délais de production aussi. Les instituts pourraient théoriquement sonder des sous-populations très ciblées, les enseignants, les artisans, les jeunes ruraux, sans avoir à recruter des centaines de profils rares et coûteux. Mais les statisticiens Arthur Charpentier et Guillaume Chauvet pointent le risque fondamental : les données synthétiques reproduisent les biais et corrélations du jeu d'entraînement. Interroger 116 personnes puis en "générer" 464 autres ne produit pas de nouveaux faits, cela amplifie les patterns existants, avec une illusion de précision statistique. La transparence vis-à-vis du public et des régulateurs reste aussi entière : comment évaluer la fiabilité d'un sondage électoral si les réponses ont été en partie fabriquées ? La question va bien au-delà de l'Ifop. Tous les grands instituts lorgent sur ces techniques, mais peu ont franchi le pas publiquement. Chez Ipsos/BVA, le directeur d'études Mathieu Gallard assure que les sondages d'opinion politique et électorale n'utilisent pas encore ces méthodes, tout en reconnaissant que des tests sont en cours, notamment sur des applications marketing ou dans d'autres pays. L'élection présidentielle française de 2027 pourrait devenir un terrain d'expérimentation grandeur nature pour ces technologies, dans un contexte où la défiance envers les sondages est déjà élevée. Si la tentation économique est réelle, le risque de voir des résultats électoraux influencés par des données partiellement synthétiques, sans que le grand public en soit clairement informé, pose une question de fond sur la légitimité démocratique de ces outils.

💬 116 personnes interrogées, 464 inventées, et l'Ifop appelle ça un sondage de 8 000 individus. Le problème, c'est pas l'IA en soi, c'est qu'on habille une économie de moyens avec un vernis de précision statistique. Avec 2027 en ligne de mire, si les instituts s'y mettent sans règles claires, on va avoir des intentions de vote basées sur des patterns amplifiés, pas sur ce que les gens pensent vraiment.

La confidentialité de l'IA d'Apple est maintenue même sur les serveurs de Google, affirme l'entreprise

Apple a confirmé à sa conférence mondiale des développeurs (WWDC) que "Siri AI", la refonte longtemps attendue de son assistant vocal, s'appuie sur les modèles de langage Gemini de Google et tourne sur du matériel Nvidia installé dans les centres de données de Google. Cette annonce, faite à Cupertino, marque un tournant significatif : pour la première fois, une partie substantielle du traitement IA d'Apple s'effectue sur une infrastructure qu'elle ne contrôle pas directement. Malgré ce changement d'architecture, Apple maintient les mêmes engagements de confidentialité qu'elle formulait quand ses modèles tournaient exclusivement sur ses propres appareils ou serveurs. Cette évolution soulève des questions concrètes pour des centaines de millions d'utilisateurs Apple. L'entreprise a construit pendant des années une réputation commerciale autour de la protection des données personnelles : chiffrement de bout en bout, traitement local sur l'appareil pour éviter que les données ne quittent l'iPhone ou le Mac, services cloud conçus pour que même les ingénieurs d'Apple ne puissent pas lire les contenus des utilisateurs. Si ces garanties restent valables lorsque le traitement migre vers l'infrastructure d'un concurrent direct comme Google, c'est toute la crédibilité de cet argumentaire marketing qui est en jeu. Le recours aux serveurs Google n'est pas une décision prise à la légère. Apple avait développé Private Cloud Compute, un système de cloud privé reposant sur ses propres serveurs, comme solution intermédiaire pour les requêtes dépassant les capacités locales des appareils. Mais les modèles de langage puissants capables de rivaliser avec ChatGPT ou Gemini nécessitent une puissance de calcul considérable, et construire des centres de données à la hauteur des ambitions de Siri AI aurait exigé des investissements massifs qu'Apple a préféré éviter. En externalisant vers Google, Apple gagne en capacité mais s'expose à un paradoxe structurel : vendre la confidentialité comme avantage différenciant, tout en confiant une partie du traitement à un acteur dont le modèle économique repose historiquement sur la valorisation des données.

L'article sur l'IA n'a pas besoin d'illustrations générées par l'IA

Le New Yorker a publié un portrait de Sam Altman, PDG d'OpenAI, illustré par une image générée avec l'intelligence artificielle, signée de l'artiste David Szauder. L'illustration montre Altman entouré de visages flottants aux expressions diverses, certains à peine reconnaissables. La mention "Generated using A.I." figure en bas de page, dans une transparence qui n'est pas passée inaperçue dans le milieu de l'illustration professionnelle. Ce choix éditorial relance le débat sur l'utilisation de l'IA générative dans les médias de prestige. Pour les illustrateurs et artistes, voir une publication aussi établie que le New Yorker recourir à l'IA pour illustrer un article sur... le PDG d'OpenAI lui-même, représente une forme d'ironie doublée d'une menace concrète. Cela normalise le recours à ces outils dans des contextes où des artistes humains auraient traditionnellement été commissionnés, pesant directement sur leurs revenus et leur visibilité. David Szauder n'est pas un novice en la matière : il travaille depuis plus d'une décennie avec des processus d'art génératif et de collage vidéo, antérieurs aux outils commerciaux d'IA. Son profil brouille donc la frontière entre artiste établi et simple utilisateur d'IA. Ce cas illustre une tension croissante dans les rédactions : comment encadrer l'usage de l'IA dans la création visuelle, à qui en attribuer la paternité, et quand ce choix est-il justifié face à l'alternative humaine disponible ?

💬 Illustrer un article sur Sam Altman avec de l'IA générative, c'est soit du second degré assumé, soit une erreur de jugement assez flagrante. Le vrai sujet, c'est que le New Yorker valide le geste, et quand une publication comme ça normalise le truc, les commandes perdues pour les illustrateurs ne sont plus une abstraction. Szauder a un vrai parcours d'artiste, d'accord, mais le signal envoyé, lui, est limpide.