Aller au contenu principal
Un traceur caché de Claude surprend les utilisateurs malgré la position anti-surveillance d'Anthropic
ÉthiqueArs Technica AI2h· 2 min de lecture

Un traceur caché de Claude surprend les utilisateurs malgré la position anti-surveillance d'Anthropic

Source originale ↗·

Anthropic a discrètement supprimé de Claude Code un traceur qui surveillait les utilisateurs chinois de l'outil, après qu'un développeur web connu sous le pseudonyme « Thereallo » a mis au jour ce dispositif la semaine dernière. En étudiant les questions de confidentialité liées à Claude Code, il a découvert que l'entreprise utilisait une technique de « stéganographie de prompt » pour dissimuler du code capable d'identifier les utilisateurs basés en Chine, en s'appuyant sur des marqueurs abrégés repérant leur fuseau horaire, l'usage d'un proxy et un possible lien avec des laboratoires d'IA chinois qu'Anthropic soupçonne de mener des attaques par distillation. Sur X, l'ingénieur d'Anthropic Thariq Shihipar a confirmé que ce code avait été ajouté à titre expérimental en mars, dans le but de prévenir les abus de comptes par des revendeurs non autorisés et de protéger les modèles contre le vol par distillation. Le Washington Post avait effectivement révélé que des revendeurs proposaient un accès à des modèles gratuits pour seulement 1 dollar par mois, et des abonnements payants normalement facturés jusqu'à 100 dollars pour à peine 12 dollars.

Cette affaire fragilise la crédibilité d'Anthropic, une entreprise qui s'est publiquement positionnée contre la surveillance intrusive et pour la protection de la vie privée des utilisateurs. Le chercheur ayant révélé le dispositif l'a qualifié de « violation grave de la confiance des utilisateurs », soulignant le décalage entre le discours de la société et cette pratique de traçage cachée, mise en œuvre sans notification claire des personnes concernées.

Cet épisode s'inscrit dans un contexte de tensions croissantes entre laboratoires d'IA occidentaux et chinois, sur fond d'accusations de distillation, une technique permettant d'entraîner des modèles moins coûteux en s'appuyant sur les sorties de modèles propriétaires plus puissants. Face à la revente frauduleuse d'accès à ses services et à la crainte de voir ses modèles copiés, Anthropic avait choisi une réponse technique discrète plutôt que transparente, un choix qui pourrait relancer le débat sur l'équilibre entre sécurité commerciale et respect des engagements affichés en matière de confidentialité.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Vous utilisez Claude ? Anthropic pourrait bientôt vous demander une preuve d’identité
1Le Big Data 

Vous utilisez Claude ? Anthropic pourrait bientôt vous demander une preuve d’identité

À partir du 8 juillet 2026, Anthropic modifiera sa politique de confidentialité pour introduire une nouvelle possibilité de vérification d'identité sur ses comptes individuels Claude Free, Pro et Max. Concrètement, l'entreprise se réserve le droit de demander à certains utilisateurs de confirmer leur âge ou leur identité dans des situations ciblées : comportement jugé suspect ou doute sur la majorité de la personne. La vérification ne sera pas systématique mais activée au cas par cas. Pour la mettre en œuvre, Anthropic s'appuie sur Persona, une société spécialisée dans ce domaine. Le processus peut requérir une pièce d'identité officielle, une photo ou une vidéo du visage, ainsi que des modèles de géométrie faciale pour confirmer l'identité. Les comptes Entreprise et Team ne sont pas concernés par ces nouvelles dispositions. Cette évolution marque une rupture symbolique dans la relation entre les outils d'IA grand public et leurs utilisateurs. Jusqu'ici, ouvrir un compte Claude relevait de la même simplicité qu'un service en ligne classique. Introduire la biométrie et les documents d'identité dans l'équation rapproche Claude des procédures KYC ("Know Your Customer") habituellement réservées aux banques ou aux plateformes de cryptomonnaies. Pour les utilisateurs concernés, le changement est concret : accéder à certaines fonctionnalités pourrait désormais nécessiter de soumettre des données parmi les plus sensibles qui soient. Sur les réseaux sociaux, plusieurs voix s'inquiètent d'une normalisation progressive des contrôles d'identité dans les interfaces d'IA, à mesure que ces outils gagnent en puissance et en profondeur d'usage. Cette décision s'inscrit dans un contexte plus large de montée en pression réglementaire et de responsabilisation des plateformes d'IA. Les modèles génératifs sont de plus en plus capables de produire des contenus sensibles ou d'accéder à des fonctionnalités avancées, ce qui incite les développeurs à mieux contrôler qui les utilise et dans quel cadre. Anthropic présente ces changements comme une formalisation de pratiques déjà existantes, et insiste sur le fait que les documents transmis restent stockés chez Persona et ne sont jamais utilisés pour entraîner ses modèles. Néanmoins, la question de la confiance reste entière : les outils d'IA centralisent déjà des volumes considérables de données personnelles, et l'ajout d'une couche biométrique alimente un débat qui dépasse largement Claude. D'autres acteurs du secteur pourraient rapidement suivre cette même direction si la pression légale ou les incidents de sécurité s'intensifient.

UELes données biométriques (géométrie faciale, photo d'identité) sont des données sensibles au sens du RGPD, ce qui contraint Anthropic à obtenir un consentement explicite et à satisfaire des obligations renforcées pour tout utilisateur français ou européen de Claude soumis à cette vérification.

💬 Le KYC arrive dans le chatbot, c'était prévisible. Ce qui me gêne, c'est pas la vérification d'âge (ça se défend quand l'outil devient aussi puissant), c'est la géométrie faciale que tu confies à Persona, une boîte dont tu n'as jamais entendu parler. Et si ça fait école, on aura normalisé la biométrie pour accéder à une IA sans vraiment avoir eu le choix.

ÉthiqueOpinion
1 source
La Chine transforme son réseau de caméras vieillissant en dispositif de surveillance de masse piloté par l'IA
2The Decoder 

La Chine transforme son réseau de caméras vieillissant en dispositif de surveillance de masse piloté par l'IA

La Chine procède à une modernisation massive de son réseau de caméras de surveillance en y intégrant de l'intelligence artificielle. Des fabricants comme Hikvision et Huawei livrent désormais des équipements embarquant directement des modèles de vision par ordinateur et des modèles de langage. Ces systèmes peuvent détecter automatiquement des attroupements, des comportements jugés suspects ou des intrusions dans des zones restreintes, sans intervention humaine préalable. Les policiers n'ont plus besoin d'éplucher des heures de vidéo : il leur suffit de saisir une requête en langage naturel pour obtenir les séquences correspondantes. Cette évolution transforme radicalement la portée de la surveillance de masse. Ce qui était autrefois un outil passif, consulté après un incident, devient un système proactif capable d'analyser des comportements en temps réel sur des millions de points simultanément. Human Rights Watch alerte sur le fait que cette infrastructure crée une capacité de surveillance comportementale sans précédent dans l'histoire, affectant directement des centaines de millions de personnes au quotidien, qu'il s'agisse de manifestants, de minorités ou de simples passants. La Chine s'appuie sur un réseau de plusieurs centaines de millions de caméras installées depuis les années 2000, notamment via le programme national "Sharp Eyes". La mise à niveau par IA de ces infrastructures existantes permet de décupler leur efficacité à moindre coût. Hikvision, déjà sanctionné par les États-Unis pour son rôle dans la surveillance du Xinjiang, reste l'un des principaux fournisseurs mondiaux de ce type d'équipements, alimentant un débat croissant sur les exportations technologiques à double usage.

UELa présence d'équipements Hikvision dans des infrastructures publiques européennes relance le débat réglementaire de l'UE sur les technologies de surveillance à double usage et les risques liés aux fournisseurs chinois dans les réseaux urbains.

💬 La vraie rupture, c'est pas la caméra, c'est la requête en langage naturel : tu décris une personne et le système la retrouve sur des millions de points, en temps réel, sans intervention humaine. Ce qui était une archive consultée après coup devient un moteur de recherche sur les comportements humains à l'échelle d'un pays entier. Et pendant ce temps, Hikvision équipe encore des villes européennes.

ÉthiqueOpinion
1 source
Anthropic joue encore sur les peurs de l’IA toute-puissante pour se mettre en valeur
3Next INpact 

Anthropic joue encore sur les peurs de l’IA toute-puissante pour se mettre en valeur

Alors qu'elle se prépare à entrer en bourse, Anthropic a publié sur son site web un texte alarmiste sur les risques de l'IA générative, signé notamment par Marina Favaro, responsable de son pôle R&D. Le document avance un chiffre frappant : en mai 2026, Claude serait l'auteur de plus de 80 % du code intégré dans la base de code d'Anthropic elle-même. Partant de ce constat, l'entreprise de Dario Amodei extrapole vers le scénario de l'« auto-amélioration récursive » : des systèmes d'IA capables de créer leurs propres successeurs sans intervention humaine. Pour conjurer ce péril, Anthropic propose un moratoire sur la R&D en IA générative et convoque la comparaison avec le traité sur les forces nucléaires à portée intermédiaire signé en 1987 par Ronald Reagan et Mikhaïl Gorbatchev, tout en avertissant que « nous n'avons pas autant de temps devant nous ». Le problème, pour ses critiques, est que ce discours catastrophiste arrive à un moment particulièrement opportun pour l'entreprise. En présentant l'IA comme une force potentiellement incontrôlable, Anthropic se positionne simultanément comme la firme la plus responsable du secteur, celle qui prend au sérieux les risques que ses concurrents minimisent. Cette posture de « safety company » n'est pas nouvelle, mais elle prend une dimension particulière à la veille d'une introduction en bourse qui s'annonce comme l'une des plus importantes de l'histoire de la tech. Le chercheur Irénée Régnauld résume le paradoxe en une formule : « Anthropic agite le drapeau des risques avec la Pause comme horizon moral juste avant la plus vaste IPO du monde », et s'interroge sur les militants de la sécurité de l'IA : « les Pausistes vont-ils se rendre compte qu'ils sont les dindons de la farce ? » Ce type de rhétorique ne surgit pas dans le vide. Dès 2024, les chercheuses Emile Torres et Timnit Gebru avaient documenté la manière dont les discours sur la sécurité de l'IA permettent aux grandes entreprises tech d'attirer des ressources et de détourner l'attention des critiques concrètes, réglementaires ou sociales. Anthropic s'inscrit dans une tradition plus large, héritée des courants TESCREAL (transhumanisme, long-termisme), qui tend à dramatiser des risques spéculatifs à long terme pour éclipser les nuisances actuelles et mesurables. Le texte lui-même contient une contradiction révélatrice : si Claude génère 80 % du code d'Anthropic, c'est bien l'équipe dirigeante qui choisit quelles fonctionnalités développer, pas le modèle. L'entreprise instrumentalise son propre succès commercial pour nourrir une peur qu'elle se propose ensuite, seule, de maîtriser.

ÉthiqueOpinion
1 source
Claude change les règles : Anthropic ouvre la porte aux données biométriques
4Le Big Data 

Claude change les règles : Anthropic ouvre la porte aux données biométriques

Anthropic a informé ses utilisateurs par e-mail d'une mise à jour de sa politique de confidentialité pour tous les comptes Claude, Free, Pro et Max, qui entrera en vigueur le 8 juillet 2026. Deux évolutions majeures sont au cœur de cette révision. D'abord, un cadrage plus précis des pratiques liées à l'IA agentique : Claude peut désormais enchaîner des actions autonomes, consulter des documents, utiliser des connecteurs tiers et communiquer avec des services externes. Lorsqu'un utilisateur relie Claude à une application tierce, l'assistant peut transmettre certaines informations à ce service pour exécuter la tâche demandée. Anthropic rappelle également un point souvent négligé : un connecteur activé reste accessible jusqu'à désactivation manuelle par l'utilisateur. Ensuite, la nouveauté la plus remarquée : la politique mentionne explicitement, pour la première fois, la collecte possible de données biométriques dans certaines procédures de vérification d'identité ou d'âge. Si un utilisateur engage volontairement ce processus, Anthropic peut demander une photo de pièce d'identité, un selfie ou une courte vidéo du visage, et créer dans certains cas un modèle de géométrie faciale. Ces changements ont une portée concrète pour les millions d'utilisateurs de Claude dans le monde. La clarification sur l'IA agentique est devenue nécessaire : à mesure que Claude gagne en autonomie, le périmètre des données échangées avec des services tiers s'élargit de facto. La précision sur les connecteurs actifs est particulièrement utile : beaucoup d'utilisateurs autorisent des intégrations puis les oublient, laissant des accès ouverts à leur insu. Concernant la biométrie, Anthropic insiste sur le consentement explicite, cette collecte n'est ni automatique ni systématique, mais la simple apparition du terme dans les conditions d'utilisation d'un assistant grand public marque un seuil symbolique important. Dans plusieurs juridictions, dont certains États américains et l'Union européenne, les données biométriques bénéficient d'un régime juridique particulièrement strict, ce qui contraint Anthropic à une transparence accrue. Cette mise à jour s'inscrit dans une tendance de fond : les grands modèles de langage ne sont plus de simples chatbots mais des agents capables d'agir dans des systèmes réels. OpenAI, Google et Meta ont fait face aux mêmes enjeux en déployant leurs propres fonctions agentiques, et toutes ces entreprises ont dû adapter leurs politiques de confidentialité en conséquence. Pour Anthropic, dont le positionnement repose sur la sécurité et la confiance, la transparence documentaire est un levier de différenciation autant qu'une obligation légale. La vérification biométrique, même optionnelle, ouvre par ailleurs la voie à de futurs usages nécessitant une authentification forte, accès à des services sensibles, signatures numériques, personnalisation avancée, et dessine les contours d'une prochaine étape dans l'évolution des assistants IA vers des identités numériques vérifiées.

UELes utilisateurs de Claude en France et dans l'UE sont directement concernés : la collecte de données biométriques est soumise au RGPD et à des règles strictement encadrées, ce qui impose à Anthropic une conformité renforcée et ouvre la voie à un possible examen par la CNIL.

💬 Biométrie dans les CGU d'un assistant IA grand public, c'est une première. La collecte reste optionnelle et Anthropic joue la transparence parce que c'est leur fond de commerce, pas par vertu, et ça rend la démarche plus solide que si c'était juste du marketing. Ce qui m'interpelle davantage, c'est le rappel sur les connecteurs actifs : combien d'intégrations tu as autorisées et complètement oubliées ?

ÉthiqueReglementation
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic