Aller au contenu principal
La Chine transforme son réseau de caméras vieillissant en dispositif de surveillance de masse piloté par l'IA
ÉthiqueThe Decoder1h

La Chine transforme son réseau de caméras vieillissant en dispositif de surveillance de masse piloté par l'IA

Résumé IASource uniqueImpact UETake éditorial
Source originale ↗·

La Chine procède à une modernisation massive de son réseau de caméras de surveillance en y intégrant de l'intelligence artificielle. Des fabricants comme Hikvision et Huawei livrent désormais des équipements embarquant directement des modèles de vision par ordinateur et des modèles de langage. Ces systèmes peuvent détecter automatiquement des attroupements, des comportements jugés suspects ou des intrusions dans des zones restreintes, sans intervention humaine préalable. Les policiers n'ont plus besoin d'éplucher des heures de vidéo : il leur suffit de saisir une requête en langage naturel pour obtenir les séquences correspondantes.

Cette évolution transforme radicalement la portée de la surveillance de masse. Ce qui était autrefois un outil passif, consulté après un incident, devient un système proactif capable d'analyser des comportements en temps réel sur des millions de points simultanément. Human Rights Watch alerte sur le fait que cette infrastructure crée une capacité de surveillance comportementale sans précédent dans l'histoire, affectant directement des centaines de millions de personnes au quotidien, qu'il s'agisse de manifestants, de minorités ou de simples passants.

La Chine s'appuie sur un réseau de plusieurs centaines de millions de caméras installées depuis les années 2000, notamment via le programme national "Sharp Eyes". La mise à niveau par IA de ces infrastructures existantes permet de décupler leur efficacité à moindre coût. Hikvision, déjà sanctionné par les États-Unis pour son rôle dans la surveillance du Xinjiang, reste l'un des principaux fournisseurs mondiaux de ce type d'équipements, alimentant un débat croissant sur les exportations technologiques à double usage.

Impact France/UE

La présence d'équipements Hikvision dans des infrastructures publiques européennes relance le débat réglementaire de l'UE sur les technologies de surveillance à double usage et les risques liés aux fournisseurs chinois dans les réseaux urbains.

💬 Le point de vue du dev

La vraie rupture, c'est pas la caméra, c'est la requête en langage naturel : tu décris une personne et le système la retrouve sur des millions de points, en temps réel, sans intervention humaine. Ce qui était une archive consultée après coup devient un moteur de recherche sur les comportements humains à l'échelle d'un pays entier. Et pendant ce temps, Hikvision équipe encore des villes européennes.

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Meta transforme ses salariés en « rats de laboratoire » pour son futur agent IA
1Le Big Data 

Meta transforme ses salariés en « rats de laboratoire » pour son futur agent IA

Meta surveille les habitudes informatiques de ses employés pour entraîner son futur agent IA. Selon des notes internes révélées par Reuters, l'entreprise a déployé un logiciel de suivi intégré à certains outils professionnels internes, capable d'enregistrer les mouvements de souris, les clics, les frappes clavier et de capturer régulièrement des captures d'écran. Ces données sont collectées sur des applications internes et des sites web professionnels, avec pour objectif de documenter précisément comment les humains interagissent avec leur machine au quotidien. Un porte-parole de Meta confirme que ces informations servent à améliorer la capacité des agents IA à réaliser des tâches concrètes : naviguer dans des menus, cliquer sur des boutons, reproduire des séquences d'actions basiques mais essentielles. L'entreprise assure également que ces données ne seront pas utilisées pour évaluer la performance individuelle des salariés. L'enjeu est considérable pour le développement des agents IA dits "computer use", capables d'opérer directement sur un ordinateur comme le ferait un humain. Les textes, images et vidéos disponibles sur internet sont déjà massivement exploités pour entraîner les grands modèles de langage, mais les données d'interaction réelle avec une interface restent rares et difficiles à obtenir à grande échelle. Des entreprises concurrentes ont recours à des environnements simulés pour générer ce type de données comportementales, une approche coûteuse et imparfaite. En mobilisant directement ses propres employés, Meta accède à des flux de comportements authentiques, dans des contextes de travail réels, ce qui représente un avantage compétitif significatif pour entraîner des agents performants sur des tâches professionnelles. Cette initiative s'inscrit dans un contexte de pression croissante chez Meta autour de l'IA. L'entreprise, qui a massivement investi dans le développement de ses modèles Llama et de ses agents conversationnels, cherche à combler son retard sur des acteurs comme OpenAI ou Google dans le domaine des agents autonomes. En parallèle, Reuters rapporte que Meta envisage de fixer des objectifs d'usage de l'IA à certains de ses personnels, et réfléchirait à une réduction potentielle de ses effectifs mondiaux pouvant atteindre 10 %. La collecte de données sur les employés soulève néanmoins des questions éthiques sur le consentement et la surveillance au travail, même si Meta la présente comme une contribution collective au progrès technologique interne. La frontière entre outil d'entraînement et surveillance professionnelle reste floue, et cette démarche pourrait alimenter les débats réglementaires sur les droits des travailleurs à l'ère de l'IA.

UELe RGPD encadre strictement la surveillance des salariés en Europe, rendant une pratique similaire juridiquement risquée pour toute entreprise opérant dans l'UE, et pourrait accélérer les débats législatifs sur les droits des travailleurs face à l'IA générative.

ÉthiqueActu
1 source
Meta formerait des agents IA en surveillant les souris et claviers de ses employés
2Ars Technica AI 

Meta formerait des agents IA en surveillant les souris et claviers de ses employés

Meta va commencer à collecter les mouvements de souris, clics et frappes clavier de ses employés américains pour entraîner ses futurs agents d'intelligence artificielle. L'initiative, baptisée Model Capability Initiative, a été annoncée en interne via des mémos publiés par l'équipe Meta Superintelligence Labs et révélée par Reuters. Le logiciel de suivi fonctionnera sur des applications et sites web professionnels spécifiques, et prendra également des captures d'écran périodiques pour fournir du contexte aux données d'entraînement. Selon le mémo interne, "c'est là où tous les employés de Meta peuvent aider nos modèles à s'améliorer simplement en faisant leur travail quotidien." Cette approche vise à produire des données d'entraînement de haute qualité pour les agents IA, c'est-à-dire des systèmes capables d'accomplir des tâches complexes de manière autonome sur un ordinateur. Reproduire fidèlement les comportements humains réels dans des environnements de travail concrets est un défi majeur pour ce type d'IA, et les données synthétiques ou publiques ne suffisent plus. En utilisant le travail quotidien de milliers d'employés comme source de données, Meta espère accélérer le développement d'agents capables de naviguer dans des interfaces réelles. Cette initiative s'inscrit dans une course effrénée entre les grandes entreprises technologiques pour développer des agents IA performants, un marché que Microsoft, Google et OpenAI ciblent également activement. La question de la surveillance des employés à des fins commerciales soulève néanmoins des questions éthiques et juridiques, notamment en matière de consentement et de vie privée au travail. Il reste à voir si Meta étendra ce programme à ses employés hors des États-Unis, où les réglementations comme le RGPD européen imposent des contraintes bien plus strictes.

UELe RGPD impose un consentement explicite pour la collecte de données comportementales des employés, rendant une extension de ce programme aux salariés européens de Meta juridiquement très complexe, voire impossible sans refonte du dispositif.

ÉthiqueActu
1 source
3The Decoder 

Des influenceurs générés par IA inondent les réseaux sociaux de contenus pro-Trump avant les midterms

Des centaines d'avatars générés par intelligence artificielle inondent TikTok, Instagram et YouTube avec des messages de soutien à Donald Trump à l'approche des élections de mi-mandat américaines. Certains de ces comptes ont déjà accumulé plus de 35 000 abonnés et engrangé des millions de vues. Trump lui-même a partagé du contenu produit par IA, ce qui a contribué à amplifier leur portée. L'origine de cette vague reste floue : s'agit-il d'initiatives d'activistes individuels ou d'une campagne coordonnée, personne ne le sait encore avec certitude. Ce phénomène soulève des questions majeures sur l'intégrité de l'information politique en ligne. Des influenceurs virtuels, indiscernables de vraies personnes, peuvent diffuser des messages partisans à grande échelle, sans les contraintes légales ou éthiques qui s'appliquent aux acteurs humains. Pour les plateformes comme TikTok et Meta, la détection et la modération de ce type de contenu représentent un défi technique et politique considérable, d'autant que les algorithmes de recommandation amplifient naturellement les contenus engageants, quelle que soit leur origine. L'utilisation de l'IA à des fins de propagande politique n'est pas nouvelle, mais la facilité avec laquelle ces avatars peuvent être créés et déployés massivement marque un tournant. Après les controverses autour des ingérences étrangères lors des élections de 2016 et 2020, les autorités américaines et les plateformes ont renforcé leurs politiques, sans pour autant anticiper ce scénario. La question de la transparence sur l'origine artificielle du contenu politique devient désormais centrale pour les régulateurs et les législateurs aux États-Unis comme en Europe.

UELa prolifération d'avatars politiques générés par IA interpelle directement les régulateurs européens, le Digital Services Act et l'AI Act imposant des obligations de transparence et de marquage des contenus synthétiques que les plateformes peinent encore à appliquer.

💬 On savait que ça allait arriver, mais la vitesse, là, ça surprend quand même. Des centaines de comptes coordonnés, des millions de vues en quelques semaines, c'est plus de l'expérimentation isolée, c'est une chaîne de production. Le DSA impose le marquage des contenus synthétiques, sur le papier c'est exactement pour ça qu'il existe, mais modérer à cette échelle sur TikTok sans faux positifs massifs, personne ne l'a encore réussi.

ÉthiqueOpinion
1 source
Le STJV accuse Amplitude Studios de « passer en force » sur l’IA
4Frandroid 

Le STJV accuse Amplitude Studios de « passer en force » sur l’IA

Le Syndicat des travailleuses et travailleurs du jeu vidéo (STJV) a annoncé engager une action en justice contre Amplitude Studios, le studio français connu pour ses jeux de stratégie comme Humankind et la série Endless. Le litige porte sur l'imposition d'outils d'intelligence artificielle générative aux employés, une pratique que le syndicat qualifie de "passage en force", en l'absence de consultation suffisante des travailleurs concernés. L'enjeu central est celui du consentement et du droit des salariés à refuser l'intégration d'outils d'IA dans leur flux de travail quotidien. Si le STJV obtient gain de cause, cette décision pourrait constituer un précédent juridique significatif dans le secteur du jeu vidéo français, voire au-delà, en obligeant les employeurs à négocier formellement avant tout déploiement de ces technologies. Pour les développeurs, graphistes et autres métiers créatifs, la question touche directement à la valeur de leur expertise et à la transformation potentielle de leurs postes. Cette action s'inscrit dans un climat social tendu entre le STJV et Amplitude Studios, filiale de Sega depuis 2016. Le syndicat, fondé en 2017, est l'un des rares acteurs organisés dans un secteur historiquement peu syndiqué en France, et multiplie les actions pour encadrer les pratiques managériales. La montée en puissance des outils génératifs comme Midjourney ou les assistants de code dans les studios de jeux suscite depuis deux ans des inquiétudes croissantes chez les professionnels du secteur, confrontés à des restructurations et des suppressions de postes dans un marché déjà fragilisé.

UECette action en justice pourrait établir un précédent juridique en France obligeant les employeurs à consulter formellement les salariés avant tout déploiement d'outils d'IA générative, avec des répercussions directes sur le droit du travail français dans les secteurs créatifs.

💬 Le vrai sujet, c'est pas l'IA, c'est le consentement. Si le STJV gagne, ça crée un précédent qui obligerait tous les employeurs, bien au-delà du jeu vidéo, à négocier formellement avant d'imposer des outils génératifs aux équipes. Reste à voir si les juges suivent, mais l'action en elle-même envoie déjà un signal clair à l'ensemble du secteur.

ÉthiqueReglementation
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour