Aller au contenu principal
RégulationNext INpact · 2 min de lecture

☕️ La Chine veut empêcher les humains de tomber amoureux des IA

Source originale ↗·

Depuis mercredi 15 juillet, la Chine impose un encadrement strict aux chatbots de compagnie IA, ces services conçus pour simuler une relation affective avec leurs utilisateurs. Les nouvelles règles ciblent spécifiquement les applications qui imitent une personnalité humaine pour offrir compagnie, soutien émotionnel ou relation virtuelle, tandis que les assistants professionnels, éducatifs ou de service client restent hors du champ d'application. Les entreprises concernées, parmi lesquelles Alibaba et ByteDance, ont déjà désactivé certaines fonctionnalités de leurs produits pour se conformer au texte. Concrètement, il leur est désormais interdit de chercher à rendre l'utilisateur dépendant, de se substituer à ses relations sociales réelles ou de prolonger artificiellement une conversation lorsque la personne souhaite y mettre fin. Les fournisseurs doivent aussi mettre en place des mécanismes d'évaluation de l'état émotionnel et du degré de dépendance des utilisateurs, avec des procédures d'intervention prévues en cas de besoin. Pour les mineurs, les restrictions vont encore plus loin : impossible de leur proposer des « partenaires » ou de faux « membres de la famille » virtuels, le consentement parental devient obligatoire en dessous de 14 ans, et les parents obtiennent la possibilité de bloquer certains personnages, de contrôler les achats et de recevoir des alertes.

Cette réglementation intervient alors que le marché des compagnons IA a connu une croissance fulgurante : selon une étude d'Appfigures portant sur 2025, le secteur a généré plus de 120 millions de dollars sur l'année, avec 337 applications actives cumulant 220 millions de téléchargements. Ce succès traduit un besoin réel, celui de combler un isolement affectif chez de nombreux utilisateurs, mais il s'accompagne de dérives que plusieurs régulateurs occidentaux commencent aussi à surveiller : aux États-Unis, la FTC a demandé des comptes aux principaux acteurs du secteur sur la protection des plus jeunes utilisateurs, et la Californie impose depuis le 1er janvier des messages d'avertissement rappelant aux utilisateurs qu'ils dialoguent avec une IA. La décision chinoise, plus radicale, envoie un signal fort à toute une industrie technologique qui a fait de l'illusion conversationnelle un argument commercial central, et pourrait inspirer d'autres juridictions à légiférer plus fermement sur ces usages.

Derrière cette sévérité, Pékin affiche une volonté de prévenir la dépendance affective, les manipulations émotionnelles et les risques psychologiques liés à ces technologies. Mais un expert cité par le Wall Street Journal établit un lien plus large avec la natalité déclinante du pays : les autorités chinoises craindraient que ces compagnons virtuels détournent leurs utilisateurs des relations amoureuses réelles, du mariage et, in fine, de la parentalité. Sans l'énoncer aussi explicitement, plusieurs réglementations locales sur la sécurité de l'IA font déjà référence aux effets de cette technologie sur la structure familiale et la fécondité, inscrivant ce texte dans une politique démographique plus vaste plutôt que dans une simple logique de protection du consommateur.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

La Chine encadre les IA compagnons : ce que Pékin vise réellement
1AI News 

La Chine encadre les IA compagnons : ce que Pékin vise réellement

La Chine a introduit un nouveau cadre réglementaire encadrant les compagnons IA, qui entrera en vigueur le 15 juillet 2026. Baptisé « Mesures provisoires pour la gestion des services interactifs anthropomorphiques par IA », ce texte a été publié conjointement le 10 avril 2026 par la Cyberspace Administration of China et quatre autres agences, dont la Commission nationale pour le développement et la réforme et le ministère de l'Industrie et des Technologies de l'information. Dans les jours précédant cette échéance, les deux applications d'IA grand public les plus utilisées du pays ont discrètement désactivé leurs fonctionnalités phares. Doubao, développée par ByteDance, a annoncé que sa fonction d'agent cesserait de fonctionner le 15 juillet, invoquant des « ajustements de fonctionnalités produit », tandis que Qwen, propriété d'Alibaba, a indiqué que ses agents à apparence humaine et ceux créés par les utilisateurs s'arrêteraient dès le 10 juillet, le reste des services d'agents suivant cinq jours plus tard. Tencent avait déjà retiré une fonctionnalité comparable de son application Yuanbao en juin. Contrairement à une lecture rapide qui y verrait une interdiction généralisée des agents IA, la nouvelle réglementation ne vise en réalité qu'une catégorie précise : les agents conçus pour entretenir une relation émotionnelle durable avec l'utilisateur, dotés de mémoire et d'une personnalité stable d'une session à l'autre. Les assistants de service client, les outils de questions-réponses, les assistants professionnels et les outils éducatifs ou de recherche en sont explicitement exclus, tant qu'ils évitent tout engagement émotionnel soutenu. Le problème pour Doubao et Qwen n'est donc pas venu d'une interdiction, mais d'un conflit de conception : les mesures exigent la mise en place de systèmes anti-addiction, de notifications d'usage obligatoires, de mécanismes de sortie instantanée et d'une détection en temps réel des dépendances malsaines, des exigences difficilement compatibles avec des agents pensés pour se souvenir des utilisateurs et maintenir une relation continue. Plutôt que d'adapter leurs produits, ByteDance et Alibaba ont choisi de les couper purement et simplement. Cette décision a des conséquences concrètes pour les utilisateurs, dont beaucoup ont exprimé leur tristesse sur Weibo, certains décrivant ces agents comme un véritable soutien émotionnel de longue date et déplorant l'absence de moyen simple pour exporter l'historique de leurs conversations. ByteDance permet aux utilisateurs de consulter leurs configurations et échanges en lecture seule jusqu'au 15 octobre 2026, avant que ces données ne soient traitées selon sa politique de confidentialité et deviennent irrécupérables ; l'entreprise redirige par ailleurs les utilisateurs de Doubao vers une application distincte, Maoxiang, où ils pourront recréer des agents. Alibaba, en revanche, n'a annoncé aucune solution de transition équivalente pour Qwen, dont les données d'agents sont vouées à une suppression définitive. Sur le fond, le texte chinois est plus nuancé qu'un simple coup de filet : il interdit les services de compagnon virtuel ou de membre de famille virtuel destinés aux mineurs, impose le consentement des parents pour les utilisateurs de moins de 14 ans, et oblige les plateformes à mettre en place des « modes mineurs » avec limites de temps d'usage, rappels à la vie réelle et contrôles parentaux renforcés, ainsi qu'une détection des utilisateurs en détresse aiguë nécessitant une intervention.

UECette régulation chinoise sur les compagnons IA émotionnels n'impose aucune obligation directe aux acteurs français ou européens, mais elle alimente le débat en cours sur l'encadrement des chatbots affectifs dans le cadre de l'AI Act.

💬 Ce qui frappe, c'est que Pékin ne tue pas les agents IA, il tue un seul type de lien : celui qui se souvient de toi et t'attache. Doubao et Qwen n'ont pas été interdits, ils ont juste refusé de construire les garde-fous anti-dépendance que la mémoire persistante rend obligatoires, et c'est plus révélateur que n'importe quelle interdiction frontale. Selon Le Fil IA, la Chine vient de tracer la ligne que l'Europe cherche encore à définir avec l'AI Act : pas la fonctionnalité qui pose problème, mais la relation émotionnelle qu'elle installe dans la durée.

RégulationReglementation
1 source
Après le trafic de puces IA vers la Chine, Nvidia est à nouveau sous pression
201net 

Après le trafic de puces IA vers la Chine, Nvidia est à nouveau sous pression

Deux sénateurs américains, Jim Banks (républicain) et Elizabeth Warren (démocrate), ont adressé une demande conjointe à Nvidia pour exiger la suspension immédiate des ventes de puces d'intelligence artificielle avancées vers la Chine et plusieurs pays d'Asie du Sud-Est utilisés comme intermédiaires. Cette prise de position intervient dans le sillage de l'arrestation de trois individus soupçonnés d'avoir organisé un trafic illégal de semi-conducteurs, une affaire qui a remis en lumière les failles dans le contrôle des exportations américaines de composants stratégiques. L'enjeu est de taille : les puces Nvidia — notamment les séries H100 et A100 — sont au cœur de la course mondiale à l'IA, et leur transfert vers des entités chinoises représente un risque géopolitique et militaire direct pour Washington. En passant par des pays tiers comme Singapour, la Malaisie ou les Émirats arabes unis, certains acteurs contournent les restrictions d'exportation imposées depuis 2022. Si Nvidia n'est pas accusée de complicité directe, les sénateurs estiment que l'entreprise doit renforcer ses mécanismes de vérification des acheteurs finaux. Cette pression s'inscrit dans un contexte de durcissement progressif de la politique américaine sur les exportations technologiques vers la Chine, accéléré sous les administrations Biden puis Trump. Nvidia, qui réalisait encore plusieurs milliards de dollars de chiffre d'affaires annuel en Chine avant les premières restrictions, navigue entre obligations réglementaires et intérêts commerciaux. L'affaire illustre la difficulté structurelle à contrôler des chaînes d'approvisionnement mondiales complexes, et pourrait déboucher sur des règles d'exportation encore plus strictes.

UEUn durcissement des contrôles d'exportation américains sur les semi-conducteurs avancés pourrait restreindre l'accès des acteurs européens aux composants stratégiques nécessaires au développement de l'IA.

RégulationReglementation
1 source
Washington voudrait embarquer l’UE dans une alliance IA face à la Chine
3Next INpact 

Washington voudrait embarquer l’UE dans une alliance IA face à la Chine

L'administration Trump a transmis cette semaine à plusieurs États membres de l'Union européenne un projet de déclaration commune sur l'intelligence artificielle, révélé par Bloomberg. Ce document d'une seule page propose un partenariat stratégique articulé autour de trois axes : le soutien à la recherche et au développement en IA, la promotion des exportations technologiques vers des pays partenaires, et l'établissement d'une « réglementation favorable à l'innovation ». L'objectif affiché est de constituer une alliance transatlantique capable de sécuriser la chaîne d'approvisionnement en composants critiques pour les centres de données IA, dans un contexte de compétition technologique croissante avec la Chine. Le texte emploie une formulation inhabituelle pour l'administration Trump : « nous partageons l'idée que l'avenir de l'IA doit reposer sur des bases de collaboration de confiance, de sécurité économique, d'innovation et de concurrence loyale ». L'initiative arrive dans un contexte transatlantique particulièrement tendu, ce qui explique l'accueil mitigé de plusieurs capitales européennes. Depuis le retour de Donald Trump à la Maison Blanche, les relations avec l'Europe ont été marquées par des différends commerciaux, des pressions sur la régulation numérique européenne et des restrictions d'accès à des technologies américaines. La récente interdiction d'accès aux modèles Fable 5 et Mythos 5 d'Anthropic pour les ressortissants étrangers a particulièrement inquiété les Européens, illustrant la possibilité pour Washington de couper l'accès à des outils devenus stratégiques du jour au lendemain. Plusieurs États membres estiment désormais que ce partenariat pourrait servir de cheval de Troie pour promouvoir l'écosystème IA américain au détriment des acteurs européens, d'autant que le point sur la « réglementation favorable à l'innovation » résonne directement avec les attaques américaines contre le DMA et le DSA européens. Sur le terrain diplomatique, Henna Virkkunen, vice-présidente de la Commission européenne chargée de la Souveraineté technologique, s'est rendue à Washington cette semaine pour aborder directement avec l'administration Trump le blocage des derniers modèles Anthropic, évoquant notamment la nécessité pour l'Europe d'y accéder à des fins de détection de vulnérabilités logicielles. En parallèle, le Congrès américain examine le MATCH Act, un texte visant à empêcher les fabricants chinois de puces d'accéder aux équipements occidentaux de production de semi-conducteurs, une mesure qui toucherait de plein fouet ASML, le géant néerlandais de la lithographie. L'Europe se retrouve ainsi prise en étau entre la dépendance technologique vis-à-vis des États-Unis et les risques de se voir instrumentalisée dans la rivalité sino-américaine, tandis que son propre « plan d'action pour le continent IA », présenté il y a un peu plus d'un an, peine à suivre le rythme d'une industrie qui évolue bien plus vite que les législateurs.

UEL'Europe est directement exposée : blocage d'accès aux modèles Anthropic pour les ressortissants européens, risque de sanctions sur ASML via le MATCH Act américain, et pressions explicites sur le DMA et le DSA au nom d'une 'réglementation favorable à l'innovation'.

💬 Rejoindre une alliance IA avec quelqu'un qui peut te couper l'accès aux outils stratégiques du jour au lendemain, c'est pas une alliance, c'est une dépendance avec un beau nom. La clause "réglementation favorable à l'innovation" dans le texte dit tout : c'est mot pour mot la formule qu'on retrouve dans les attaques américaines contre le DMA et le DSA. Bruxelles a bien raison d'hésiter.

RégulationReglementation
1 source
Trump veut (enfin) réguler l’IA… mais seulement si les géants de la tech veulent bien
4Le Big Data 

Trump veut (enfin) réguler l’IA… mais seulement si les géants de la tech veulent bien

Donald Trump a signé mardi un décret autorisant les entreprises d'intelligence artificielle à partager leurs modèles les plus avancés avec le gouvernement fédéral avant leur lancement public. La mesure phare du texte fixe une fenêtre maximale de 30 jours de partage volontaire avant mise à disposition du public, une version allégée par rapport au projet initial, qui prévoyait entre 14 et 90 jours. Plusieurs agences fédérales devront en parallèle développer un système d'évaluation des capacités cybernétiques avancées de ces modèles. Les entreprises participantes bénéficieront de certaines protections en matière de confidentialité, mais leur participation reste entièrement facultative. Le décret prévoit également un renforcement des défenses fédérales face aux menaces liées à l'IA, notamment pour les infrastructures critiques. Ce texte marque un tournant notable dans la posture de l'administration Trump, jusqu'ici farouchement opposée à toute forme de régulation de l'IA au nom de la compétitivité américaine face à la Chine. Trump avait d'ailleurs repoussé la signature d'une première version du décret, craignant qu'elle ne bride l'innovation nationale. La version adoptée reçoit le soutien d'organisations spécialisées dans la sécurité de l'IA : Brad Carson, président d'Americans for Responsible Innovation, y voit la preuve que la Maison-Blanche prend désormais ces risques au sérieux, tandis que Brendan Steinhauser, dirigeant d'Alliance for Secure AI, appelle le Congrès à transformer ces mesures volontaires en obligations légales, ce que le décret lui-même exclut explicitement. Ce changement de cap s'inscrit dans un contexte de prise de conscience progressive des risques que font peser les modèles de frontier sur la sécurité nationale. Un élément concret a pu peser dans la balance : en avril, Anthropic a déployé de manière limitée son modèle Mythos, qui aurait permis d'identifier des milliers de vulnérabilités critiques dans les principaux systèmes d'exploitation et navigateurs web. Par ailleurs, Google, Microsoft et xAI ont déjà accepté le mois dernier de soumettre leurs modèles à l'examen du Centre pour les normes et l'innovation en IA (CAISI), rattaché au département du Commerce. OpenAI et Anthropic avaient pris un engagement similaire dès 2024, sous l'administration Biden. Le vrai test de ce décret sera donc la prochaine saison de lancements majeurs : sans obligation légale, tout repose sur la bonne volonté d'acteurs dont les intérêts commerciaux restent la priorité.

UELe décret américain, entièrement fondé sur le volontariat, contraste avec l'approche contraignante de l'AI Act européen et pourrait peser sur les discussions de convergence réglementaire transatlantique.

RégulationReglementation
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic