☕️ La Chine veut empêcher les humains de tomber amoureux des IA
Depuis mercredi 15 juillet, la Chine impose un encadrement strict aux chatbots de compagnie IA, ces services conçus pour simuler une relation affective avec leurs utilisateurs. Les nouvelles règles ciblent spécifiquement les applications qui imitent une personnalité humaine pour offrir compagnie, soutien émotionnel ou relation virtuelle, tandis que les assistants professionnels, éducatifs ou de service client restent hors du champ d'application. Les entreprises concernées, parmi lesquelles Alibaba et ByteDance, ont déjà désactivé certaines fonctionnalités de leurs produits pour se conformer au texte. Concrètement, il leur est désormais interdit de chercher à rendre l'utilisateur dépendant, de se substituer à ses relations sociales réelles ou de prolonger artificiellement une conversation lorsque la personne souhaite y mettre fin. Les fournisseurs doivent aussi mettre en place des mécanismes d'évaluation de l'état émotionnel et du degré de dépendance des utilisateurs, avec des procédures d'intervention prévues en cas de besoin. Pour les mineurs, les restrictions vont encore plus loin : impossible de leur proposer des « partenaires » ou de faux « membres de la famille » virtuels, le consentement parental devient obligatoire en dessous de 14 ans, et les parents obtiennent la possibilité de bloquer certains personnages, de contrôler les achats et de recevoir des alertes.
Résumé et traduction réalisés par Le Fil IA à partir de Next INpact. Lire l'article original →
Cette réglementation intervient alors que le marché des compagnons IA a connu une croissance fulgurante : selon une étude d'Appfigures portant sur 2025, le secteur a généré plus de 120 millions de dollars sur l'année, avec 337 applications actives cumulant 220 millions de téléchargements. Ce succès traduit un besoin réel, celui de combler un isolement affectif chez de nombreux utilisateurs, mais il s'accompagne de dérives que plusieurs régulateurs occidentaux commencent aussi à surveiller : aux États-Unis, la FTC a demandé des comptes aux principaux acteurs du secteur sur la protection des plus jeunes utilisateurs, et la Californie impose depuis le 1er janvier des messages d'avertissement rappelant aux utilisateurs qu'ils dialoguent avec une IA. La décision chinoise, plus radicale, envoie un signal fort à toute une industrie technologique qui a fait de l'illusion conversationnelle un argument commercial central, et pourrait inspirer d'autres juridictions à légiférer plus fermement sur ces usages.
Derrière cette sévérité, Pékin affiche une volonté de prévenir la dépendance affective, les manipulations émotionnelles et les risques psychologiques liés à ces technologies. Mais un expert cité par le Wall Street Journal établit un lien plus large avec la natalité déclinante du pays : les autorités chinoises craindraient que ces compagnons virtuels détournent leurs utilisateurs des relations amoureuses réelles, du mariage et, in fine, de la parentalité. Sans l'énoncer aussi explicitement, plusieurs réglementations locales sur la sécurité de l'IA font déjà référence aux effets de cette technologie sur la structure familiale et la fécondité, inscrivant ce texte dans une politique démographique plus vaste plutôt que dans une simple logique de protection du consommateur.
Cette réglementation chinoise pourrait inspirer les régulateurs européens à encadrer plus strictement les chatbots de compagnie, mais n'a pas d'impact direct sur la France ou l'UE.
Réagir avant même de savoir si le lien avec la natalité tient la route : je note que le vrai signal, c'est que 337 apps et 220 millions de téléchargements en un an, ça veut dire que le besoin est réel, pas un fantasme marketing. La Chine ne régule pas un gadget, elle régule un phénomène de masse qui a échappé à tout le monde en dix-huit mois. Reste à voir si les autres pays suivent avant ou après le prochain scandale, parce que pour l'instant l'UE regarde ça de loin sans rien préparer.