Les règles chinoises sur l'IA compagnon entrent en vigueur et forcent Doubao et Qwen à retirer leurs agents

Sophie Laurent Responsable Juridique & Conformité, YuSMP Group · Conseille les équipes US et UE sur le RGPD, l'EU AI Act et les flux de données transfrontaliers

La réponse en bref

Qu'a réellement fait la Chine ?

Les mesures provisoires pour l'administration des services d'IA interactifs anthropomorphes ont été promulguées le 10 avril 2026 et sont entrées en vigueur le 15 juillet 2026. Elles ont été émises conjointement par la Cyberspace Administration of China (CAC) et quatre organismes partenaires — la Commission nationale du développement et de la réforme, le ministère de l'Industrie et des Technologies de l'information, le ministère de la Sécurité publique et l'Administration d'État pour la régulation du marché —, ce qui montre le sérieux avec lequel Pékin traite cette catégorie. Ce n'est ni un projet d'orientation ni une consultation ; c'est une loi applicable désormais en vigueur.

La cible est étroite et délibérée. Les mesures régissent les services qui simulent des traits de personnalité humains, des schémas de pensée et des styles de communication pour fournir une interaction émotionnelle durable — compagnons virtuels, chatbots simulant une personnalité, assistants émotionnels et relationnels, et personnages pilotés par l'IA. La préoccupation affichée de l'État est un ensemble de préjudices qu'il associe à l'IA humanisée : dépendance et addiction émotionnelles, préjudice aux mineurs et à la santé mentale, fuite de données personnelles et manipulation. Pour quiconque construit des agents d'IA dotés de mémoire et d'un persona, le message est que c'est la relation émotionnelle elle-même que les régulateurs surveillent désormais.

C'est aussi le premier cadre de ce type. D'autres juridictions régulent l'IA horizontalement — l'EU AI Act par niveau de risque, les États américains via des obligations de transparence et d'audit —, mais la Chine est la première à écrire des règles contraignantes autour du schéma spécifique d'une IA qui se comporte comme un compagnon. Cette primeur est précisément ce qui la rend importante au-delà des frontières chinoises : elle établit un modèle de référence auquel d'autres régulateurs, et les acheteurs d'entreprise, peuvent se référer.

Pourquoi Doubao et Qwen ont-ils débranché ?

L'aspect le plus frappant de cette histoire n'est pas la loi mais la réaction qu'elle a suscitée. ByteDance a désactivé la fonction d'agents personnalisés de Doubao le 15 juillet, invoquant des « ajustements de fonctionnalités du produit », les données associées devenant irrécupérables après le 15 octobre. Alibaba a fermé les agents humanisés et créés par les utilisateurs de Qwen dès le 10 juillet, les fonctions d'agent plus larges étant hors ligne à la date d'entrée en vigueur, laissant les utilisateurs sans leurs paramètres d'agent ni leurs historiques de conversation. Tencent avait déjà retiré une fonction comparable de son assistant Yuanbao en juin. Ce ne sont pas des produits marginaux : ByteDance a déclaré 345 millions d'utilisateurs actifs mensuels pour Doubao, et beaucoup se sont réveillés en trouvant leurs « compagnons » de longue date tout simplement éteints, provoquant une vague de deuil sur Weibo.

Pourquoi supprimer la fonctionnalité plutôt que la corriger ? Parce que les mesures exigent des services compagnons qu'ils fassent fonctionner des systèmes anti-addiction, émettent des notifications d'usage obligatoires, offrent des mécanismes de sortie instantanée et détectent la dépendance malsaine en temps réel — des obligations qui s'accordent mal avec un agent conçu pour se souvenir de vous, rester cohérent d'une session à l'autre et entretenir une relation continue. Les propriétés mêmes qui rendent un agent compagnon précieux sont celles que la loi traite comme un risque. Face à la nécessité d'intégrer a posteriori des contrôles comportementaux profonds dans un produit dont la boucle centrale est l'attachement émotionnel, trois des plus grandes plateformes chinoises ont conclu qu'il était moins coûteux de retirer la fonctionnalité que de la mettre en conformité. Ce calcul — le coût de conformité dépassant la valeur de la fonctionnalité lorsque la gouvernance est ajoutée tard — est ici la leçon la plus transposable.

Qui est concerné — et qui est exclu ?

Les mesures sont soigneusement délimitées, et la frontière est instructive. Ce qui est réglementé, c'est l'interaction émotionnelle durable : un service conçu pour se comporter comme une personne avec qui vous avez une relation. Ce qui est explicitement exclu, à condition d'éviter cette boucle émotionnelle, c'est la catégorie de l'outil utile — bots de service client, Q&R de connaissances, assistants de travail, et outils d'éducation et de recherche. Autrement dit, la ligne passe entre l'agent qui vous aide à accomplir quelque chose et l'agent qui est une fin en soi.

Cette distinction recoupe presque parfaitement une décision produit que les équipes prennent chaque jour. Un assistant de support qui répond aux questions de facturation, un copilote de code ou un bot de Q&R documentaire se situe du côté exclu. Un compagnon de personnage, un « ami » ou « partenaire » IA, ou un persona conçu pour se souvenir de votre vie et fournir un soutien émotionnel se situe du côté réglementé. Les ingrédients techniques qui font franchir la ligne à un produit sont reconnaissables : une identité persistante, une mémoire à long terme de l'utilisateur et un objectif de conception d'engagement émotionnel. Si votre feuille de route les inclut, vous construisez précisément ce que les régulateurs ont décidé de surveiller — et c'est un choix de périmètre qui mérite d'être fait consciemment, tôt, dans des secteurs comme la HealthTech où les interactions émotionnelles et de santé mentale comportent les enjeux les plus élevés.

Que doit désormais faire un service compagnon ?

Pour les services concernés, les obligations sont concrètes et opérationnelles plutôt qu'aspirationnelles. Un service qui lance des fonctions anthropomorphes, ou qui dépasse un million d'utilisateurs enregistrés, doit réaliser une évaluation de sécurité couvrant huit domaines — du traitement des données d'entraînement à la protection des mineurs — et déposer le rapport auprès des régulateurs provinciaux ; les magasins d'applications, à leur tour, doivent vérifier la conformité et retirer les produits non conformes. À ce dépôt s'ajoute un ensemble d'obligations d'exécution : divulguer clairement que le service n'est pas humain ; faire fonctionner des systèmes anti-addiction avec des notifications d'usage obligatoires et un mécanisme de sortie instantanée ; et détecter la dépendance malsaine en temps réel.

Les obligations de sécurité vont plus loin que la plupart des propositions occidentales à ce jour. Les fournisseurs doivent détecter et intervenir lorsqu'un utilisateur montre des signes d'automutilation, de comportement suicidaire ou de perte financière grave, et pouvoir escalader vers des tuteurs désignés ou des contacts d'urgence. La protection des mineurs est prescriptive : les services de compagnon virtuel ou de membre de la famille sont interdits aux enfants de moins de 14 ans sans le consentement d'un tuteur, avec des « modes mineurs » obligatoires imposant des limites de temps d'usage et incitant les utilisateurs à revenir vers l'interaction dans le monde réel. Et les interdictions sont ciblées — pas d'ingénierie de la dépendance ou de l'addiction émotionnelles, pas de manipulation émotionnelle pour induire des décisions déraisonnables, pas d'usurpation d'entités officielles, et pas de collecte de données personnelles ni d'entraînement sur les conversations des utilisateurs sans consentement. Lue comme une spécification, c'est une liste exigeante mais réalisable.

Cela atteint-il les entreprises US et UE ?

Directement, pour beaucoup d'équipes, oui — via l'accès au marché. Les juristes notent que les mesures atteignent tout fournisseur proposant des services d'interaction anthropomorphes à des utilisateurs en Chine, quel que soit le siège de l'entreprise. Un produit US ou UE doté d'un persona compagnon ou de personnage accessible aux utilisateurs chinois fait donc face à un vrai choix : se conformer aux obligations de dépôt et d'exécution, exclure la fonctionnalité de la Chine par géoblocage, ou quitter le marché. C'est la même logique extraterritoriale qui a fait du RGPD une préoccupation d'ingénierie mondiale, et elle doit être traitée avec le même sérieux dans tout plan de mise sur le marché touchant la Chine.

Indirectement — et c'est plus important pour la plupart de nos clients — les mesures sont un signal avant-coureur. Elles sont la première réponse contraignante à une question que tout régulateur se pose désormais, et les contrôles qu'elles imposent riment étroitement avec la direction que prend l'Occident. L'EU AI Act exige déjà que les utilisateurs soient informés lorsqu'ils interagissent avec un système d'IA, et son cadre de risque est bien adapté pour saisir les produits compagnons émotionnellement manipulateurs ou destinés aux mineurs. Aux États-Unis, les États bougent aussi : l'Illinois a adopté la première loi imposant des audits d'IA indépendants, et la sécurité de l'IA compagnon est devenue un sujet législatif actif. Quand le pionnier consigne des contrôles concrets — divulgation de non-humanité, détection de dépendance, escalade de crise, modes mineurs —, ces contrôles deviennent le modèle vers lequel les autres se tournent.

Ce que cela signifie pour les équipes logicielles US & UE

Écartez la géopolitique et trois signaux pratiques demeurent. Premièrement, la distinction entre outil et compagnon est désormais une décision de conception à portée juridique. Avant d'ajouter une mémoire persistante et un persona émotionnel à un produit, décidez délibérément si vous construisez un outil ou un compagnon, car ce choix détermine à quel corpus de règles vous êtes soumis — en Chine aujourd'hui, et plausiblement sous l'EU AI Act et le droit des États américains demain. Traitez « s'agit-il d'une interaction émotionnelle durable ? » comme une question filtrante en revue produit, pas comme une réflexion après coup.

Deuxièmement, les contrôles requis sont réalisables et méritent d'être construits quelle que soit la juridiction. La divulgation de non-humanité, les notifications d'usage et la sortie instantanée, la détection en temps réel de la dépendance malsaine, les parcours d'intervention de crise pour les signaux d'automutilation, les modes mineurs avec limites de temps et le traitement des données fondé sur le consentement ne sont pas exotiques — c'est de l'ingénierie produit et sécurité que toute IA compagnon ou conversationnelle responsable devrait de toute façon posséder. Les intégrer comme fonctionnalités de premier ordre, avec la télémétrie et la piste d'audit qui prouvent leur fonctionnement, transforme une future exigence réglementaire en un changement de configuration plutôt qu'en une refonte.

Troisièmement, tardif rime avec coûteux. La leçon la plus claire du 15 juillet est que ByteDance, Alibaba et Tencent — des entreprises aux ressources de conformité énormes — ont tout de même choisi de supprimer des fonctionnalités plutôt que de mettre à niveau la gouvernance dans l'urgence. Pour une équipe plus petite, cette asymétrie est encore plus marquée. Le geste pragmatique est de construire selon le standard crédible le plus strict auquel vous êtes plausiblement confronté — ici, l'union des mesures chinoises et des obligations de transparence de l'EU AI Act — afin que la prochaine règle sur l'IA compagnon, où qu'elle atterrisse, trouve votre produit déjà largement prêt.

Une checklist pratique de préparation

Rien de tout cela n'est une échéance pour la plupart des équipes. C'est le travail qui transforme un paysage réglementaire de l'IA compagnon en évolution rapide en une revue de routine plutôt qu'en une course contre la montre :

1. Classez chaque surface d'IA comme outil ou compagnon. Décidez consciemment si une fonctionnalité implique une interaction émotionnelle durable — cette seule décision détermine votre exposition réglementaire.
2. Livrez une divulgation de non-humanité claire. Rendez indéniable, persistant et difficile à ignorer le fait que l'utilisateur parle à une IA, pas à une personne.
3. Instrumentez pour la dépendance et la crise. Ajoutez des notifications d'usage, la sortie instantanée, la détection en temps réel de la dépendance malsaine, et des parcours d'intervention pour les signaux d'automutilation ou de perte financière grave.
4. Construisez un mode mineur. Imposez la vérification de l'âge, le consentement du tuteur pour les moins de 14 ans le cas échéant, des limites de temps et des incitations à revenir au monde réel.
5. Traitez les données sur consentement. N'entraînez pas vos modèles sur les conversations des utilisateurs et ne collectez pas de données personnelles sans consentement explicite, et conservez la traçabilité pour le prouver.
6. Construisez selon le standard le plus strict que vous affrontez. Alignez-vous sur l'union des mesures chinoises, de l'EU AI Act et des attentes des entreprises plutôt que de maintenir une posture différente par marché.

Ceci n'est pas un avis juridique, et la bonne approche dépend de votre produit, de vos marchés et de vos utilisateurs. Mais le signal du 15 juillet est sans ambiguïté : l'ère de la livraison d'IA humanisée sans garde-fous se referme, et les équipes qui garderont leurs fonctionnalités sont celles qui conçoivent les garde-fous dès le départ.

Questions fréquentes

Sources

South China Morning Post — ByteDance and Alibaba to disable humanlike AI custom agents as new rules loom
The Next Web — China's AI companion rules force Doubao, Qwen shutdowns
AI News — China's AI companion rules: what Beijing is really going after
Bird & Bird — China's New Regulations on AI Anthropomorphic Interactive Services