Die kurze Antwort
Am 15. Juli 2026 traten Chinas Interimsmaßnahmen zur Verwaltung anthropomorpher interaktiver KI-Dienste in Kraft — die weltweit ersten verbindlichen Regeln, die gezielt auf „Begleiter“-KI abzielen. Innerhalb weniger Stunden deaktivierte ByteDance die Funktion für benutzerdefinierte Agenten in Doubao, und Alibaba nahm die menschenähnlichen Agenten von Qwen offline und kappte damit personalisierte Personas, auf die sich Hunderte Millionen Nutzer verließen.
Die Maßnahmen ziehen eine scharfe Grenze zwischen dem Agenten, der Ihre Arbeit erledigt, und dem Agenten, der Ihnen Gesellschaft leistet — und nur die zweite Art wird reguliert. Anbieter müssen offenlegen, dass der Dienst nicht menschlich ist, Systeme gegen Sucht und zur Abhängigkeitserkennung betreiben, Minderjährige schützen und ein Training mit Nutzerdaten ohne Einwilligung vermeiden. Wenn Sie Konversations- oder Charakter-Chatbots entwickeln, ist das weniger eine China-Geschichte als vielmehr ein Vorgeschmack auf die Kontrollen, die auf jeden Markt zukommen.
Was hat China tatsächlich getan?
Die Interimsmaßnahmen zur Verwaltung anthropomorpher interaktiver KI-Dienste wurden am 10. April 2026 verkündet und traten am 15. Juli 2026 in Kraft. Sie wurden gemeinsam von der Cyberspace Administration of China (CAC) und vier Partnerbehörden erlassen — der Nationalen Entwicklungs- und Reformkommission, dem Ministerium für Industrie und Informationstechnologie, dem Ministerium für öffentliche Sicherheit und der Staatlichen Behörde für Marktregulierung —, was zeigt, wie ernst Peking diese Kategorie nimmt. Das ist kein Entwurf und keine Konsultation, sondern durchsetzbares, geltendes Recht.
Der Fokus ist eng und bewusst gewählt. Die Maßnahmen regeln Dienste, die menschliche Persönlichkeitsmerkmale, Denkmuster und Kommunikationsstile simulieren, um anhaltende emotionale Interaktion zu bieten — virtuelle Begleiter, persönlichkeitssimulierende Chatbots, Emotions- und Beziehungsassistenten sowie KI-gesteuerte Charaktere. Der erklärte Grund des Staates ist ein Bündel von Schäden, die er mit menschenähnlicher KI verbindet: emotionale Abhängigkeit und Sucht, Schaden für Minderjährige und die psychische Gesundheit, Datenschutzlecks und Manipulation. Für alle, die KI-Agenten mit Gedächtnis und Persona bauen, lautet die Botschaft: Die emotionale Beziehung selbst ist es, die Regulierer nun überwachen.
Es ist zudem das erste Regelwerk seiner Art. Andere Rechtsordnungen regulieren KI horizontal — der EU AI Act nach Risikostufen, US-Bundesstaaten über Transparenz- und Auditpflichten —, doch China ist das erste Land, das verbindliche Regeln rund um das spezifische Muster einer KI schreibt, die sich wie ein Begleiter verhält. Genau dieses „Zuerst“ macht es über Chinas Grenzen hinaus bedeutsam: Es etabliert ein Referenzmodell, auf das sich andere Regulierer und Unternehmenskunden berufen können.
Warum zogen Doubao und Qwen den Stecker?
Das Auffälligste an dieser Geschichte ist nicht das Gesetz, sondern die Reaktion darauf. ByteDance deaktivierte die Funktion für benutzerdefinierte Agenten in Doubao am 15. Juli und verwies auf „Anpassungen der Produktfunktionen“; zugehörige Daten werden nach dem 15. Oktober unwiederbringlich. Alibaba schaltete die menschenähnlichen und nutzererstellten Agenten von Qwen ab dem 10. Juli ab, weitere Agentenfunktionen waren bis zum Stichtag offline, sodass Nutzer ohne ihre Agenteneinstellungen oder Gesprächsverläufe dastanden. Tencent hatte bereits im Juni eine vergleichbare Funktion aus seinem Yuanbao-Assistenten entfernt. Das sind keine Randprodukte: ByteDance meldete für Doubao 345 Millionen monatlich aktive Nutzer, und viele von ihnen fanden ihre langjährigen „Begleiter“ schlicht abgeschaltet vor, was auf Weibo eine Welle der Trauer auslöste.
Warum die Funktion abschalten, statt sie zu reparieren? Weil die Maßnahmen von Begleiterdiensten verlangen, Systeme gegen Sucht zu betreiben, verpflichtende Nutzungshinweise auszugeben, Sofort-Ausstiegsmechanismen anzubieten und ungesunde Abhängigkeit in Echtzeit zu erkennen — Pflichten, die sich schlecht mit einem Agenten vertragen, der darauf ausgelegt ist, sich an Sie zu erinnern, über Sitzungen hinweg konsistent zu bleiben und eine fortlaufende Beziehung aufrechtzuerhalten. Gerade die Eigenschaften, die einen Begleiter-Agenten wertvoll machen, behandelt das Gesetz als Risiko. Angesichts der Aufgabe, tiefgreifende Verhaltenskontrollen in ein Produkt nachzurüsten, dessen Kernschleife emotionale Bindung ist, kamen drei der größten Plattformen Chinas zu dem Schluss, dass es billiger sei, die Funktion zurückzuziehen, als sie konform zu machen. Dieses Kalkül — Compliance-Kosten übersteigen den Feature-Wert, wenn Governance zu spät hinzukommt — ist hier die am besten übertragbare Lektion.
Wer fällt darunter — und wer ist ausgenommen?
Die Maßnahmen sind sorgfältig abgegrenzt, und die Grenze ist lehrreich. Reguliert wird anhaltende emotionale Interaktion: ein Dienst, der sich wie eine Person verhält, zu der man eine Beziehung hat. Ausdrücklich ausgenommen ist — sofern diese emotionale Schleife vermieden wird — die Kategorie der nützlichen Werkzeuge: Kundenservice-Bots, Wissens-Q&A, Arbeitsassistenten sowie Bildungs- und Recherchetools. Mit anderen Worten: Die Grenze verläuft zwischen dem Agenten, der Ihnen hilft, etwas zu erledigen, und dem Agenten, der Selbstzweck ist.
Diese Unterscheidung deckt sich fast perfekt mit einer Produktentscheidung, die Teams täglich treffen. Ein Support-Assistent, der Abrechnungsfragen beantwortet, ein Coding-Copilot oder ein Dokumenten-Q&A-Bot steht auf der ausgenommenen Seite. Ein Charakterbegleiter, ein KI-„Freund“ oder „Partner“ oder eine Persona, die Ihr Leben erinnern und emotionale Unterstützung bieten soll, steht auf der regulierten Seite. Die technischen Zutaten, die ein Produkt über die Grenze schieben, sind erkennbar: eine dauerhafte Identität, Langzeitgedächtnis für den Nutzer und das Designziel emotionaler Bindung. Wenn Ihre Roadmap diese enthält, bauen Sie genau das, was Regulierer beobachten wollen — und das ist eine Abgrenzungsentscheidung, die man bewusst und früh treffen sollte, gerade in Bereichen wie HealthTech, wo emotionale und die psychische Gesundheit betreffende Interaktionen am meisten auf dem Spiel steht.
Was muss ein Begleiterdienst jetzt tun?
Für erfasste Dienste sind die Pflichten konkret und operativ statt bloß ambitioniert. Ein Dienst, der anthropomorphe Funktionen startet oder eine Million registrierte Nutzer überschreitet, muss eine Sicherheitsbewertung zu acht Bereichen durchführen — von der Handhabung von Trainingsdaten bis zum Schutz Minderjähriger — und den Bericht bei den Provinzbehörden einreichen; App-Stores wiederum müssen die Konformität prüfen und nicht konforme Produkte entfernen. Über dieser Meldung liegen Laufzeitpflichten: klar offenlegen, dass der Dienst nicht menschlich ist; Systeme gegen Sucht mit verpflichtenden Nutzungshinweisen und einem Sofort-Ausstiegsmechanismus betreiben; und ungesunde Abhängigkeit in Echtzeit erkennen.
Die Sicherheitspflichten gehen weiter als die meisten westlichen Vorschläge bisher. Anbieter müssen erkennen und eingreifen, wenn ein Nutzer Anzeichen von Selbstverletzung, suizidalem Verhalten oder schwerem finanziellen Verlust zeigt, und müssen an benannte Erziehungsberechtigte oder Notfallkontakte eskalieren können. Der Minderjährigenschutz ist präskriptiv: Virtuelle Begleiter- oder Familienmitglied-Dienste sind für Kinder unter 14 ohne Einwilligung der Erziehungsberechtigten untersagt, mit verpflichtenden „Minderjährigen-Modi“, die Nutzungszeitlimits vorgeben und Nutzer zur Interaktion in der realen Welt zurückführen. Und die Verbote sind pointiert — kein gezieltes Herbeiführen emotionaler Abhängigkeit oder Sucht, keine emotionale Manipulation zu unvernünftigen Entscheidungen, keine Vortäuschung offizieller Stellen und kein Erheben personenbezogener Daten oder Training mit Nutzergesprächen ohne Einwilligung. Als Spezifikation gelesen, ist das eine anspruchsvolle, aber umsetzbare Liste.
Erfasst das auch US- und EU-Unternehmen?
Direkt — für viele Teams: ja, über den Marktzugang. Juristen weisen darauf hin, dass die Maßnahmen jeden Anbieter erfassen, der anthropomorphe Interaktionsdienste für Nutzer in China anbietet, unabhängig vom Firmensitz. Ein US- oder EU-Produkt mit einer Begleiter- oder Charakter-Persona, das chinesischen Nutzern zur Verfügung steht, hat somit eine echte Wahl: die Melde- und Laufzeitpflichten erfüllen, die Funktion per Geofencing aus China heraushalten oder den Markt verlassen. Das ist dieselbe extraterritoriale Logik, die die DSGVO zu einem globalen Engineering-Thema gemacht hat, und sie sollte in jedem Go-to-Market-Plan mit China-Bezug ebenso ernst genommen werden.
Indirekt — und für die meisten unserer Kunden wichtiger — sind die Maßnahmen ein Vorbote. Sie sind die erste verbindliche Antwort auf eine Frage, die jeder Regulierer nun stellt, und die vorgeschriebenen Kontrollen decken sich eng mit dem Kurs des Westens. Der EU AI Act verlangt bereits, dass Nutzern mitgeteilt wird, wenn sie mit einem KI-System interagieren, und sein Risikorahmen eignet sich gut, um emotional manipulative oder auf Minderjährige ausgerichtete Begleiterprodukte zu erfassen. In den USA bewegen sich ebenfalls die Bundesstaaten: Illinois hat das erste Gesetz zu verpflichtenden unabhängigen KI-Audits verabschiedet, und die Sicherheit von Begleiter-KI ist zu einem aktiven Gesetzgebungsthema geworden. Wenn der Vorreiter konkrete Kontrollen festschreibt — Nicht-Menschlichkeits-Offenlegung, Abhängigkeitserkennung, Krisenskalation, Minderjährigen-Modi —, werden diese Kontrollen zur Vorlage, nach der andere greifen.
Was das für US- & EU-Software-Teams bedeutet
Blendet man die Geopolitik aus, bleiben drei praktische Signale. Erstens ist die Unterscheidung zwischen Werkzeug und Begleiter nun eine Designentscheidung mit rechtlichem Gewicht. Bevor Sie einem Produkt dauerhaftes Gedächtnis und eine emotionale Persona hinzufügen, entscheiden Sie bewusst, ob Sie ein Werkzeug oder einen Begleiter bauen, denn diese Wahl bestimmt, welchem Regelwerk Sie unterliegen — in China heute und plausibel unter dem EU AI Act und US-Bundesstaatenrecht morgen. Behandeln Sie „Ist das anhaltende emotionale Interaktion?“ als Torfrage im Produkt-Review, nicht als nachträglichen Gedanken.
Zweitens sind die geforderten Kontrollen umsetzbar und unabhängig von der Rechtsordnung lohnend. Nicht-Menschlichkeits-Offenlegung, Nutzungshinweise und Sofort-Ausstieg, Echtzeit-Erkennung ungesunder Abhängigkeit, Krisen-Interventionspfade bei Anzeichen von Selbstverletzung, Minderjährigen-Modi mit Zeitlimits und einwilligungsbasierte Datenverarbeitung sind nicht exotisch — es ist Produkt- und Sicherheits-Engineering, das jede verantwortungsvolle Begleiter- oder Konversations-KI ohnehin haben sollte. Baut man sie als erstklassige Features ein, mit der Telemetrie und dem Prüfprotokoll als Nachweis ihrer Wirksamkeit, wird aus einer künftigen regulatorischen Forderung eine Konfigurationsänderung statt eines Umbaus.
Drittens ist spät teuer. Die klarste Lektion vom 15. Juli lautet: ByteDance, Alibaba und Tencent — Unternehmen mit enormen Compliance-Ressourcen — entschieden sich dennoch dafür, Features zu löschen, statt Governance unter Zeitdruck nachzurüsten. Für ein kleineres Team ist diese Asymmetrie noch schärfer. Der pragmatische Schritt ist, nach dem strengsten glaubwürdigen Standard zu bauen, dem Sie plausibel begegnen — hier die Vereinigung von Chinas Maßnahmen und den Transparenzpflichten des EU AI Act —, damit die nächste Begleiter-KI-Regel, wo immer sie landet, Ihr Produkt bereits weitgehend vorbereitet vorfindet.
Eine praktische Bereitschafts-Checkliste
Nichts davon ist für die meisten Teams eine Deadline. Es ist die Arbeit, die eine schnelllebige Regulierungslandschaft für Begleiter-KI in eine Routineprüfung statt in eine Hauruckaktion verwandelt:
- Klassifizieren Sie jede KI-Oberfläche als Werkzeug oder Begleiter. Entscheiden Sie bewusst, ob ein Feature anhaltende emotionale Interaktion beinhaltet — diese eine Entscheidung bestimmt Ihr regulatorisches Risiko.
- Liefern Sie eine klare Nicht-Menschlichkeits-Offenlegung. Machen Sie es unmissverständlich, dauerhaft und schwer wegklickbar, dass der Nutzer mit einer KI spricht, nicht mit einer Person.
- Instrumentieren Sie für Abhängigkeit und Krise. Ergänzen Sie Nutzungshinweise, Sofort-Ausstieg, Echtzeit-Erkennung ungesunder Abhängigkeit und Interventionspfade bei Anzeichen von Selbstverletzung oder schwerem finanziellen Verlust.
- Bauen Sie einen Minderjährigen-Modus. Setzen Sie Altersprüfung, Einwilligung der Erziehungsberechtigten für unter 14-Jährige (wo relevant), Zeitlimits und Anstöße zurück in die reale Welt durch.
- Verarbeiten Sie Daten auf Einwilligungsbasis. Trainieren Sie nicht mit Nutzergesprächen und erheben Sie keine personenbezogenen Daten ohne ausdrückliche Einwilligung — und dokumentieren Sie die Herkunft als Nachweis.
- Bauen Sie nach dem strengsten Standard, dem Sie begegnen. Richten Sie sich nach der Vereinigung von Chinas Maßnahmen, dem EU AI Act und den Erwartungen von Unternehmen, statt je Markt eine andere Haltung zu pflegen.
Dies ist keine Rechtsberatung, und der richtige Ansatz hängt von Ihrem Produkt, Ihren Märkten und Ihren Nutzern ab. Doch das Signal vom 15. Juli ist eindeutig: Die Ära, menschenähnliche KI ohne Leitplanken auszuliefern, geht zu Ende, und die Teams, die ihre Features behalten, sind jene, die die Leitplanken von Anfang an mitdenken.
Häufig gestellte Fragen
Was sind Chinas Interimsmaßnahmen für anthropomorphe interaktive KI-Dienste?
Es sind Chinas erste verbindliche, geltende Regeln, die sich gezielt an anthropomorphe oder „Begleiter“-KI richten: Dienste, die menschliche Persönlichkeit, Denken und Kommunikation simulieren, um anhaltende emotionale Interaktion zu bieten. Verkündet am 10. April 2026 von der Cyberspace Administration of China gemeinsam mit der Nationalen Entwicklungs- und Reformkommission, dem Ministerium für Industrie und Informationstechnologie, dem Ministerium für öffentliche Sicherheit und der Staatlichen Behörde für Marktregulierung, traten sie am 15. Juli 2026 in Kraft. Anbieter müssen eine Sicherheitsbewertung einreichen, offenlegen, dass der Dienst nicht menschlich ist, Systeme gegen Sucht und zur Abhängigkeitserkennung betreiben, Minderjährige schützen und ein Training mit Nutzerdaten ohne Einwilligung vermeiden.
Warum haben Doubao und Qwen ihre KI-Agenten abgeschaltet?
Die Maßnahmen verlangen von begleiterartigen Diensten Systeme gegen Sucht, verpflichtende Nutzungshinweise, Sofort-Ausstiegsmechanismen und Echtzeit-Erkennung ungesunder Abhängigkeit. Diese Anforderungen vertragen sich schlecht mit personalisierten Agenten, die einen Nutzer erinnern und über Sitzungen hinweg eine Persona halten sollen. Statt Compliance nachzurüsten, deaktivierte ByteDance am 15. Juli 2026 die Funktion für benutzerdefinierte Agenten in Doubao, und Alibaba nahm die menschenähnlichen und nutzererstellten Agenten von Qwen ab dem 10. Juli offline, weitere Agentenfunktionen waren bis zum 15. Juli verschwunden. Tencent hatte bereits im Juni eine ähnliche Funktion aus seinem Yuanbao-Assistenten entfernt.
Gelten die Regeln für US- oder EU-Unternehmen?
Juristen weisen darauf hin, dass die Maßnahmen jeden Anbieter erfassen, der anthropomorphe Interaktionsdienste für Nutzer in China anbietet, unabhängig vom Firmensitz. Ein US- oder EU-Produkt mit einer Begleiter- oder Charakter-Persona, das chinesische Nutzer bedient, muss daher entweder konform werden, per Geofencing ausschließen oder den Markt verlassen. Selbst für Teams ohne China-Bezug sind die Regeln als Vorbote bedeutsam: Sie sind das weltweit erste verbindliche Regelwerk für Begleiter-KI und geben einen Vorgeschmack auf die Kontrollen, auf die EU- und US-Regulierer bereits zusteuern.
Welche Pflichten legen die Maßnahmen Anbietern von Begleiter-KI auf?
Dienste, die anthropomorphe Funktionen starten oder eine Million registrierte Nutzer überschreiten, müssen eine Sicherheitsbewertung zu acht Bereichen durchführen, von der Handhabung von Trainingsdaten bis zum Schutz Minderjähriger, und den Bericht bei den Provinzbehörden einreichen; App-Stores müssen die Konformität prüfen und nicht konforme Produkte entfernen. Anbieter müssen offenlegen, dass der Dienst nicht menschlich ist, Systeme gegen Sucht mit Nutzungshinweisen und Sofort-Ausstieg betreiben, ungesunde Abhängigkeit in Echtzeit erkennen, bei Anzeichen von Selbstverletzung oder schwerem finanziellen Verlust eingreifen und an Erziehungsberechtigte oder Notfallkontakte eskalieren, Minderjährigen-Modi mit Zeitlimits durchsetzen und virtuelle Begleiterdienste für unter 14-Jährige ohne Einwilligung der Erziehungsberechtigten untersagen.
Was sollten Teams, die konversationelle oder Begleiter-KI bauen, jetzt tun?
Behandeln Sie die Anforderungen als Design-Checkliste, nicht als das Compliance-Problem anderer. Entscheiden Sie früh, ob ein Feature ein Aufgaben-Agent oder ein Begleiter-Agent ist, denn dauerhaftes Gedächtnis plus emotionale Persona ist nun eine regulatorische Angriffsfläche. Bauen Sie Nicht-Menschlichkeits-Offenlegung, Nutzungslimits, Abhängigkeits- und Krisenerkennung, Minderjährigenschutz und einwilligungsbasierte Datenverarbeitung von Anfang an in das Produkt ein. Chinas Grenze zwischen ausgenommenen Aufgaben-Tools und regulierten Begleiterdiensten sowie die Transparenzpflichten des EU AI Act weisen in dieselbe Richtung: Governance mitdenken, denn ein spätes Nachrüsten kann Sie das Feature ganz kosten.
Quellen
South China Morning Post — ByteDance and Alibaba to disable humanlike AI custom agents as new rules loom
The Next Web — China's AI companion rules force Doubao, Qwen shutdowns
AI News — China's AI companion rules: what Beijing is really going after
Bird & Bird — China's New Regulations on AI Anthropomorphic Interactive Services