Die Kurzfassung
Kalifornien verlangt jetzt einen Menschen in der Entscheidungskette, bevor KI zu einer Abmahnung oder Kündigung führt, und verbietet KI, die Emotionen von Beschäftigten auswertet. AB 1883 gilt ab dem 1. Januar 2027, SB 947 ab dem 1. Juli 2027. Teams, die HR- und Workforce-Systeme für Unternehmen entwickeln, brauchen Workflows für menschliche Prüfung, Benachrichtigungen an Beschäftigte und ein Monitoring ohne Emotionserkennung, bevor kalifornische Kunden ausrollen.
Was hat Kalifornien unterzeichnet?
Das Paket kam zum letzten Unterzeichnungstermin von Newsoms Amtszeit. „KI sollte Chancen erweitern – nicht auf Kosten der Beschäftigten gehen“, sagte er laut Associated Press und ergänzte, die Bundesstaaten müssten „mangels Führung auf Bundesebene“ handeln. Für Softwareteams sind drei Gesetze entscheidend.
SB 947, der No Robo Bosses Act, verbietet Arbeitgebern, sich bei Disziplinarmaßnahmen oder Kündigungen ausschließlich auf ein automatisiertes Entscheidungssystem zu stützen. Eine prüfende Person muss das Ergebnis des Systems unabhängig mit weiteren Informationen bestätigen – Beurteilungen durch Vorgesetzte, Peer-Reviews, Personalakten –, und die beschäftigte Person muss im Nachhinein erfahren, dass ein automatisiertes System eingesetzt wurde. Das Gesetz verbietet außerdem, mit solchen Systemen geschützte Merkmale abzuleiten oder Beschäftigte vorherzusagen und zu benachteiligen, die ihre gesetzlichen Rechte wahrnehmen.
AB 1883 zielt auf Werkzeuge zur Arbeitsplatzüberwachung – Video- und Audio-Monitoring, Zeiterfassung, Ortung und ähnliche Systeme, die Daten auf anderem Weg als durch direkte menschliche Beobachtung erheben. Arbeitgeber dürfen in diesen Werkzeugen keine KI einsetzen, um Emotionen zu erkennen oder vorherzusagen oder neuronale Daten zu erheben; Anwendungen für die Arbeitssicherheit bleiben erlaubt. Laut Bloomberg Government drohen bis zu 500 US-Dollar pro Verstoß, durchgesetzt vom Labor Commissioner und von Staatsanwaltschaften. SB 951 ändert Cal/WARN so, dass Mitteilungen zu Massenentlassungen offenlegen, wenn KI den Stellenabbau wesentlich verursacht hat.
Ab wann gelten die Regeln?
- 30. September 2026 – Gesetze unterzeichnet.
- 1. Januar 2027 – Verbot von Emotionserkennung und neuronalen Daten nach AB 1883 tritt in Kraft.
- 1. Juli 2027 – Bestätigungs- und Benachrichtigungspflichten nach SB 947 treten in Kraft.
Newsom bat das Parlament zudem, den Anwendungsbereich von AB 1883 und eines begleitenden Gesetzes zur Überwachung von Sanitärräumen zu präzisieren – mit Nachbesserungen 2027 ist also zu rechnen. Bauen Sie jetzt nach dem unterzeichneten Text und verfolgen Sie die Änderungen.
Welche Software ist betroffen?
Die Pflichten treffen Arbeitgeber, doch die riskanten Funktionen stecken in der Software. Damit liegen diese Produktkategorien im Wirkungsbereich: HRIS- und Performance-Management-Suiten, die Beschäftigte bewerten oder ranken; Workforce-Analytics-Tools, die „Low Performer“ oder Fluktuationsrisiken markieren; Callcenter- und Sales-Coaching-Plattformen mit Sentiment- oder Emotionsanalyse der Agents; Produktivitäts- und „Bossware“-Tools mit Webcam-, Tastatur- oder Sprachanalyse; sowie Gig- und Logistikplattformen, die Fahrer und Kuriere anhand von Kennzahlen automatisch sperren.
Wenn ein Produkt Beschäftigte ohne dokumentierte menschliche Entscheidung in Richtung Abmahnung oder Kündigung bewegen kann oder aus Video, Stimme oder Biometrie auf Stimmung, Stress oder Engagement schließt, werden kalifornische Kunden vom Anbieter Änderungen verlangen.
Was das für Softwareteams in den USA und der EU bedeutet
Für US-Teams ist das eine Änderung der Produktanforderungen mit Frist. Unternehmenskunden mit Personal in Kalifornien werden Compliance binnen Monaten in Einkaufsfragebögen verlangen: Zeigen Sie uns den menschlichen Prüfschritt, die Vorlage für die Benachrichtigung, das Audit-Log und den Schalter, der Emotionsanalysen abschaltet. Wer das nicht beantworten kann, verliert Aufträge an Anbieter, die es können. Kalifornien bleibt selten allein – Illinois reguliert bereits KI-ausgewertete Videointerviews –, daher ist eine konfigurierbare Richtlinienebene pro Rechtsraum besser als ein einmaliger Kalifornien-Fork.
Für EU-Teams ist die Richtung vertraut. Der EU AI Act verbietet Emotionserkennung am Arbeitsplatz bereits (mit Ausnahmen aus medizinischen und Sicherheitsgründen) und stuft KI für Beförderung, Kündigung und Aufgabenzuweisung als Hochrisiko ein, mit Pflichten zur menschlichen Aufsicht; Art. 22 DSGVO begrenzt ausschließlich automatisierte Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung. Ein nach EU-Standards gebautes Produkt ist also schon weitgehend kalifornien-tauglich. Umgekehrt gilt: Wer ein HR-Produkt in beiden Märkten anbietet, sollte menschliche Aufsicht und Monitoring ohne Emotionserkennung als Standard bauen, nicht als regionalen Patch.
Die technische Lehre: „Human in the Loop“ muss beweisbar sein. Ein Freigabe-Button, der nur abgenickt wird, zeigt nicht, dass ein Mensch das KI-Ergebnis unabhängig bestätigt hat. Teams brauchen Nachweise darüber, was die prüfende Person gesehen hat, welche zusätzlichen Belege sie genutzt hat und wann die beschäftigte Person informiert wurde.
Was bedeutet das für HR-Software im DACH-Raum?
Für Anbieter in Deutschland, Österreich und der Schweiz ist Kalifornien weniger ein Schock als eine Bestätigung des eigenen Kurses – und zugleich ein Exportthema. Hierzulande scheitert Emotions- oder Verhaltensanalyse oft schon vor dem AI Act an der Mitbestimmung: In Deutschland hat der Betriebsrat nach § 87 Abs. 1 Nr. 6 BetrVG bei technischen Einrichtungen mitzubestimmen, die zur Überwachung von Verhalten oder Leistung geeignet sind, und eine Betriebsvereinbarung zum KI-Einsatz ist bei HR-Tools vielerorts Standard. In Österreich brauchen Kontrollmaßnahmen, die die Menschenwürde berühren, die Zustimmung des Betriebsrats, und in der Schweiz verbietet das Arbeitsgesetz Überwachungssysteme, die das Verhalten der Beschäftigten am Arbeitsplatz überwachen sollen. Wer seine HR- oder Workforce-Lösung aus dem DACH-Raum an US-Konzerne mit kalifornischen Standorten verkauft, kann die ohnehin nötigen Kontrollen – dokumentierte menschliche Entscheidung, abschaltbare Analysen, revisionssichere Protokolle – als Verkaufsargument nutzen.
Was bis 2027 zu ändern ist
- Jeden Entscheidungspfad erfassen. Listen Sie alle Funktionen auf, die einzelne Beschäftigte bewerten, ranken, markieren oder Maßnahmen empfehlen, und kennzeichnen Sie, welche zu Abmahnung oder Kündigung führen können.
- Einen Bestätigungsschritt einbauen. Leiten Sie diese Ergebnisse in einen Prüf-Workflow, in dem eine namentlich benannte Person die zusätzlich genutzten Belege dokumentiert. Ohne diesen Schritt keine automatische Statusänderung.
- Benachrichtigungen erzeugen. Bauen Sie Vorlagen und Zustellnachweise für Entscheidungen, bei denen ein automatisiertes System beteiligt war.
- Emotionserkennung per Richtlinie abschalten. Machen Sie Sentiment-, Emotions- und biometrische Zustandsanalysen von Beschäftigten pro Rechtsraum schaltbar – und für Kalifornien ab dem 1. Januar 2027 standardmäßig aus.
- Für Audits protokollieren. Speichern Sie unveränderliche Nachweise zu Modellversion, Eingaben, prüfender Person, Entscheidung und Benachrichtigungszeitpunkt – genau das, was ein Labor Commissioner oder eine PAGA-Klage anfordern wird.
- Vorarbeit für den EU AI Act wiederverwenden. Kontrollen zur menschlichen Aufsicht und Protokollierung, die für Hochrisiko-KI im Personalbereich nach dem EU AI Act entstehen, lassen sich direkt auf SB 947 übertragen.
Häufig gestellte Fragen
Was hat Kalifornien am 30. September 2026 unterzeichnet?
Gouverneur Gavin Newsom unterzeichnete mehrere Gesetze zu KI am Arbeitsplatz. SB 947, der No Robo Bosses Act, verbietet Arbeitgebern, Disziplinarmaßnahmen oder Kündigungen allein auf ein automatisiertes Entscheidungssystem zu stützen. AB 1883 untersagt KI-gestützte Arbeitsplatzüberwachung, die Emotionen von Beschäftigten erkennt oder vorhersagt oder neuronale Daten erhebt. SB 951 ändert Cal/WARN, sodass Arbeitgeber offenlegen müssen, wenn Massenentlassungen wesentlich auf KI zurückgehen.
Ab wann gelten die kalifornischen KI-Arbeitsgesetze?
AB 1883 tritt am 1. Januar 2027 in Kraft, SB 947 am 1. Juli 2027. Teams, die HR- oder Workforce-Software entwickeln, haben damit etwa drei bis neun Monate, um die nötigen Kontrollen auszuliefern, bevor Kunden sie produktiv brauchen.
Verbietet SB 947 KI in Personalentscheidungen vollständig?
Nein. Arbeitgeber dürfen automatisierte Entscheidungssysteme weiterhin als Input nutzen. SB 947 verbietet, sich bei Disziplinarmaßnahmen oder Kündigungen ausschließlich auf ein solches System zu stützen: Ein Mensch muss das Ergebnis unabhängig mit weiteren Informationen wie Beurteilungen durch Vorgesetzte oder Personalakten bestätigen, und betroffene Beschäftigte müssen darüber informiert werden, dass ein automatisiertes System eingesetzt wurde.
Welche Strafen sieht AB 1883 vor?
AB 1883 sieht zivilrechtliche Strafen von bis zu 500 US-Dollar pro Verstoß vor, durchgesetzt vom kalifornischen Labor Commissioner und von Staatsanwaltschaften; hinzu kommt ein mögliches Risiko nach dem Private Attorneys General Act (PAGA). Da pro Verstoß gezählt wird, kann eine Monitoring-Funktion, die in einer großen Belegschaft läuft, das Risiko schnell vervielfachen.
Quellen
Associated Press — California Gov. Gavin Newsom signs laws to protect workers from AI risks (September 30, 2026)
Bloomberg Government — California bans using AI to monitor workers’ brains, emotions (September 30, 2026)
CNBC — Newsom bans AI ‘robo bosses’ in landmark state law, reversing his earlier veto (September 30, 2026)
Ogletree Deakins — California Governor signs 3 bills targeting AI and workplace surveillance (October 2026)