Illustration: KI-generiertes Konzeptbild; es zeigt weder die Unterzeichnung des Gesetzes noch einen tatsächlichen Vorfall am Arbeitsplatz.

Kaliforniens neue Arbeitsgesetze betreffen drei unterschiedliche Anwendungen von KI und Automatisierung. Regeln für erfasste Entlassungsmitteilungen und bestimmte Überwachungsinstrumente sollen am 1. Januar 2027 in Kraft treten; das Gesetz zu automatisierten Disziplinar- und Kündigungsentscheidungen gilt ab dem 1. Juli 2027.

Kaliforniens Gouverneur Gavin Newsom kündigte die Unterzeichnung anmehrerer arbeitsplatzbezogener Gesetze am 30. September. In seiner Zusammenfassung fasste er sie als Schutz vor KI und Überwachung zusammen. Die verabschiedeten Gesetzestexte enthalten drei unterschiedliche Regeln: Eine regelt bestimmte Entscheidungen mithilfe eines automatisierten Entscheidungssystems, eine ergänzt bestehende Mitteilungen zu Massenentlassungen um Angaben zur Technologie, und eine beschränkt bestimmte Formen der KI-Überwachung.

Was sich grundlegend ändert

  • Was sich ändert: Kalifornien führt nun getrennte Prüfungen für automatisierte Disziplinarmaßnahmen und Kündigungen ein, ergänzt bereits vorgeschriebene Mitteilungen zu Massenentlassungen um Angaben zur Technologie und beschränkt das Ableiten von Emotionen sowie das Erfassen neuronaler Daten am Arbeitsplatz. Jede Regel hat einen eigenen Auslöser. (SB 947, SB 951 und AB 1883)
  • Warum es wichtig ist: Beschäftigte, die von einer überwiegend auf einem automatisierten System beruhenden Entscheidung betroffen sind, können erfahren, welche ihrer Daten verwendet wurden, und sich wegen der Entscheidung an eine Person wenden. Die öffentlichen Zusammenfassungen des Employment Development Department weisen in erfassten Mitteilungen zu Arbeitsplatzverlusten genannte Automatisierung aus. Wegen der bestehenden Cal/WARN-Schwellenwerte werden andere Arbeitsplatzverluste dort nicht erfasst.
  • Was zu beobachten ist: SB 951 und AB 1883 sollen am 1. Januar 2027 in Kraft treten; SB 947 gilt ab dem 1. Juli. Das Ministerium muss Zusammenfassungen der Mitteilungen veröffentlichen und bis zum 1. Januar 2028 über KI und Einstellungspraktiken berichten. Ob diese neuen Regeln auf eine konkrete Entscheidung, Mitteilung oder ein Werkzeug am Arbeitsplatz anwendbar sind, hängt jeweils vom gesetzlichen Auslöser ab.

Automatisierte Disziplinar- und Kündigungsentscheidungen müssen von einer Person bestätigt werden

SB 947 definiert ein automatisiertes Entscheidungssystem weit genug, um rechnergestützte Verfahren einzuschließen, die auf maschinellem Lernen, statistischer Modellierung, Datenanalyse oder KI beruhen und eine Bewertung, Einstufung oder Empfehlung für eine Entscheidung erzeugen, die Menschen wesentlich betrifft. Werkzeuge wie Spamfilter, Antivirensoftware, Taschenrechner und Datenbanken sind ausgenommen. Die Entscheidungsregel betrifft Disziplinarmaßnahmen und Kündigungen und nicht jede Nutzung von KI bei Einstellung oder Management.

Nach Abschnitt 1522 des Labor Code darf ein Arbeitgeber für keine der beiden Entscheidungen ausschließlich auf ein solches System vertrauen. Stützt er sich hauptsächlich auf dessen Ergebnis, muss eine Person die Entscheidung anhand der zugrunde liegenden Daten oder anderer relevanter Belege bestätigen. Das Gesetz nennt Bewertungen durch Vorgesetzte, Personalakten, Arbeitsergebnisse, Peer-Reviews und Zeugengespräche als mögliche Quellen. Lässt sich das Ergebnis nicht bestätigen oder hält die prüfende Person es für unzutreffend, unvollständig oder irreführend, darf der Arbeitgeber es für diese Entscheidung nicht verwenden.

In diesem Fall muss der Arbeitgeber der betroffenen beschäftigten Person die Entscheidung gesondert schriftlich mitteilen. Die Mitteilung muss erklären, dass eine Person das Ergebnis geprüft und bestätigt hat, eine menschliche Ansprechperson nennen und das Recht erläutern, eine aussagekräftige, objektive Beschreibung der eigenen, vom System verwendeten Daten anzufordern. Die Beschreibung muss personenbezogene Daten anderer Personen anonymisieren. Abschnitt 1522 verbietet außerdem, solche Systeme zu verwenden, um einen geschützten Status abzuleiten, die Ausübung gesetzlicher Rechte vorherzusagen und deswegen zu bestrafen oder die Einhaltung von Arbeits- und Bürgerrechtsgesetzen zu verhindern.

Das Gesetz gilt vorbehaltlich seiner Bestimmungen für die darin definierten Arbeitgeber, darunter öffentliche Stellen. Parteien eines Tarifvertrags sind nur dann ausgenommen, wenn der Vertrag das Gesetz ausdrücklich abbedingt, Arbeitsbedingungen festlegt und Schutz vor algorithmischem Management bietet. Eine gesonderte Ausnahme gilt für die Nutzung eines automatisierten Systems, soweit sie durch ein Bundesgesetz, eine Bundesverordnung oder einen verbindlichen Bundesvertrag vorgeschrieben oder zu dessen Einhaltung vernünftigerweise erforderlich ist und sich auf die Entwicklung von Luftfahrzeugen für den Einsatz im nationalen Luftraum oder die Entwicklung von Produkten oder Dienstleistungen für Zwecke der nationalen Sicherheit, des Militärs, der Raumfahrt oder Verteidigung bezieht. Sie gilt nur für Tätigkeiten, die von dieser bundesrechtlichen Vorgabe erfasst sind.

Angaben zur Automatisierung ergänzen bestehende Cal/WARN-Mitteilungen

SB 951 ändert Kaliforniens bestehende 60-Tage-Mitteilungspflicht bei Massenentlassungen, Verlagerungen oder Betriebsschließungen an erfassten Standorten. Ein erfasster Standort beschäftigt mindestens oder beschäftigte innerhalb der vergangenen zwölf Monate mindestens 75 Personen. Eine Massenentlassung bedeutet, dass in einem beliebigen Zeitraum von 30 Tagen 50 oder mehr Beschäftigte an einem solchen Standort betroffen sind. Das Gesetz definiert eine Verlagerung gesondert als Umzug aller oder nahezu aller Betriebsabläufe um mindestens 100 Meilen und eine Beendigung als Einstellung oder weitgehende Einstellung des Betriebs. Für die Mitteilung gilt als beschäftigte Person, wer in den letzten zwölf Monaten mindestens sechs Monate beschäftigt war.

Wenn ein Arbeitgeber bereits nach Cal/WARN zur Mitteilung verpflichtet ist und das Ereignis ganz oder zu einem wesentlichen Teil dadurch verursacht wurde, dass KI oder andere automatisierte Technologie Stellen ersetzt oder automatisiert, muss die Mitteilung die Zahl, Berufsgruppen oder Tätigkeiten und Arbeitsorte der betroffenen Entlassungen, die zu automatisierenden Aufgaben sowie die Art der eingesetzten Technologie nennen. Oben muss der Satz «Diese Mitteilung betrifft einen technologiebedingten Arbeitsplatzabbau» stehen. Das Employment Development Department muss Zusammenfassungen solcher Mitteilungen sowie eine landesweite vierteljährliche Zusammenfassung veröffentlichen.

Die Änderung macht nicht jeden KI-bedingten Arbeitsplatzverlust zu einem mitteilungspflichtigen Ereignis. Sie verpflichtet das Ministerium außerdem, dem Parlament bis zum 1. Januar 2028 über KI und Einstellungspraktiken zu berichten. Dazu gehören mögliche Empfehlungen für eine künftige Mitteilungspflicht, wenn Arbeitgeber die Einstellung oder Beauftragung für eine Stelle wegen Automatisierung dauerhaft einstellen. Diese mögliche künftige Pflicht ist Gegenstand des Berichts und wird durch dieses Gesetz nicht eingeführt.

Nach dem bestehenden Kapitel sind außerdem bestimmte befristete Projekt- und Saisonbeschäftigungen ausgenommen. Bei einem durch eine Naturkatastrophe oder Kriegshandlung erforderlichen Ereignis entfällt die Mitteilungspflicht. Diese Grenzen gelten auch bei Technologieeinsatz.

Grenzen für das Ableiten von Emotionen und das Erfassen neuronaler Daten durch KI

AB 1883 gilt für ein KI-gestütztes Arbeitsplatzüberwachungsinstrument, das bei Beschäftigten eingesetzt wird. Abschnitt 1581 des Labor Code verbietet dessen Verwendung, um den emotionalen Zustand einer Person zu erkennen, abzuleiten oder vorherzusagen oder neuronale Daten zu erfassen. Das Gesetz definiert neuronale Daten als Informationen, die durch Messung von Aktivitäten im zentralen oder peripheren Nervensystem einer beschäftigten Person erzeugt werden; Schlussfolgerungen aus nicht-neuronalen Informationen sind ausgeschlossen. Als Arbeitgeber gelten auch staatliche Stellen und Arbeitskräfteverleiher.

Laut Gesetz dürfen Arbeitgeber Überwachungsinstrumente am Arbeitsplatz zur Sicherheit oder für andere Zwecke einsetzen, sofern diese nicht unter eine der beiden verbotenen Vorgaben fallen. Eine Ausnahme gilt auch für die Entwicklung von Luftfahrzeugen für den Einsatz im nationalen Luftraum oder die Entwicklung von Produkten oder Dienstleistungen für Zwecke der nationalen Sicherheit, des Militärs, der Raumfahrt oder Verteidigung. Diese Ausnahme gilt nur für Tätigkeiten, die von einem Bundesgesetz, einer Verordnung oder einem verbindlichen Bundesvertrag erfasst werden und bei denen der Einsatz des Instruments vernünftigerweise erforderlich ist, um die bundesrechtliche Vorgabe einzuhalten. Die Sicherheitsklausel steht gesondert neben der Beschränkung anderer Nutzungen; das Gesetz verbietet nicht jede Überwachung am Arbeitsplatz.

Der Gouverneur fasste auch AB 1331 mit diesen Maßnahmen zusammen. Dieses separate Gesetz betrifft Überwachung in Toiletten am Arbeitsplatz, auch mit Werkzeugen ohne KI. Die Toilettenregel ist kein speziell auf KI bezogenes Verbot.

Unterschiedliche Termine

Die Statusangaben des Parlaments kennzeichnen alle drei Gesetze als nicht dringlich. Artikel IV, Abschnitt 8(c) der kalifornischen Verfassung sieht für SB 951 und AB 1883 den 1. Januar 2027 vor. SB 947 legt ausdrücklich fest, dass sein neuer Teil des Labor Code am 1. Juli 2027 gilt. Als am 1. Oktober nachgesehen wurde, war die Zustimmung des Gouverneurs auf der Statusseite zu AB 1883 noch nicht vermerkt; seine Unterzeichnungsmitteilung vom 30. September bestätigt sie.

Quellen und weiterführende Informationen