IT-Mitbestimmung 4.0: KI-Systeme als technische Überwachungseinrichtungen im Sinne von § 87 Abs. 1 Nr. 6 BetrVG

Dr. Niclas Herboth

doi:10.5771/9783748973669

Summary

This book examines works council co-determination in the deployment of AI-based employee monitoring – one of the most pressing questions facing German labour law today. Its starting point is the observation that AI systems monitor employees in ways fundamentally different from conventional software, posing new challenges for the co-determination right under section 87 (1) no. 6 of the Works Constitution Act (BetrVG). The study explores whether a works council can block the introduction of an AI system altogether, how the law should deal with systems whose inner workings remain opaque, and what role co-determination plays when employers implement their obligations under the EU AI Act.

Keywords

Search publication

Bibliographic data

Edition: 1/2026
Copyright Year: 2026
ISBN-Print: 978-3-7560-2537-4
ISBN-Online: 978-3-7489-7366-9
Publisher: Nomos, Baden-Baden
Series: Theorie und Praxis des Arbeitsrechts
Volume: 29
Language: German
Pages: 295
Product Type: Monograph

1. Vorwort No access
1. 1. 1. Gesteigerte Kontrollinteressen der Arbeitgeber No access
  2. 1. 1. aa) Mustererkennung aus großen Datenmengen No access
      2. bb) Weiterlernende Systeme und dauerhafter Abgleich mit erwartetem Verhalten No access
      3. cc) Weg von Analyse und Aufdeckung, hin zu Vorhersage und Verhinderung No access
    2. 1. aa) Kombination von moderner Sensorik und KI-gestützter Datenauswertung No access
      2. bb) Möglichkeit der lückenlosen Überwachung durch die KI No access
    3. c) Granulare Persönlichkeitsanalysen mithilfe von KI No access
    4. d) Flexible Einsetzbarkeit von leistungsfähigen Rechenmodellen No access
    5. e) Zusammenfassung No access
  3. 1. a) Gefahr der Intransparenz und Willkür No access
    2. b) Emergente KI-Systeme No access
    3. c) Halluzinationen No access
    4. d) Verzerrung durch AI-Bias No access
2. II. Das juristische Problem No access
3. III. Gang der Untersuchung No access
1. I. Der Arbeitnehmer als Objekt des KI-Überwachungssystems? No access
2. 1. 1. Tiefgehender Eingriff in die allgemeinen Persönlichkeitsrechte No access
  2. 2. Einschränkung des arbeitgeberseitigen Handlungsermessens durch Mitbestimmung No access
3. III. Schutz vor Dauerüberwachung No access
4. 1. 1. Mitbestimmung entgegnet willkürlichen Überwachungsaussagen No access
  2. 2. Mitbestimmung zur Verhinderung asymmetrischer Machtverhältnisse No access
5. 1. 1. a) KI verschiebt Fokus der Mitbestimmung auf Input und Output No access
    2. b) KI macht begleitende Prozesse erforderlich No access
  2. 2. Akzeptanzeffekt der Mitbestimmung No access
6. 1. 1. a) Verhinderung der Einführung bei negativer Interessenabwägung No access
    2. 1. aa) Negative Beschäftigungseffekte nicht zu berücksichtigen No access
      2. bb) KI-Systeme erforderlich für den zukünftigen Fortbestand der Unternehmen No access
    3. c) Grundsätzlich: Ausreichende Absicherung der Belange durch KI-VO und DS‑GVO No access
  2. 2. Ausgestaltung der Überwachung No access
1. 1. 1. Software als technische Einrichtung No access
  2. 1. a) Überwachung durch Erhebung von Verhaltens- und Leistungsdaten No access
    2. b) Überwachung durch Erstellung von Aussagen über Leistung und Verhalten No access
    3. c) Programmgemäße Überwachung als taugliche Differenzierung No access
    4. d) Die Bestimmung zur Überwachung No access
2. II. Logfiles im Fokus der IT-Mitbestimmung No access
3. III. Überwachungswahrscheinlichkeit als neues Kriterium? No access
4. IV. Fokus der Mitbestimmung auf die Fähigkeiten der Software No access
5. 1. 1. Keine Mitbestimmung bei der Verarbeitung anonymisierter Daten No access
  2. 2. Überwachung von Arbeitnehmergruppen No access
6. 1. 1. Ausgestaltung des Bewerbermanagement-Tools entscheidend für Eröffnung der Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG No access
  2. 2. Sonderkonstellation: Interne Bewerber-Systeme No access
7. 1. 1. Digitalisierungsmaßnahmen als Kern der unternehmerischen Entscheidung? No access
  2. 2. Keine allgemeine Begrenzung der Mitbestimmung durch die unternehmerische Entscheidungsfreiheit No access
  3. 3. Berücksichtigung der unternehmerischen Belange No access
8. 1. 1. Verhältnis Arbeitgeber zu Betriebsrat No access
  2. 2. Verhältnis Arbeitgeber zu Arbeitnehmer No access
  3. 3. (Keine) Beweisverwertungsverbote wegen unterbliebener Betriebsratsbeteiligung No access
1. 1. 1. Überwachung durch Datenerhebung – Leistungs- und Verhaltensdaten im KI-Zeitalter No access
  2. 1. a) Keine Überwachung durch Verarbeitung von anonymisierten Daten No access
    2. b) Überwachung durch Datenverarbeitung – Programmgemäße Überwachungsaussagen bei KI-Systemen No access
  3. 1. a) Prompt maßgeblich für programmgemäße Überwachung No access
    2. 1. aa) Ausnahme: Vordefinierter Systemprompt oder Einsatz von Filtern No access
      2. bb) Weisung nicht ausreichend No access
  4. 4. KI-Systeme als „bloßes Hilfsmittel“ No access
  5. 1. a) Arbeitsgericht Hamburg zur KI-Nutzung über Privataccounts No access
    2. b) Allgemeine Übertragbarkeit der Wertungen auf SaaS-KI-Anwendungen No access
    3. c) Kritik in der Literatur No access
    4. d) Zurechenbarkeit des Überwachungsdrucks No access
    5. e) Maßgeblich: Überwachungsfähigkeiten der Software No access
  6. 6. Zwischenergebnis No access
2. 1. 1. KI-spezifische Gefährdungen machen KI-spezifische Regelungen erzwingbar No access
  2. 1. a) Überwachung nur durch Logfile-Erhebung – KI-Komponente ohne Bezug zur Überwachung No access
    2. b) Überwachung durch KI-System No access
    3. c) Auswirkung auf die Mitgestaltungsrechte im Rahmen der KI-VO No access
3. 1. 1. a) Fiktion der Erforderlichkeit der Hinzuziehung No access
    2. b) Abkehr vom Vorrang der innerbetrieblichen Kenntnisverschaffung No access
  2. 1. 1. aa) Definitionsansätze in der Literatur No access
      2. (1) KI-Begriff der KI-VO No access
        (2) Argumente für eine Heranziehung der Definition im Rahmen des BetrVG No access
    2. b) Konkreter Aufgabenbezug als immanente Einschränkung No access
4. 1. 1. Zuständigkeit bei der Einführung von KI-getriebener Software No access
  2. 2. Zuständigkeit bei KI-Training und Testläufen No access
  3. 3. Auslagerung auf Ausschüsse No access
  4. 4. Ethikrat nicht erzwingbar No access
5. V. Zwischenergebnis No access
1. 1. 1. Kein umfassendes Datenschutz-Mitbestimmungsrecht No access
  2. 2. Mitbestimmung bei der datenschutzrechtlichen Ausgestaltung der Leistungs- und Verhaltenskontrolle No access
  3. 3. Nicht ausschließlich Mitbeurteilungsrecht No access
2. 1. 1. Kein umfassendes erzwingbares KI-VO Mitbestimmungsrecht No access
  2. 2. Bestehen von zwingenden gesetzlichen Regelungen ohne Beurteilungsspielraum – § 87 Abs. 1 ES BetrVG als Schranke der Mitbestimmung No access
  3. 3. Mitbestimmung durch Mitgestaltung No access
  4. 1. a) Mitbeurteilung der Zulässigkeit der Einrichtung nach der KI-VO No access
    2. b) Gerichtliche Überprüfbarkeit des Mitbeurteilungsrechts No access
  5. 1. 1. aa) Feststellung der KI-Eigenschaft als Ergebnis einer Subsumtion No access
      2. bb) Beurteilung obliegt Anbieter No access
      3. cc) Verantwortung des Arbeitgebers für fehlerhafte Einschätzung No access
    2. 1. aa) Predictive Policing (Art. 5 Abs. 1 lit. d KI-VO) No access
      2. bb) Emotionserkennung am Arbeitsplatz (Art. 5 Abs. 1 lit. f KI-VO) No access
    3. 1. aa) Risikoklassifizierung durch Anbieter No access
      2. bb) Ausnahmetatbestand Art. 6 Abs. 3 KI-VO No access
      3. (1) Keine allgemeine Prüfungspflicht für den Betreiber No access
        (2) Prüfungspflicht bei offensichtlich fehlerhafter Einschätzung No access
      4. (1) Mitbeurteilung bei Frage der offensichtlichen Fehlerhaftigkeit No access
        (2) Mitbeurteilung bei Einhaltung der Restriktionen durch Arbeitgeber No access
    4. 1. aa) Regelfall: Arbeitgeber als Betreiber No access
      2. (1) Outsourcing-Entscheidung als zugrundeliegende Entscheidung nicht mitbestimmt No access
        (2) Keine Beurteilungsspielräume bei Bestimmung der Rolle No access
      3. (1) (Mit-)Beurteilung liegt in Sphäre des Betreibers No access
        (2) Aufschwingen durch „wesentliche Veränderung“ des Systems No access
        (3) Aufschwingen durch Änderung der Zweckbestimmung No access
        (4) Mitbeurteilung bei wertender Einzelfallbetrachtung No access
    5. 1. aa) Mitgestaltungsrechte nur bei Pflichten, die dem Arbeitgeber in seiner Rolle zugewiesen sind No access
      2. bb) Einfluss der Outsourcing-Konstellationen auf die Mitbestimmung No access
    6. 1. aa) Sicherstellung der KI-VO-Compliance als zentrale Anbieteraufgabe No access
      2. bb) Keine umfassende Überprüfungspflicht des Betreibers No access
      3. cc) Überprüfungspflicht bei offensichtlicher Fehlbeurteilung und darauf bezogenes Mitbeurteilungsrecht No access
  6. 6. KI-VO Kontrollfunktion (§ 80 Abs. 1 Nr. 1 BetrVG) No access
3. III. Zusammenfassung No access
1. 1. 1. Zeitpunkt der erstmaligen Beteiligung No access
  2. 2. Kein Initiativrecht zur Einführung No access
2. 1. 1. a) Regelfall: Keine Mitbestimmung No access
    2. b) Sonderfall: Hinweise auf Training mit Leistungs- und Verhaltensdaten No access
  2. 1. a) Argumente für ein Mitauswahlrecht No access
    2. 1. aa) Orientierung am Schutzzweck der Norm No access
      2. bb) Mitauswahlrecht weder erforderlich noch angemessen No access
3. 1. 1. Möglichkeiten der unternehmensspezifischen Anpassung No access
  2. 1. 1. aa) Neuer Erkenntnisgewinn aus Trainingsdaten führt zur Mitbestimmungspflichtigkeit No access
      2. bb) Training mit personenbezogenen Daten als datenschutzrechtliche Herausforderung No access
    2. b) Fine-Tuning mit anonymisierten Daten No access
    3. c) Fine-Tuning mit Eingabedaten der Arbeitnehmer No access
    4. d) Auslagerung des Trainings auf Dritte No access
    5. 1. aa) Beteiligung beim ausschließlichen Training durch den Anbieter No access
      2. (1) Mitbeurteilung und Mitauswahl der Datensätze No access
        (2) Betriebsrat kann Datengrundlage nicht vorgeben No access
  3. 1. a) Literaturansicht: Vernetzung nicht mitbestimmt No access
    2. 1. aa) Datengrundlage entscheidend für Intensität der Überwachung No access
      2. bb) Fokus auf Eingabedaten bei mangelnder Systemtransparenz No access
      3. cc) Mitbeurteilung bei Einrücken in Anbieterstellung No access
  4. 4. Zwischenergebnis No access
4. 1. 1. Mitbestimmung erfordert Transparenz No access
  2. 1. a) Keine Pflicht zur Offenlegung von Algorithmus und Gewichten aus der KI-VO No access
    2. b) Herkömmliche Offenlegungspflicht bei KI-Systemen untauglich No access
    3. c) EuGH: Counterfactual Explanations No access
  3. 3. Eigener Lösungsansatz: Transparenz durch Simulation No access
  4. 4. Praktische Umsetzung im Kontext der Mitbestimmung No access
  5. 5. Transparenzanforderungen abhängig von der Art des Systems No access
  6. 6. Kein mitbestimmter Algorithmus mangels praktischer Umsetzbarkeit No access
5. 1. 1. Entscheidend – verwendete Daten No access
  2. 2. Vorgelagerte Testphase als solche nicht durch Betriebsrat erzwingbar No access
6. 1. 1. Mitbestimmung bei der Festsetzung des Zwecks No access
  2. 1. a) Erforderlichkeitsprüfung No access
    2. b) Einzustellende Interessen No access
    3. c) EuGH: Objektive Unerlässlichkeit No access
    4. d) „Praktikabilität“ und KI-Standardsoftware No access
  3. 1. a) Technische und organisatorische Maßnahmen als zentrale Betreiberpflicht No access
    2. 1. aa) Rollen und Berechtigungskonzepte No access
      2. bb) Lösch- und Korrekturmechanismen No access
      3. cc) Input- und Output-Filter No access
      4. dd) Digitale Notabschaltung No access
  4. 1. a) Entscheidung über aufsichtführende Personen nicht mitbestimmt No access
    2. 1. aa) Zustimmungsverweigerungsrecht nach § 99 Abs. 2 BetrVG bei Bestellung des Datenschutzbeauftragten No access
      2. (1) Zuweisung der menschlichen Aufsicht als Versetzung No access
        (2) Zustimmungsverweigerungsrecht No access
        (3) Erforderliche Qualifikation nach Art. 26 Abs. 2 KI-VO No access
  5. 1. a) Mitbestimmt: Regelungen für zulässige Überwachungsabfragen No access
    2. b) Nicht mitbestimmt: Allgemeine Nutzungsvorgaben No access
  6. 6. Aufbewahrung von Protokollen (Art. 26 Abs. 6 KI-VO) No access
  7. 1. a) Geringe Relevanz im Kontext der deutschen Mitbestimmung No access
    2. b) Keine Beschränkung der bestehenden Mitbestimmungsrechte No access
  8. 1. a) Pflicht zur Durchführung einer DSFA bei KI-Systemen No access
    2. 1. aa) DSFA nicht über Mitbestimmungsrecht aus DS‑GVO erzwingbar No access
      2. bb) DSFA nicht aus § 87 Abs. 1 Nr. 6 BetrVG erzwingbar No access
    3. c) Pflicht zur Beteiligung am Verfahren No access
    4. d) Vorteil der Einbeziehung des Betriebsrats No access
7. 1. 1. Erforderlich: Intensivierung der Überwachung No access
  2. 2. Eigener Lösungsansatz: Übertragung der Wertungen der erforderlichen erneuten Konformitätsbewertung No access
  3. 3. Wesentliche Änderungen bei selbstlernenden Systemen No access
  4. 1. a) Kriterium der Unvorhersehbarkeit No access
    2. b) Maßgeblich: Kenntnisstand im Zeitpunkt der Ausübung der Mitbestimmung No access
  5. 1. a) Grundproblem: Keine Kenntnis über die Veränderungen No access
    2. 1. aa) Ausgangspunkt: Faktische Blockademöglichkeit No access
      2. bb) Einschränkung über Interessenabwägung No access
      3. cc) Allgemeines Schutzniveau über KI-Rahmenbetriebsvereinbarung No access
    3. c) Mechanismus in Rahmenbetriebsvereinbarung und Auslagerung auf Ausschüsse No access
1. I. Arbeitnehmerüberwachung durch KI-Systeme No access
2. II. Mitbestimmung als strukturelles Gegengewicht zur Überwachung durch KI No access
3. III. Grundsätze der allgemeinen Softwaremitbestimmung bleiben anwendbar und werden punktuell ergänzt No access
4. IV. Besonderheiten der Mitbestimmung bei KI-Systemen No access
5. V. Mitgestaltung bei Betreiberpflichten und eingeschränkte Mitbeurteilung bei Anbieterpflichten No access
6. VI. Mitbestimmung erstreckt sich über den Lebenszyklus der KI-Systeme No access
Literaturverzeichnis No access Pages 275 - 294