Autonome Personalauswahl-Systeme: Im Lichte des arbeitsrechtlichen Antidiskriminierungs- und Gleichbehandlungsrechts sowie der KI-Verordnung

Dr. Til Rieger LL.M.

doi:10.5771/9783748971795

Summary

The use of autonomous algorithms in the workplace raises new questions regarding protection against discrimination and poses significant challenges for equality legislation. This thesis develops criteria for the legal assessment of algorithmic decision-making processes and relates technical discrimination risks to the protection against discrimination under labour law as set out in the General Equal Treatment Act (AGG), the principles of equal treatment and the european AI Regulation. In this context, the right to bring a collective action under Section 17(2) AGG is examined as an instrument of collective legal protection. The thesis is aimed at both academia and practitioners in the fields of labour and anti-discrimination law.

Keywords

Search publication

Bibliographic data

Edition: 1/2026
Copyright Year: 2026
ISBN-Print: 978-3-7560-4318-7
ISBN-Online: 978-3-7489-7179-5
Publisher: Nomos, Baden-Baden
Series: Studien zum deutschen und europäischen Arbeitsrecht
Volume: 123
Language: German
Pages: 373
Product Type: Monograph

1. Vorwort No access
2. 1. Hinweis zur inklusiven Sprache No access
1. § 1 Einleitung No access
2. 1. A. Autonome Personalauswahl-Systeme (APA-Systeme) No access
  2. B. Distanzierung vom Begriff der künstlichen Intelligenz No access
3. § 3 Rechtsrahmen und Untersuchungsgang No access
1. 1. A. Algorithmen No access
  2. 1. I. Automatisierung No access
    2. 1. 1. Autonomiebegriff No access
      2. 2. Gradueller Charakter autonomer Systeme No access
    3. III. Zwischenergebnis No access
  3. 1. 1. 1. Mustererkennung durch Data Mining No access
      2. a) Überwachtes Lernen No access
        b) Unüberwachtes Lernen No access
        c) Verstärkendes Lernen No access
        d) Deep Learning No access
      3. 3. Zwischenergebnis No access
    2. 1. 1. Big Data als Grundlage No access
      2. 2. Datenqualität No access
      3. a) Erhebung von Daten No access
        b) Bezug bestehender Daten No access
        c) Generierung synthetischer Daten No access
        d) Zwischenergebnis No access
    3. III. Einsatz im Entscheidungsprozess des APA-Systems No access
    4. 1. 1. Erheblichkeit von Intransparenz No access
      2. 2. Graduelle (In-)Transparenz No access
      3. 3. Vergleich zur Erklärbarkeit menschlicher Entscheidungen No access
      4. 4. Doppelter Black Box-Charakter No access
      5. 5. Zwischenergebnis No access
  4. D. Ergebnis No access
2. 1. A. Begriff der Verzerrung No access
  2. 1. 1. a) Stichprobenverzerrung No access
        b) Historische Verzerrungen No access
        c) Rückgriff auf Stellvertreter No access
        d) Zwischenergebnis No access
      2. a) Definitionsverzerrungen No access
        b) Modellverzerrungen No access
        c) Zwischenergebnis No access
      3. a) Interpretationsverzerrungen No access
        b) Feedback-Schleifen No access
        c) Zwischenergebnis No access
      4. 4. Zwischenergebnis No access
    2. II. Gesellschaftliche Verzerrungen No access
    3. III. Bewusstes Ausnutzen von Verzerrungseffekten im Algorithmus No access
    4. IV. Zwischenergebnis No access
  3. 1. 1. a) Kollision der Fairnessmaßstäbe No access
        b) Fairness by Unawareness No access
        c) Fairness versus Genauigkeit No access
      2. 2. Intransparenz No access
    2. 1. aa) Entfernung von sensiblen Merkmalen No access
        bb) Anpassung und Kontextualisierung von Datenstrukturen No access
        cc) Nutzung synthetischer Datensätze No access
        b) Modelloptimierung (In-Processing Approach) No access
        c) Nachverarbeitung (Post-Processing Approach) No access
      2. 2. Organisatorische Maßnahmen No access
    3. III. Zwischenergebnis No access
  4. D. Ergebnis No access
3. 1. 1. I. Vorschlagssysteme auf Personalplattformen No access
    2. II. Chatbots No access
    3. III. Video- und Sprachanalyse zur Persönlichkeitsbewertung No access
    4. IV. Background-Checking No access
  2. 1. I. Anweisungen No access
    2. II. Leistungsbewertung No access
    3. III. Beförderung und Vergütung No access
  3. C. Auflösung des Arbeitsverhältnisses No access
  4. D. Ergebnis No access
1. § 1 Gleichheitsrechtliche Rahmenbedingungen beim Einsatz von APA-⁠Systemen No access
2. 1. 1. 1. a) Grundannahme No access
        b) Abstrahierung von Gefahr und Individualbetroffenheit No access
      2. 2. Während des Beschäftigungsverhältnisses No access
    2. 1. 1. Zugang zum Beschäftigungsverhältnis No access
      2. 2. Während des Beschäftigungsverhältnisses No access
    3. III. Verhältnis von Antidiskriminierungs- und Datenschutzrecht No access
    4. IV. Zwischenergebnis No access
  2. 1. I. Katalog des § 1 AGG No access
    2. 1. aa) Menschliches Verhalten im Behandlungsbegriff No access
        (1) Behandlungsqualität der Rechenschritte eines APA-Systems No access
        (2) Opferlose Diskriminierung No access
        cc) Zwischenergebnis No access
        b) Weniger günstig No access
        aa) Kausalität einzelner Merkmale im multifaktoriell bedingten Ergebnis No access
        (1) Wissenszurechnung bei entscheidungsunterstützenden Systemen No access
        (2) Wissenszurechnung bei entscheidungsersetzenden Systemen No access
        (3) Zwischenergebnis No access
        cc) Kausalität tatsächlich nicht vorliegender Merkmale No access
        d) Zwischenergebnis No access
      2. (1) Vergleichsgruppe No access
        (2) Grundsätze der Beeinträchtigung durch APA-Systeme No access
        (3) Einordnung gesellschaftlicher Verzerrungen als mittelbare Benachteiligung No access
        bb) „In besonderer Weise“ No access
        cc) Zwischenergebnis No access
        aa) Rechtmäßigkeit des Zieles No access
        bb) Geeignetheit No access
        (1) Vergleich zur menschlichen Entscheidung No access
        (2) Vergleich zur angepassten Methode No access
        (1) Grundsätzlicher Umgang mit verzerrten APA-Systemen, Innovationsdruck, Risikoverlagerung und Abwägung No access
        (2) Angemessenheit als Korrektiv der Motivbündel-Rechtsprechung No access
        (3) Kosten als Abwägungsfaktor No access
        (4) „Ausfluss struktureller Diskriminierungen“ als abwägungserhebliches Element? No access
        (5) Automatisierungsstufen als praktischer Richtwert No access
        ee) Zwischenergebnis No access
    3. 1. aa) Algorithmische Ermittlung einer beruflichen Anforderung No access
        bb) Einordnung von Drittpräferenzen No access
        b) Zweite Stufe: Angemessenheit No access
        c) Zwischenergebnis No access
      2. a) Auszugleichende und zu verhindernde Nachteile im algorithmischen Kontext No access
        b) Algorithmische Implikationen in der Auslegung des Maßnahmenbegriffes No access
        c) Verhältnismäßigkeit No access
        d) Zwischenergebnis No access
    4. IV. Adressat des Benachteiligungsverbotes No access
    5. V. Zwischenergebnis No access
  3. 1. 1. a) Ausgangslage No access
        b) Schulungspflichten als Auslegungsergebnis No access
        c) Einbeziehung von Normen der KI-VO No access
      2. 2. APA-Systeme zur Erfüllung antidiskriminierungsrechtlicher Organisations- und Schutzpflichten No access
    2. II. Aufforderung zur Mitwirkung gemäß § 17 Abs. 1 AGG No access
    3. III. Zwischenergebnis No access
  4. 1. 1. aa) (Un-)Vereinbarkeit mit dem Unionsrecht und Konsequenz No access
        bb) Verhalten des Arbeitgebers No access
        (1) Personalverantwortliche Arbeitnehmer No access
        (a) Einordnung als Erfüllungsgehilfe No access
        (b) Einbezogene Pflichten No access
        (3) Vorschlagssysteme und Personalplattformen No access
        (4) Regressmöglichkeit No access
        dd) Zurechnung maschineller Entscheidungen No access
        ee) Zwischenergebnis No access
        b) Exkulpation durch den Arbeitgeber No access
        c) Rechtsfolge: Schadensersatz No access
      2. 2. Verschuldensunabhängiger Entschädigungsanspruch aus § 15 Abs. 2 AGG No access
      3. 3. Schadensersatz und Entschädigung bei opferloser Diskriminierung? No access
      4. 4. Konkurrenz zu Ansprüchen außerhalb vom AGG No access
      5. 5. Zwischenergebnis No access
    2. 1. 1. Prozessbeistand gemäß § 23 Abs. 2 S. 1 AGG No access
      2. a) Tatbestand und Rechtsfolgen No access
        b) Bewertung No access
      3. 3. Instrumente außerhalb des AGG No access
      4. 4. Zwischenergebnis No access
    3. III. Zwischenergebnis No access
  5. 1. 1. 1. Vorliegen und Erkennen einer algorithmischen Benachteiligung No access
      2. a) Vergleich zu analogen Entscheidungen No access
        b) Flankierende Informations- und Auskunftsansprüche No access
        c) Verwendung eines APA-Systems als hinreichende Vermutungstatsache No access
      3. 3. Vollbeweis durch den Arbeitgeber No access
    2. II. Beweislast bei kollektivrechtlichen Ansprüchen aus § 17 Abs. 2 AGG i. V. m. § 23 Abs. 3 BetrVG No access
    3. III. Zwischenergebnis No access
  6. F. Ergebnis No access
3. 1. 1. I. Schlechterstellung durch APA-Systeme zur Vergütungsbeurteilung No access
    2. II. Schlechterstellung durch APA-Systeme bei Weisung No access
    3. III. Zwischenergebnis No access
  2. B. Inhalt der Gleichbehandlungspflicht: Sachliche Rechtfertigung einer Schlechterstellung No access
  3. C. Rechtsfolgen, Darlegungs- und Beweislast No access
  4. D. Ergebnis No access
4. 1. A. Horizontalwirkung von Art. 3 GG und Bedeutung für APA-Systeme No access
  2. B. Kollisionsrechtliche Auflösung No access
  3. C. Exkurs: Charta der Grundrechte der Europäischen Union No access
  4. D. Ergebnis No access
5. 1. 1. I. Konzeption No access
    2. 1. 1. Zeitlicher Anwendungsbereich No access
      2. 2. Sachlicher Anwendungsbereich No access
      3. 3. Persönlicher Anwendungsbereich No access
    3. 1. 1. Verbotene KI-Praktiken gemäß Art. 5 KI-VO No access
      2. 2. Hochrisiko-KI-Systeme gemäß Art. 6 KI-VO No access
      3. 3. KI-Systeme mit beschränktem und minimalem Risiko No access
      4. 4. KI-Systeme mit allgemeinem Verwendungszweck No access
    4. IV. Zwischenergebnis No access
  2. 1. I. Inverkehrbringen, Inbetriebnahme und Verwendung verbotener KI-Systeme No access
    2. 1. 1. Risikomanagementsystem gemäß Art. 9 KI-VO No access
      2. 2. Anforderungen an Daten gemäß Art. 10 KI-VO No access
      3. a) Technische Dokumentation und Aufzeichnung gemäß Art. 11, 12 KI-VO No access
        aa) Technisch-funktionale Anforderungen gemäß Art. 13 Abs. 1 KI-VO No access
        bb) Mitteilungspflichten gemäß Art. 13 Abs. 2 und 3 KI-VO No access
        c) Transparenzpflichten gemäß Art. 50 KI-VO No access
      4. 4. Menschliche Aufsicht gemäß Art. 14 KI-VO No access
      5. 5. Zwischenergebnis No access
    3. 1. 1. Organisationspflicht nach Art. 26 Abs. 1 KI-VO No access
      2. 2. Menschliche Aufsicht gemäß Art. 26 Abs. 2 KI-VO No access
      3. 3. Pflichten bzgl. Datensätze gemäß Art. 26 Abs. 4 KI-VO No access
      4. a) Informationspflichten gemäß Art. 26 Abs. 7 und 11 KI-VO No access
        b) Transparenzpflichten gemäß Art. 50 Abs. 3 KI-VO No access
        aa) Eigenständiger Bedeutungsgehalt von Art. 86 Abs. 1 KI-VO neben der DSGVO No access
        bb) Zwischenergebnis No access
      5. 5. Zwischenergebnis No access
  3. 1. I. Aufsichtsstruktur und Governance No access
    2. II. Sanktionen No access
    3. III. Rechtsbehelfe No access
    4. IV. Zwischenergebnis No access
  4. 1. I. Verhältnis von KI-VO zum Gleichbehandlungs- und Antidiskriminierungsrecht No access
    2. II. Erweiterung der Organisationspflichten No access
    3. III. Fehlende Instrumente zur Rechtsdurchsetzung No access
    4. 1. 1. Auswirkungen auf Individualverfahren No access
      2. 2. Auswirkungen auf Kollektivverfahren No access
    5. V. Präventive Mechanismen zur Diskriminierungsvermeidung No access
    6. VI. Zwischenergebnis No access
  5. 1. I. Inhalt des KI-HaftRL-E No access
    2. II. Auswirkungen auf den Untersuchungsgegenstand No access
  6. F. Ergebnis No access
1. I. Technologische Aspekte No access
2. II. Anforderungen nach dem AGG No access
3. III. Anforderungen nach dem arbeitsrechtlichen Gleichbehandlungsgrundsatz No access
4. IV. Anforderungen nach dem GG No access
5. V. Anforderungen nach der KI-VO No access
Literaturverzeichnis No access Pages 339 - 372