Autonome Personalauswahl-Systeme: Im Lichte des arbeitsrechtlichen Antidiskriminierungs- und Gleichbehandlungsrechts sowie der KI-Verordnung

Dr. Til Rieger LL.M.

doi:10.5771/9783748971795

Zusammenfassung

Der Einsatz autonomer Algorithmen im Arbeitsverhältnis wirft neue Fragen des Diskriminierungsschutzes auf und stellt das Gleichbehandlungsrecht vor erhebliche Herausforderungen. Die Arbeit entwickelt Maßstäbe zur rechtlichen Bewertung algorithmischer Entscheidungsprozesse und führt technische Diskriminierungsrisiken dem arbeitsrechtlichen Diskriminierungsschutz aus AGG, Gleichbehandlungsgrundsätzen und KI-Verordnung zu. In diesem Kontext wird das Verbandsklagerecht nach § 17 Abs. 2 AGG als Instrument kollektiven Rechtsschutzes untersucht. Die Arbeit richtet sich an Wissenschaft und Praxis des Arbeits- und Antidiskriminierungsrechts.

Schlagworte

Publikation durchsuchen

Bibliographische Angaben

Auflage: 1/2026
Copyrightjahr: 2026
ISBN-Print: 978-3-7560-4318-7
ISBN-Online: 978-3-7489-7179-5
Verlag: Nomos, Baden-Baden
Reihe: Studien zum deutschen und europäischen Arbeitsrecht
Band: 123
Sprache: Deutsch
Seiten: 373
Produkttyp: Monographie

Inhaltsverzeichnis

KapitelSeiten

1. Vorwort Kein Zugriff
2. 1. Hinweis zur inklusiven Sprache Kein Zugriff
1. § 1 Einleitung Kein Zugriff
2. 1. A. Autonome Personalauswahl-Systeme (APA-Systeme) Kein Zugriff
  2. B. Distanzierung vom Begriff der künstlichen Intelligenz Kein Zugriff
3. § 3 Rechtsrahmen und Untersuchungsgang Kein Zugriff
1. 1. A. Algorithmen Kein Zugriff
  2. 1. I. Automatisierung Kein Zugriff
    2. 1. 1. Autonomiebegriff Kein Zugriff
      2. 2. Gradueller Charakter autonomer Systeme Kein Zugriff
    3. III. Zwischenergebnis Kein Zugriff
  3. 1. 1. 1. Mustererkennung durch Data Mining Kein Zugriff
      2. a) Überwachtes Lernen Kein Zugriff
        b) Unüberwachtes Lernen Kein Zugriff
        c) Verstärkendes Lernen Kein Zugriff
        d) Deep Learning Kein Zugriff
      3. 3. Zwischenergebnis Kein Zugriff
    2. 1. 1. Big Data als Grundlage Kein Zugriff
      2. 2. Datenqualität Kein Zugriff
      3. a) Erhebung von Daten Kein Zugriff
        b) Bezug bestehender Daten Kein Zugriff
        c) Generierung synthetischer Daten Kein Zugriff
        d) Zwischenergebnis Kein Zugriff
    3. III. Einsatz im Entscheidungsprozess des APA-Systems Kein Zugriff
    4. 1. 1. Erheblichkeit von Intransparenz Kein Zugriff
      2. 2. Graduelle (In-)Transparenz Kein Zugriff
      3. 3. Vergleich zur Erklärbarkeit menschlicher Entscheidungen Kein Zugriff
      4. 4. Doppelter Black Box-Charakter Kein Zugriff
      5. 5. Zwischenergebnis Kein Zugriff
  4. D. Ergebnis Kein Zugriff
2. 1. A. Begriff der Verzerrung Kein Zugriff
  2. 1. 1. a) Stichprobenverzerrung Kein Zugriff
        b) Historische Verzerrungen Kein Zugriff
        c) Rückgriff auf Stellvertreter Kein Zugriff
        d) Zwischenergebnis Kein Zugriff
      2. a) Definitionsverzerrungen Kein Zugriff
        b) Modellverzerrungen Kein Zugriff
        c) Zwischenergebnis Kein Zugriff
      3. a) Interpretationsverzerrungen Kein Zugriff
        b) Feedback-Schleifen Kein Zugriff
        c) Zwischenergebnis Kein Zugriff
      4. 4. Zwischenergebnis Kein Zugriff
    2. II. Gesellschaftliche Verzerrungen Kein Zugriff
    3. III. Bewusstes Ausnutzen von Verzerrungseffekten im Algorithmus Kein Zugriff
    4. IV. Zwischenergebnis Kein Zugriff
  3. 1. 1. a) Kollision der Fairnessmaßstäbe Kein Zugriff
        b) Fairness by Unawareness Kein Zugriff
        c) Fairness versus Genauigkeit Kein Zugriff
      2. 2. Intransparenz Kein Zugriff
    2. 1. aa) Entfernung von sensiblen Merkmalen Kein Zugriff
        bb) Anpassung und Kontextualisierung von Datenstrukturen Kein Zugriff
        cc) Nutzung synthetischer Datensätze Kein Zugriff
        b) Modelloptimierung (In-Processing Approach) Kein Zugriff
        c) Nachverarbeitung (Post-Processing Approach) Kein Zugriff
      2. 2. Organisatorische Maßnahmen Kein Zugriff
    3. III. Zwischenergebnis Kein Zugriff
  4. D. Ergebnis Kein Zugriff
3. 1. 1. I. Vorschlagssysteme auf Personalplattformen Kein Zugriff
    2. II. Chatbots Kein Zugriff
    3. III. Video- und Sprachanalyse zur Persönlichkeitsbewertung Kein Zugriff
    4. IV. Background-Checking Kein Zugriff
  2. 1. I. Anweisungen Kein Zugriff
    2. II. Leistungsbewertung Kein Zugriff
    3. III. Beförderung und Vergütung Kein Zugriff
  3. C. Auflösung des Arbeitsverhältnisses Kein Zugriff
  4. D. Ergebnis Kein Zugriff
1. § 1 Gleichheitsrechtliche Rahmenbedingungen beim Einsatz von APA-⁠Systemen Kein Zugriff
2. 1. 1. 1. a) Grundannahme Kein Zugriff
        b) Abstrahierung von Gefahr und Individualbetroffenheit Kein Zugriff
      2. 2. Während des Beschäftigungsverhältnisses Kein Zugriff
    2. 1. 1. Zugang zum Beschäftigungsverhältnis Kein Zugriff
      2. 2. Während des Beschäftigungsverhältnisses Kein Zugriff
    3. III. Verhältnis von Antidiskriminierungs- und Datenschutzrecht Kein Zugriff
    4. IV. Zwischenergebnis Kein Zugriff
  2. 1. I. Katalog des § 1 AGG Kein Zugriff
    2. 1. aa) Menschliches Verhalten im Behandlungsbegriff Kein Zugriff
        (1) Behandlungsqualität der Rechenschritte eines APA-Systems Kein Zugriff
        (2) Opferlose Diskriminierung Kein Zugriff
        cc) Zwischenergebnis Kein Zugriff
        b) Weniger günstig Kein Zugriff
        aa) Kausalität einzelner Merkmale im multifaktoriell bedingten Ergebnis Kein Zugriff
        (1) Wissenszurechnung bei entscheidungsunterstützenden Systemen Kein Zugriff
        (2) Wissenszurechnung bei entscheidungsersetzenden Systemen Kein Zugriff
        (3) Zwischenergebnis Kein Zugriff
        cc) Kausalität tatsächlich nicht vorliegender Merkmale Kein Zugriff
        d) Zwischenergebnis Kein Zugriff
      2. (1) Vergleichsgruppe Kein Zugriff
        (2) Grundsätze der Beeinträchtigung durch APA-Systeme Kein Zugriff
        (3) Einordnung gesellschaftlicher Verzerrungen als mittelbare Benachteiligung Kein Zugriff
        bb) „In besonderer Weise“ Kein Zugriff
        cc) Zwischenergebnis Kein Zugriff
        aa) Rechtmäßigkeit des Zieles Kein Zugriff
        bb) Geeignetheit Kein Zugriff
        (1) Vergleich zur menschlichen Entscheidung Kein Zugriff
        (2) Vergleich zur angepassten Methode Kein Zugriff
        (1) Grundsätzlicher Umgang mit verzerrten APA-Systemen, Innovationsdruck, Risikoverlagerung und Abwägung Kein Zugriff
        (2) Angemessenheit als Korrektiv der Motivbündel-Rechtsprechung Kein Zugriff
        (3) Kosten als Abwägungsfaktor Kein Zugriff
        (4) „Ausfluss struktureller Diskriminierungen“ als abwägungserhebliches Element? Kein Zugriff
        (5) Automatisierungsstufen als praktischer Richtwert Kein Zugriff
        ee) Zwischenergebnis Kein Zugriff
    3. 1. aa) Algorithmische Ermittlung einer beruflichen Anforderung Kein Zugriff
        bb) Einordnung von Drittpräferenzen Kein Zugriff
        b) Zweite Stufe: Angemessenheit Kein Zugriff
        c) Zwischenergebnis Kein Zugriff
      2. a) Auszugleichende und zu verhindernde Nachteile im algorithmischen Kontext Kein Zugriff
        b) Algorithmische Implikationen in der Auslegung des Maßnahmenbegriffes Kein Zugriff
        c) Verhältnismäßigkeit Kein Zugriff
        d) Zwischenergebnis Kein Zugriff
    4. IV. Adressat des Benachteiligungsverbotes Kein Zugriff
    5. V. Zwischenergebnis Kein Zugriff
  3. 1. 1. a) Ausgangslage Kein Zugriff
        b) Schulungspflichten als Auslegungsergebnis Kein Zugriff
        c) Einbeziehung von Normen der KI-VO Kein Zugriff
      2. 2. APA-Systeme zur Erfüllung antidiskriminierungsrechtlicher Organisations- und Schutzpflichten Kein Zugriff
    2. II. Aufforderung zur Mitwirkung gemäß § 17 Abs. 1 AGG Kein Zugriff
    3. III. Zwischenergebnis Kein Zugriff
  4. 1. 1. aa) (Un-)Vereinbarkeit mit dem Unionsrecht und Konsequenz Kein Zugriff
        bb) Verhalten des Arbeitgebers Kein Zugriff
        (1) Personalverantwortliche Arbeitnehmer Kein Zugriff
        (a) Einordnung als Erfüllungsgehilfe Kein Zugriff
        (b) Einbezogene Pflichten Kein Zugriff
        (3) Vorschlagssysteme und Personalplattformen Kein Zugriff
        (4) Regressmöglichkeit Kein Zugriff
        dd) Zurechnung maschineller Entscheidungen Kein Zugriff
        ee) Zwischenergebnis Kein Zugriff
        b) Exkulpation durch den Arbeitgeber Kein Zugriff
        c) Rechtsfolge: Schadensersatz Kein Zugriff
      2. 2. Verschuldensunabhängiger Entschädigungsanspruch aus § 15 Abs. 2 AGG Kein Zugriff
      3. 3. Schadensersatz und Entschädigung bei opferloser Diskriminierung? Kein Zugriff
      4. 4. Konkurrenz zu Ansprüchen außerhalb vom AGG Kein Zugriff
      5. 5. Zwischenergebnis Kein Zugriff
    2. 1. 1. Prozessbeistand gemäß § 23 Abs. 2 S. 1 AGG Kein Zugriff
      2. a) Tatbestand und Rechtsfolgen Kein Zugriff
        b) Bewertung Kein Zugriff
      3. 3. Instrumente außerhalb des AGG Kein Zugriff
      4. 4. Zwischenergebnis Kein Zugriff
    3. III. Zwischenergebnis Kein Zugriff
  5. 1. 1. 1. Vorliegen und Erkennen einer algorithmischen Benachteiligung Kein Zugriff
      2. a) Vergleich zu analogen Entscheidungen Kein Zugriff
        b) Flankierende Informations- und Auskunftsansprüche Kein Zugriff
        c) Verwendung eines APA-Systems als hinreichende Vermutungstatsache Kein Zugriff
      3. 3. Vollbeweis durch den Arbeitgeber Kein Zugriff
    2. II. Beweislast bei kollektivrechtlichen Ansprüchen aus § 17 Abs. 2 AGG i. V. m. § 23 Abs. 3 BetrVG Kein Zugriff
    3. III. Zwischenergebnis Kein Zugriff
  6. F. Ergebnis Kein Zugriff
3. 1. 1. I. Schlechterstellung durch APA-Systeme zur Vergütungsbeurteilung Kein Zugriff
    2. II. Schlechterstellung durch APA-Systeme bei Weisung Kein Zugriff
    3. III. Zwischenergebnis Kein Zugriff
  2. B. Inhalt der Gleichbehandlungspflicht: Sachliche Rechtfertigung einer Schlechterstellung Kein Zugriff
  3. C. Rechtsfolgen, Darlegungs- und Beweislast Kein Zugriff
  4. D. Ergebnis Kein Zugriff
4. 1. A. Horizontalwirkung von Art. 3 GG und Bedeutung für APA-Systeme Kein Zugriff
  2. B. Kollisionsrechtliche Auflösung Kein Zugriff
  3. C. Exkurs: Charta der Grundrechte der Europäischen Union Kein Zugriff
  4. D. Ergebnis Kein Zugriff
5. 1. 1. I. Konzeption Kein Zugriff
    2. 1. 1. Zeitlicher Anwendungsbereich Kein Zugriff
      2. 2. Sachlicher Anwendungsbereich Kein Zugriff
      3. 3. Persönlicher Anwendungsbereich Kein Zugriff
    3. 1. 1. Verbotene KI-Praktiken gemäß Art. 5 KI-VO Kein Zugriff
      2. 2. Hochrisiko-KI-Systeme gemäß Art. 6 KI-VO Kein Zugriff
      3. 3. KI-Systeme mit beschränktem und minimalem Risiko Kein Zugriff
      4. 4. KI-Systeme mit allgemeinem Verwendungszweck Kein Zugriff
    4. IV. Zwischenergebnis Kein Zugriff
  2. 1. I. Inverkehrbringen, Inbetriebnahme und Verwendung verbotener KI-Systeme Kein Zugriff
    2. 1. 1. Risikomanagementsystem gemäß Art. 9 KI-VO Kein Zugriff
      2. 2. Anforderungen an Daten gemäß Art. 10 KI-VO Kein Zugriff
      3. a) Technische Dokumentation und Aufzeichnung gemäß Art. 11, 12 KI-VO Kein Zugriff
        aa) Technisch-funktionale Anforderungen gemäß Art. 13 Abs. 1 KI-VO Kein Zugriff
        bb) Mitteilungspflichten gemäß Art. 13 Abs. 2 und 3 KI-VO Kein Zugriff
        c) Transparenzpflichten gemäß Art. 50 KI-VO Kein Zugriff
      4. 4. Menschliche Aufsicht gemäß Art. 14 KI-VO Kein Zugriff
      5. 5. Zwischenergebnis Kein Zugriff
    3. 1. 1. Organisationspflicht nach Art. 26 Abs. 1 KI-VO Kein Zugriff
      2. 2. Menschliche Aufsicht gemäß Art. 26 Abs. 2 KI-VO Kein Zugriff
      3. 3. Pflichten bzgl. Datensätze gemäß Art. 26 Abs. 4 KI-VO Kein Zugriff
      4. a) Informationspflichten gemäß Art. 26 Abs. 7 und 11 KI-VO Kein Zugriff
        b) Transparenzpflichten gemäß Art. 50 Abs. 3 KI-VO Kein Zugriff
        aa) Eigenständiger Bedeutungsgehalt von Art. 86 Abs. 1 KI-VO neben der DSGVO Kein Zugriff
        bb) Zwischenergebnis Kein Zugriff
      5. 5. Zwischenergebnis Kein Zugriff
  3. 1. I. Aufsichtsstruktur und Governance Kein Zugriff
    2. II. Sanktionen Kein Zugriff
    3. III. Rechtsbehelfe Kein Zugriff
    4. IV. Zwischenergebnis Kein Zugriff
  4. 1. I. Verhältnis von KI-VO zum Gleichbehandlungs- und Antidiskriminierungsrecht Kein Zugriff
    2. II. Erweiterung der Organisationspflichten Kein Zugriff
    3. III. Fehlende Instrumente zur Rechtsdurchsetzung Kein Zugriff
    4. 1. 1. Auswirkungen auf Individualverfahren Kein Zugriff
      2. 2. Auswirkungen auf Kollektivverfahren Kein Zugriff
    5. V. Präventive Mechanismen zur Diskriminierungsvermeidung Kein Zugriff
    6. VI. Zwischenergebnis Kein Zugriff
  5. 1. I. Inhalt des KI-HaftRL-E Kein Zugriff
    2. II. Auswirkungen auf den Untersuchungsgegenstand Kein Zugriff
  6. F. Ergebnis Kein Zugriff
1. I. Technologische Aspekte Kein Zugriff
2. II. Anforderungen nach dem AGG Kein Zugriff
3. III. Anforderungen nach dem arbeitsrechtlichen Gleichbehandlungsgrundsatz Kein Zugriff
4. IV. Anforderungen nach dem GG Kein Zugriff
5. V. Anforderungen nach der KI-VO Kein Zugriff
Literaturverzeichnis Kein Zugriff Seiten 339 - 372

Autonome Personalauswahl-Systeme

Zusammenfassung

Schlagworte

Publikation durchsuchen

Bibliographische Angaben

Inhaltsverzeichnis

Ähnliche Veröffentlichungen