KI-Governance in der Aktiengesellschaft

Notarass. Dr. Nikita Rolsing

doi:10.5771/9783748955399

Zusammenfassung

Der Einsatz von Künstlicher Intelligenz (KI) bietet durch Unterstützung oder Substitution menschlicher Tätigkeiten und Entscheidungen Effizienz- und Kostenvorteile, wird aber u.a. durch rechtliche Unsicherheit der Geschäftsleitung gehemmt. Die Arbeit mindert diese Unsicherheit, indem sie anhand des Aktienrechts Leitlinien für den unternehmensinternen KI-Einsatz entwickelt. Unter Beachtung besonderer KI-Risiken werden anhand der Dogmatik Kriterien herausgearbeitet, an denen sich der Vorstand orientieren kann. Aktienrechtliche Grundsätze für den KI-Einsatz bei tatsächlichen Aufgaben, Beratung, Entscheidungsvorbereitung oder beim Treffen von Entscheidungen werden konkretisiert. Die Beachtung dieser Anforderungen beugt einer Organhaftung vor.

Schlagworte

Publikation durchsuchen

Bibliographische Angaben

Erscheinungsjahr: 2025
Erscheinungsdatum: 11.12.2025
ISBN-Print: 978-3-7560-2001-0
ISBN-Online: 978-3-7489-5539-9
Verlag: Nomos, Baden-Baden
Reihe: Schriften zum Wirtschafts- und Technikrecht
Band: 5
Sprache: Deutsch
Seiten: 720
Produkttyp: Monographie

Inhaltsverzeichnis

KapitelSeiten

1. Vorwort Kein Zugriff
2. Abkürzungsverzeichnis Kein Zugriff
1. A. Problemaufriss Kein Zugriff
2. B. Ziel der Arbeit Kein Zugriff
3. C. Gang der Untersuchung und Methodik Kein Zugriff
4. D. Begrenzung des Untersuchungsgegenstands Kein Zugriff
1. 1. 1. 1. Anthropoparallele Definitionsversuche Kein Zugriff
    2. 2. Definitionsversuche über autonome Zielerreichung Kein Zugriff
    3. 3. Definitionsversuche über Logik und Rationalität Kein Zugriff
    4. 4. Kooperationsorientierte Definitionsversuche Kein Zugriff
    5. 5. Methodenorientierter bzw. technikorientierter Definitionsversuch Kein Zugriff
  2. II. Bewertung der Definitionsversuche und Entscheidung für eine Arbeitsdefinition Kein Zugriff
  3. 1. 1. KI-Methoden Kein Zugriff
    2. 2. Softwareagenten Kein Zugriff
    3. 3. Roboter Kein Zugriff
    4. 4. KI-System Kein Zugriff
2. 1. I. Arten Künstlicher Intelligenz Kein Zugriff
  2. 1. 1. a) Algorithmen Kein Zugriff
      2. b) Big Data Kein Zugriff
    2. 1. aa) Überwachtes Lernen Kein Zugriff
        bb) Unüberwachtes Lernen Kein Zugriff
        cc) Verstärkendes Lernen Kein Zugriff
        dd) Deep Learning Kein Zugriff
      2. aa) Wissensrepräsentation und Wissensdatenbanken (Wissensbasis) Kein Zugriff
        bb) Expertensysteme und Inferenz- sowie Deduktionsmaschinen Kein Zugriff
        cc) Induktive (logische) Programmierung Kein Zugriff
  3. 1. 1. a) Vorteile gegenüber expliziter Programmierung Kein Zugriff
      2. b) Vorteile gegenüber menschlicher Intelligenz Kein Zugriff
    2. 1. a) Allgemeine Softwarerisiken Kein Zugriff
      2. (1) Autonomie Kein Zugriff
        (2) Unvorhersehbarkeit durch Adaptivität Kein Zugriff
        (3) Intransparenz und schwierige Nachvollziehbarkeit Kein Zugriff
        (4) Extreme Spezifität Kein Zugriff
        (1) Unzureichende Datenquantität Kein Zugriff
        (2) Unzureichende Datenqualität Kein Zugriff
        cc) Mensch-KI-Interaktion als Risikoquelle Kein Zugriff
3. 1. 1. 1. KI-Systeme als Unternehmensgegenstand Kein Zugriff
    2. 2. Entscheidungssysteme Kein Zugriff
    3. 3. Entscheidungsunterstützungssysteme Kein Zugriff
    4. 4. Unternehmensüberwachung Kein Zugriff
    5. 5. Einsatz zur Kommunikation Kein Zugriff
    6. 6. Einsatz in Produktion und Logistik Kein Zugriff
    7. 7. Einsatz für Verwaltungsaufgaben Kein Zugriff
  2. II. Wirtschaftliche Effekte des KI-Einsatzes Kein Zugriff
  3. III. Hemmnisse für den KI-Einsatz im Unternehmen Kein Zugriff
4. D. Zusammenfassung der Grundlagen Kein Zugriff
1. A. Binäre Kategorisierung der KI-Einsatzmöglichkeiten Kein Zugriff
2. 1. 1. 1. Horizontale Delegation Kein Zugriff
    2. 2. Vertikale Delegation Kein Zugriff
    3. 3. Externe Delegation Kein Zugriff
  2. II. Einordnung des KI-Einsatzes in Unternehmen Kein Zugriff
  3. 1. 1. a) Leitungsaufgaben nach dem Aktiengesetz Kein Zugriff
      2. b) Typologisierung nach betriebswirtschaftlichen Erkenntnissen Kein Zugriff
      3. c) Ergänzende Einordnungsmöglichkeiten Kein Zugriff
    2. 2. Prinzip der Gesamtverantwortung des Vorstands Kein Zugriff
3. 1. I. Auswahlpflicht Kein Zugriff
  2. II. Einweisungspflicht Kein Zugriff
  3. III. Überwachungspflicht Kein Zugriff
4. 1. 1. 1. Kein Anpassungsbedarf bestehender Delegationsgrenzen Kein Zugriff
    2. 1. a) Einfluss der Delegatareigenschaften und der Anforderungen delegierter Aufgaben Kein Zugriff
      2. b) Aktienrechtlicher Vertrauensgrundsatz i. R. d. Aufgabendelegation Kein Zugriff
      3. aa) Ansätze zur dogmatischen Anknüpfung des Vertrauensgrundsatzes Kein Zugriff
        bb) Vorzugswürdige dogmatische Anknüpfung an das Unternehmensinteresse Kein Zugriff
    3. 3. Zwischenergebnis Kein Zugriff
  2. 1. 1. aa) Einschränkung über die Legalitätspflicht Kein Zugriff
        bb) Einschränkung über die Konkretisierung der Sorgfaltspflicht Kein Zugriff
        cc) Zwischenergebnis Kein Zugriff
      2. aa) Bedeutung der Auswahlpflicht bei schwacher KI Kein Zugriff
        (a) Tatsächliche Eignung Kein Zugriff
        (b) Rechtliche Eignung Kein Zugriff
        (c) Prüfungsmöglichkeiten Kein Zugriff
        (d) Dauerhafte Geeignetheit Kein Zugriff
        (aa) Stand der Technik Kein Zugriff
        (bb) Zertifizierung Kein Zugriff
        (a) Verlässlichkeit von KI-Systemen Kein Zugriff
        (b) Belastbarkeit von KI-Systemen Kein Zugriff
        (3) Zwischenergebnis Kein Zugriff
        cc) Ablauf der Auswahlpflichterfüllung beim Einsatz von KI-Systemen Kein Zugriff
    2. 1. aa) Spezifische Einweisungspflichten je nach Art des KI-Systems Kein Zugriff
        bb) Einweisungspflicht in Bezug auf typische Rechtsverletzungen Kein Zugriff
        cc) Auswirkungen der Spezifität auf die Erfüllung der Einweisungspflicht Kein Zugriff
        dd) Praktische Erfüllung der Einweisungspflicht Kein Zugriff
        (1) Hinreichende Datenquantität Kein Zugriff
        (a) Materielle Qualität der Trainingsdaten Kein Zugriff
        (aaa) Rechtfertigungsgründe Kein Zugriff
        (bbb) Datenverarbeitungsgrundsätze Kein Zugriff
        (bb) Urheberrecht Kein Zugriff
        ff) Zusammenfassung der Anforderungen an Trainingsdatensätze Kein Zugriff
        gg) Konkreter und erläuterter Auftrag für das KI-System Kein Zugriff
      2. b) Einweisung menschlicher Mitarbeiter Kein Zugriff
    3. 1. a) Gesetzliche Verortung der Pflicht zur Überwachung von KI-Systemen Kein Zugriff
      2. aa) Überwachungsmaßstab und Überwachungsgegenstand Kein Zugriff
        (1) Überwachungsmaßnahmen Kein Zugriff
        (a) Erforderliche Stichproben Kein Zugriff
        (aa) Neuartigkeit der übertragenen Aufgabe Kein Zugriff
        (bb) Komplexität der übertragenen Aufgabe Kein Zugriff
        (cc) Eigene Expertise des Deleganten Kein Zugriff
        (dd) Bisherige Zuverlässigkeit des Delegatars Kein Zugriff
        (ee) Anforderungen und Risiko der übertragenen Aufgabe Kein Zugriff
        (ff) Verdacht unzureichender Überwachung Kein Zugriff
        (c) Zwischenergebnis zur einzelfallabhängigen Überwachungsintensität Kein Zugriff
        (3) Einfluss des Vertrauensgrundsatzes auf die Art und Weise der Überwachung Kein Zugriff
        (a) Tatsächliche und rechtliche Überwachungsmöglichkeit Kein Zugriff
        (b) Maßgebliche Umstände der Einzelfallbetrachtung Kein Zugriff
        (c) Zwischenergebnis Kein Zugriff
        cc) Intransparenz als Hindernis der Überwachungspflichterfüllung? Kein Zugriff
      3. aa) Interventionsmöglichkeiten und Autonomie Kein Zugriff
        bb) Notwendige Interventionsmöglichkeit und Autonomiebegrenzung Kein Zugriff
      4. aa) Übertragung spezialgesetzlicher Organisationspflichten für Algorithmen Kein Zugriff
        (1) Organisationsverantwortung als Teil der Leitungsaufgabe Kein Zugriff
        (2) Pflicht aus § 91 Abs. 2 AktG Kein Zugriff
        (3) Einrichtungsmöglichkeit statt Einrichtungspflicht Kein Zugriff
        (a) Organisation der real-physischen Einsatzumgebung Kein Zugriff
        (b) Organisation der digitalen Einsatzumgebung und Cybersicherheit Kein Zugriff
        (c) Wartung der KI-Systeme Kein Zugriff
        (d) Zuständigkeitsorganisation und Redundanzen Kein Zugriff
        (a) Gesetzliche Dokumentationspflichten Kein Zugriff
        (b) Trennung zwischen Dokumentationspflichten und Dokumentationsobliegenheiten Kein Zugriff
        (c) Grundlegende Dokumentationspflichten als digitale Organisationspflichten Kein Zugriff
    4. 4. Zusammenfassung der Pflichtentrias bei vertikaler Aufgabendelegation an KI-Systeme Kein Zugriff
  3. 1. 1. a) Übereinstimmung mit unternehmensinternen KI-Leitlinien Kein Zugriff
      2. b) Geeignetheit Kein Zugriff
      3. c) Persönliche Verlässlichkeit und Belastbarkeit Kein Zugriff
    2. 2. Einweisungspflicht Kein Zugriff
    3. 1. a) Allgemeine Überwachungspflicht Kein Zugriff
      2. b) Interventionsmöglichkeit des Deleganten Kein Zugriff
      3. aa) Umfeldmaßnahmen Kein Zugriff
        bb) Dokumentationspflichten Kein Zugriff
  4. 1. 1. Dogmatischer Anknüpfungspunkt Kein Zugriff
    2. 1. a) Technikkenntnisse zur Auswahlpflichterfüllung Kein Zugriff
      2. b) Technikkenntnisse zur Einweisungspflichterfüllung Kein Zugriff
      3. c) Technikkenntnisse zur Überwachungspflichterfüllung Kein Zugriff
    3. 1. a) Beratung bei fehlender Sachkunde zur Erfüllung der Pflichtentrias Kein Zugriff
      2. b) Delegation von Auswahl, Einweisung und Überwachung des KI-Systems Kein Zugriff
5. E. Ergebnis Kein Zugriff
1. A. Verschiedene Phasen eines idealtypischen Entscheidungsprozesses Kein Zugriff
2. 1. I. KI-Einsatz bei Entscheidungen als Delegationsfall Kein Zugriff
  2. II. Differenzierende Betrachtung des KI-Einsatzes bei Entscheidungen Kein Zugriff
3. 1. 1. 1. Aktienrechtliche Grenzen Kein Zugriff
    2. 1. a) Art. 5 Abs. 1 KI-VO Kein Zugriff
      2. b) Art. 22 Abs. 1 DSGVO Kein Zugriff
      3. c) Private Regelungen Kein Zugriff
  2. 1. 1. aa) Wirtschaftlich falsche Entscheidungen Kein Zugriff
        bb) Rechtlich falsche Entscheidungen Kein Zugriff
      2. b) Ursachen von Fehlentscheidungen Kein Zugriff
    2. 1. aa) Unternehmensinterne KI-Leitlinien Kein Zugriff
        bb) Fachliche Qualifikation Kein Zugriff
        cc) Persönliche Verlässlichkeit und Belastbarkeit Kein Zugriff
      2. aa) Art und Weise der Einweisung Kein Zugriff
        bb) Einweisung mittels quantitativ und qualitativ hochwertiger Datensätze Kein Zugriff
        cc) Konkreter und erläuterter Auftrag für das KI-System Kein Zugriff
      3. (1) Überwachungsmaßstab und Überwachungsgegenstand Kein Zugriff
        (a) Überwachungsmaßnahmen Kein Zugriff
        (b) Überwachungsintensität Kein Zugriff
        (c) Einfluss des Vertrauensgrundsatzes Kein Zugriff
        (d) Grenze der objektiven Zumutbarkeit Kein Zugriff
        bb) Interventionsmöglichkeiten des Deleganten Kein Zugriff
        (1) Umfeldmaßnahmen Kein Zugriff
        (2) Dokumentationspflichten Kein Zugriff
    3. 3. Zwischenergebnis Kein Zugriff
    4. 1. a) Klarstellung der Analogiesituation Kein Zugriff
      2. b) Mangelnde Analogievoraussetzungen Kein Zugriff
4. 1. I. Unterscheidung von Entscheidung und Entscheidungsvorbereitung Kein Zugriff
  2. 1. 1. Informationssammlung und Informationsanalyse durch KI-Systeme Kein Zugriff
    2. 2. Beratung und Empfehlungen durch KI-Systeme Kein Zugriff
    3. 3. Unterschiedliche Regelungsregime je nach Art des KI-Einsatzes zur Entscheidungsunterstützung Kein Zugriff
  3. 1. 1. Delegationsmöglichkeit bei jeder Entscheidungsart Kein Zugriff
    2. 1. aa) Eignung, Verlässlichkeit und Belastbarkeit Kein Zugriff
        bb) Prädeterminierung der Auswahlentscheidung Kein Zugriff
      2. aa) Art und Weise der Einweisung Kein Zugriff
        bb) Bereitstellung notwendiger Ressourcen und konkreter Auftrag Kein Zugriff
        cc) Einweisung menschlicher Mitarbeiter Kein Zugriff
      3. (1) Überwachungsmaßstab und Überwachungsgegenstand Kein Zugriff
        (a) Überwachungsmaßnahmen Kein Zugriff
        (b) Überwachungsintensität Kein Zugriff
        (c) Einfluss des informationellen aktienrechtlichen Vertrauensgrundsatzes Kein Zugriff
        (d) Grenze der objektiven Zumutbarkeit Kein Zugriff
        bb) Interventionsmöglichkeiten des Deleganten Kein Zugriff
        (a) Organisation der digitalen Einsatzumgebung und Cybersicherheit Kein Zugriff
        (b) Zuständigkeitsorganisation Kein Zugriff
        (c) Redundanzen Kein Zugriff
        (d) Wartung Kein Zugriff
        (2) Dokumentationsobliegenheiten und Dokumentationspflichten Kein Zugriff
    3. 1. aa) „Ob“ der Berücksichtigung Kein Zugriff
        bb) „Wie“ der Berücksichtigung Kein Zugriff
      2. b) Rechtlich gebundene Entscheidungen Kein Zugriff
      3. c) Leitungsentscheidungen Kein Zugriff
      4. d) Geschäftsführungsentscheidungen Kein Zugriff
      5. e) Sorgfaltspflicht im engeren Sinne Kein Zugriff
      6. f) Art. 22 Abs. 1 DSGVO Kein Zugriff
    4. 4. Zwischenergebnis Kein Zugriff
  4. 1. 1. aa) Fachkunde des Beraters Kein Zugriff
        bb) Unabhängigkeit des Beraters Kein Zugriff
      2. b) Beraterinformation Kein Zugriff
      3. c) Beraterkontrolle Kein Zugriff
      4. d) Rechtsfolge: „Vertrauendürfen“ auf den erteilten Rat Kein Zugriff
    2. 1. a) Rechtfertigung der Übertragung Kein Zugriff
      2. b) Methodik der Übertragung Kein Zugriff
    3. 1. (a) Rechtfertigung des Genügens der materiellen Qualifikation Kein Zugriff
        (b) Möglichkeit der Prüfung der materiellen fachlichen Qualifikation Kein Zugriff
        bb) Unabhängigkeit des KI-Beraters Kein Zugriff
      2. aa) Grundsätzliche Parallelität der Informationsanforderungen Kein Zugriff
        bb) Unterschiede in der Art und Weise der Information Kein Zugriff
      3. aa) Gegenstand der Plausibilitätskontrolle Kein Zugriff
        bb) Maßstab der Plausibilitätskontrolle Kein Zugriff
        cc) Tatsächliche Möglichkeit der Plausibilitätskontrolle durch Transparenz Kein Zugriff
        (a) Wortlautargument und Redundanz Kein Zugriff
        (b) Fehlende Rechtfertigung des Verzichts auf die Plausibilitätskontrolle Kein Zugriff
        (c) Drohende Wertungsinkonsistenz Kein Zugriff
        (d) Art. 22 Abs. 1 DSGVO Kein Zugriff
        (a) Reduktion der Plausibilitätskontrollintensität Kein Zugriff
        (b) Rechtfertigung der Reduktion Kein Zugriff
        (c) Sachliche Beschränkung der Reduktion und konkrete Durchführung Kein Zugriff
      4. d) Rechtsfolge und Berücksichtigungspflicht des KI-Beratungsergebnisses Kein Zugriff
5. E. Zusammenfassung Kein Zugriff
1. 1. I. Grundsätzliche Vorstandskompetenz zur Entscheidung über KI-Einsatz Kein Zugriff
  2. 1. 1. Änderung des Unternehmensgegenstands Kein Zugriff
    2. 2. Satzungsbestimmung zum KI-Einsatz Kein Zugriff
    3. 3. Beschränkung durch Vorlage an die Hauptversammlung Kein Zugriff
    4. 4. Zustimmungsvorbehalte Kein Zugriff
  3. III. Zusammenfassung zur Kompetenz zur Entscheidung über KI-Einsatz Kein Zugriff
2. 1. I. Entscheidung über KI-Einsatz als Leitungsentscheidung oder Geschäftsführungsentscheidung Kein Zugriff
  2. 1. 1. Bedeutung der Einordnung als unternehmerische Entscheidung Kein Zugriff
    2. 2. Einordnung der Entscheidung über den KI-Einsatz als unternehmerische Entscheidung Kein Zugriff
  3. 1. 1. Pflicht des Vorstands zur Entscheidung über KI-Einsatz Kein Zugriff
    2. 2. Grundsätzlich freies Ermessen bei Leitungsaufgaben und unternehmerischen Entscheidungen Kein Zugriff
    3. 3. Inhaltliche Vorgaben für die Ermessensausübung bei der Entscheidung über KI-Einsatz Kein Zugriff
    4. 1. aa) Organisationspflicht Kein Zugriff
        bb) Risikomanagementpflicht Kein Zugriff
        (1) Legalitätspflicht Kein Zugriff
        (2) Sorgfaltspflicht im engeren Sinne Kein Zugriff
        (3) Unvertretbares Vorstandshandeln Kein Zugriff
      2. b) Ermessensgrenze des Unternehmensgegenstands Kein Zugriff
      3. c) Ermessensgrenze des Unternehmensinteresses Kein Zugriff
      4. d) Pflicht zum KI-Einsatz bei fehlender eigener Sachkunde Kein Zugriff
    5. 5. Obliegenheit zum KI-Einsatz aus der Business Judgment Rule Kein Zugriff
    6. 1. a) Handeln auf Grundlage angemessener Informationsbasis Kein Zugriff
      2. b) Handeln zum Wohle der Gesellschaft Kein Zugriff
  4. IV. Rechte des Vorstands bei der Entscheidung über den KI-Einsatz Kein Zugriff
3. C. Ergebnis Kein Zugriff
1. 1. I. Pflichtverletzung des Vorstands bei der Entscheidung über den KI-Einsatz Kein Zugriff
  2. 1. 1. Unzulässige Delegation Kein Zugriff
    2. 1. a) Auswahlpflichtverletzung Kein Zugriff
      2. b) Einweisungspflichtverletzung Kein Zugriff
      3. aa) Verletzung der allgemeinen Überwachungspflicht Kein Zugriff
        bb) Verletzung der Interventionspflicht Kein Zugriff
        cc) Verletzung von Organisationspflichten Kein Zugriff
  3. 1. 1. Unzulässige Delegation Kein Zugriff
    2. 1. a) Auswahlpflichtverletzung Kein Zugriff
      2. b) Einweisungspflichtverletzung Kein Zugriff
      3. aa) Verletzung der allgemeinen Überwachungspflicht und Interventionspflicht Kein Zugriff
        bb) Verletzung der Organisationspflichten Kein Zugriff
    3. 3. Möglicher Haftungsfreiraum durch die Business Judgment Rule Kein Zugriff
  4. 1. 1. Auswahlpflichtverletzung Kein Zugriff
    2. 2. Einweisungspflichtverletzung Kein Zugriff
    3. 3. Überwachungspflichtverletzung Kein Zugriff
  5. 1. 1. Erstes Szenario Kein Zugriff
    2. 2. Zweites Szenario Kein Zugriff
    3. 3. Drittes Szenario Kein Zugriff
    4. 4. Viertes Szenario Kein Zugriff
    5. 5. Fünftes Szenario Kein Zugriff
    6. 6. Sechstes Szenario Kein Zugriff
    7. 7. Siebtes Szenario Kein Zugriff
    8. 8. Achtes Szenario Kein Zugriff
    9. 9. Neuntes Szenario Kein Zugriff
    10. 10. Zehntes Szenario Kein Zugriff
2. 1. I. Verschuldensmaßstab Kein Zugriff
  2. II. Verschulden bei der Entscheidung über den KI-Einsatz Kein Zugriff
  3. III. Verschulden bei der Delegation an KI-Systeme Kein Zugriff
  4. IV. Enthaftung nach den ISION-Grundsätzen Kein Zugriff
3. 1. I. Entscheidung über den KI-Einsatz Kein Zugriff
  2. II. Delegation an KI-Systeme Kein Zugriff
4. 1. I. Entscheidung über den KI-Einsatz Kein Zugriff
  2. II. Delegation an KI-Systeme Kein Zugriff
7. Teil: Kritische Reflexion und Ausblick Kein Zugriff Seiten 601 - 604
8. Teil: Zusammenfassung in Thesen Kein Zugriff Seiten 605 - 640
Literaturverzeichnis Kein Zugriff Seiten 641 - 720