KI-Governance in der Aktiengesellschaft

Notarass. Dr. Nikita Rolsing

doi:10.5771/9783748955399

Summary

The use of artificial intelligence (AI) offers efficiency and cost benefits by supporting or substituting human activities and decisions, but is hindered by legal uncertainty on the part of management, among other things. This work reduces this uncertainty by developing guidelines for the use of AI within companies based on German stock corporation law. Taking into account particular AI risks, standards are developed on the basis of legal dogmatics, which the management board can use as guidance. Principles of stock corporation law for the use of AI in actual tasks, consultation, decision preparation or decision making are specified. Compliance with these requirements prevents directors' liability.

Keywords

Search publication

Bibliographic data

Publication year: 2025
Publication date: 11.12.2025
ISBN-Print: 978-3-7560-2001-0
ISBN-Online: 978-3-7489-5539-9
Publisher: Nomos, Baden-Baden
Series: Schriften zum Wirtschafts- und Technikrecht
Volume: 5
Language: German
Pages: 720
Product type: Book Titles

1. Vorwort No access
2. Abkürzungsverzeichnis No access
1. A. Problemaufriss No access
2. B. Ziel der Arbeit No access
3. C. Gang der Untersuchung und Methodik No access
4. D. Begrenzung des Untersuchungsgegenstands No access
1. 1. 1. 1. Anthropoparallele Definitionsversuche No access
    2. 2. Definitionsversuche über autonome Zielerreichung No access
    3. 3. Definitionsversuche über Logik und Rationalität No access
    4. 4. Kooperationsorientierte Definitionsversuche No access
    5. 5. Methodenorientierter bzw. technikorientierter Definitionsversuch No access
  2. II. Bewertung der Definitionsversuche und Entscheidung für eine Arbeitsdefinition No access
  3. 1. 1. KI-Methoden No access
    2. 2. Softwareagenten No access
    3. 3. Roboter No access
    4. 4. KI-System No access
2. 1. I. Arten Künstlicher Intelligenz No access
  2. 1. 1. a) Algorithmen No access
      2. b) Big Data No access
    2. 1. aa) Überwachtes Lernen No access
        bb) Unüberwachtes Lernen No access
        cc) Verstärkendes Lernen No access
        dd) Deep Learning No access
      2. aa) Wissensrepräsentation und Wissensdatenbanken (Wissensbasis) No access
        bb) Expertensysteme und Inferenz- sowie Deduktionsmaschinen No access
        cc) Induktive (logische) Programmierung No access
  3. 1. 1. a) Vorteile gegenüber expliziter Programmierung No access
      2. b) Vorteile gegenüber menschlicher Intelligenz No access
    2. 1. a) Allgemeine Softwarerisiken No access
      2. (1) Autonomie No access
        (2) Unvorhersehbarkeit durch Adaptivität No access
        (3) Intransparenz und schwierige Nachvollziehbarkeit No access
        (4) Extreme Spezifität No access
        (1) Unzureichende Datenquantität No access
        (2) Unzureichende Datenqualität No access
        cc) Mensch-KI-Interaktion als Risikoquelle No access
3. 1. 1. 1. KI-Systeme als Unternehmensgegenstand No access
    2. 2. Entscheidungssysteme No access
    3. 3. Entscheidungsunterstützungssysteme No access
    4. 4. Unternehmensüberwachung No access
    5. 5. Einsatz zur Kommunikation No access
    6. 6. Einsatz in Produktion und Logistik No access
    7. 7. Einsatz für Verwaltungsaufgaben No access
  2. II. Wirtschaftliche Effekte des KI-Einsatzes No access
  3. III. Hemmnisse für den KI-Einsatz im Unternehmen No access
4. D. Zusammenfassung der Grundlagen No access
1. A. Binäre Kategorisierung der KI-Einsatzmöglichkeiten No access
2. 1. 1. 1. Horizontale Delegation No access
    2. 2. Vertikale Delegation No access
    3. 3. Externe Delegation No access
  2. II. Einordnung des KI-Einsatzes in Unternehmen No access
  3. 1. 1. a) Leitungsaufgaben nach dem Aktiengesetz No access
      2. b) Typologisierung nach betriebswirtschaftlichen Erkenntnissen No access
      3. c) Ergänzende Einordnungsmöglichkeiten No access
    2. 2. Prinzip der Gesamtverantwortung des Vorstands No access
3. 1. I. Auswahlpflicht No access
  2. II. Einweisungspflicht No access
  3. III. Überwachungspflicht No access
4. 1. 1. 1. Kein Anpassungsbedarf bestehender Delegationsgrenzen No access
    2. 1. a) Einfluss der Delegatareigenschaften und der Anforderungen delegierter Aufgaben No access
      2. b) Aktienrechtlicher Vertrauensgrundsatz i. R. d. Aufgabendelegation No access
      3. aa) Ansätze zur dogmatischen Anknüpfung des Vertrauensgrundsatzes No access
        bb) Vorzugswürdige dogmatische Anknüpfung an das Unternehmensinteresse No access
    3. 3. Zwischenergebnis No access
  2. 1. 1. aa) Einschränkung über die Legalitätspflicht No access
        bb) Einschränkung über die Konkretisierung der Sorgfaltspflicht No access
        cc) Zwischenergebnis No access
      2. aa) Bedeutung der Auswahlpflicht bei schwacher KI No access
        (a) Tatsächliche Eignung No access
        (b) Rechtliche Eignung No access
        (c) Prüfungsmöglichkeiten No access
        (d) Dauerhafte Geeignetheit No access
        (aa) Stand der Technik No access
        (bb) Zertifizierung No access
        (a) Verlässlichkeit von KI-Systemen No access
        (b) Belastbarkeit von KI-Systemen No access
        (3) Zwischenergebnis No access
        cc) Ablauf der Auswahlpflichterfüllung beim Einsatz von KI-Systemen No access
    2. 1. aa) Spezifische Einweisungspflichten je nach Art des KI-Systems No access
        bb) Einweisungspflicht in Bezug auf typische Rechtsverletzungen No access
        cc) Auswirkungen der Spezifität auf die Erfüllung der Einweisungspflicht No access
        dd) Praktische Erfüllung der Einweisungspflicht No access
        (1) Hinreichende Datenquantität No access
        (a) Materielle Qualität der Trainingsdaten No access
        (aaa) Rechtfertigungsgründe No access
        (bbb) Datenverarbeitungsgrundsätze No access
        (bb) Urheberrecht No access
        ff) Zusammenfassung der Anforderungen an Trainingsdatensätze No access
        gg) Konkreter und erläuterter Auftrag für das KI-System No access
      2. b) Einweisung menschlicher Mitarbeiter No access
    3. 1. a) Gesetzliche Verortung der Pflicht zur Überwachung von KI-Systemen No access
      2. aa) Überwachungsmaßstab und Überwachungsgegenstand No access
        (1) Überwachungsmaßnahmen No access
        (a) Erforderliche Stichproben No access
        (aa) Neuartigkeit der übertragenen Aufgabe No access
        (bb) Komplexität der übertragenen Aufgabe No access
        (cc) Eigene Expertise des Deleganten No access
        (dd) Bisherige Zuverlässigkeit des Delegatars No access
        (ee) Anforderungen und Risiko der übertragenen Aufgabe No access
        (ff) Verdacht unzureichender Überwachung No access
        (c) Zwischenergebnis zur einzelfallabhängigen Überwachungsintensität No access
        (3) Einfluss des Vertrauensgrundsatzes auf die Art und Weise der Überwachung No access
        (a) Tatsächliche und rechtliche Überwachungsmöglichkeit No access
        (b) Maßgebliche Umstände der Einzelfallbetrachtung No access
        (c) Zwischenergebnis No access
        cc) Intransparenz als Hindernis der Überwachungspflichterfüllung? No access
      3. aa) Interventionsmöglichkeiten und Autonomie No access
        bb) Notwendige Interventionsmöglichkeit und Autonomiebegrenzung No access
      4. aa) Übertragung spezialgesetzlicher Organisationspflichten für Algorithmen No access
        (1) Organisationsverantwortung als Teil der Leitungsaufgabe No access
        (2) Pflicht aus § 91 Abs. 2 AktG No access
        (3) Einrichtungsmöglichkeit statt Einrichtungspflicht No access
        (a) Organisation der real-physischen Einsatzumgebung No access
        (b) Organisation der digitalen Einsatzumgebung und Cybersicherheit No access
        (c) Wartung der KI-Systeme No access
        (d) Zuständigkeitsorganisation und Redundanzen No access
        (a) Gesetzliche Dokumentationspflichten No access
        (b) Trennung zwischen Dokumentationspflichten und Dokumentationsobliegenheiten No access
        (c) Grundlegende Dokumentationspflichten als digitale Organisationspflichten No access
    4. 4. Zusammenfassung der Pflichtentrias bei vertikaler Aufgabendelegation an KI-Systeme No access
  3. 1. 1. a) Übereinstimmung mit unternehmensinternen KI-Leitlinien No access
      2. b) Geeignetheit No access
      3. c) Persönliche Verlässlichkeit und Belastbarkeit No access
    2. 2. Einweisungspflicht No access
    3. 1. a) Allgemeine Überwachungspflicht No access
      2. b) Interventionsmöglichkeit des Deleganten No access
      3. aa) Umfeldmaßnahmen No access
        bb) Dokumentationspflichten No access
  4. 1. 1. Dogmatischer Anknüpfungspunkt No access
    2. 1. a) Technikkenntnisse zur Auswahlpflichterfüllung No access
      2. b) Technikkenntnisse zur Einweisungspflichterfüllung No access
      3. c) Technikkenntnisse zur Überwachungspflichterfüllung No access
    3. 1. a) Beratung bei fehlender Sachkunde zur Erfüllung der Pflichtentrias No access
      2. b) Delegation von Auswahl, Einweisung und Überwachung des KI-Systems No access
5. E. Ergebnis No access
1. A. Verschiedene Phasen eines idealtypischen Entscheidungsprozesses No access
2. 1. I. KI-Einsatz bei Entscheidungen als Delegationsfall No access
  2. II. Differenzierende Betrachtung des KI-Einsatzes bei Entscheidungen No access
3. 1. 1. 1. Aktienrechtliche Grenzen No access
    2. 1. a) Art. 5 Abs. 1 KI-VO No access
      2. b) Art. 22 Abs. 1 DSGVO No access
      3. c) Private Regelungen No access
  2. 1. 1. aa) Wirtschaftlich falsche Entscheidungen No access
        bb) Rechtlich falsche Entscheidungen No access
      2. b) Ursachen von Fehlentscheidungen No access
    2. 1. aa) Unternehmensinterne KI-Leitlinien No access
        bb) Fachliche Qualifikation No access
        cc) Persönliche Verlässlichkeit und Belastbarkeit No access
      2. aa) Art und Weise der Einweisung No access
        bb) Einweisung mittels quantitativ und qualitativ hochwertiger Datensätze No access
        cc) Konkreter und erläuterter Auftrag für das KI-System No access
      3. (1) Überwachungsmaßstab und Überwachungsgegenstand No access
        (a) Überwachungsmaßnahmen No access
        (b) Überwachungsintensität No access
        (c) Einfluss des Vertrauensgrundsatzes No access
        (d) Grenze der objektiven Zumutbarkeit No access
        bb) Interventionsmöglichkeiten des Deleganten No access
        (1) Umfeldmaßnahmen No access
        (2) Dokumentationspflichten No access
    3. 3. Zwischenergebnis No access
    4. 1. a) Klarstellung der Analogiesituation No access
      2. b) Mangelnde Analogievoraussetzungen No access
4. 1. I. Unterscheidung von Entscheidung und Entscheidungsvorbereitung No access
  2. 1. 1. Informationssammlung und Informationsanalyse durch KI-Systeme No access
    2. 2. Beratung und Empfehlungen durch KI-Systeme No access
    3. 3. Unterschiedliche Regelungsregime je nach Art des KI-Einsatzes zur Entscheidungsunterstützung No access
  3. 1. 1. Delegationsmöglichkeit bei jeder Entscheidungsart No access
    2. 1. aa) Eignung, Verlässlichkeit und Belastbarkeit No access
        bb) Prädeterminierung der Auswahlentscheidung No access
      2. aa) Art und Weise der Einweisung No access
        bb) Bereitstellung notwendiger Ressourcen und konkreter Auftrag No access
        cc) Einweisung menschlicher Mitarbeiter No access
      3. (1) Überwachungsmaßstab und Überwachungsgegenstand No access
        (a) Überwachungsmaßnahmen No access
        (b) Überwachungsintensität No access
        (c) Einfluss des informationellen aktienrechtlichen Vertrauensgrundsatzes No access
        (d) Grenze der objektiven Zumutbarkeit No access
        bb) Interventionsmöglichkeiten des Deleganten No access
        (a) Organisation der digitalen Einsatzumgebung und Cybersicherheit No access
        (b) Zuständigkeitsorganisation No access
        (c) Redundanzen No access
        (d) Wartung No access
        (2) Dokumentationsobliegenheiten und Dokumentationspflichten No access
    3. 1. aa) „Ob“ der Berücksichtigung No access
        bb) „Wie“ der Berücksichtigung No access
      2. b) Rechtlich gebundene Entscheidungen No access
      3. c) Leitungsentscheidungen No access
      4. d) Geschäftsführungsentscheidungen No access
      5. e) Sorgfaltspflicht im engeren Sinne No access
      6. f) Art. 22 Abs. 1 DSGVO No access
    4. 4. Zwischenergebnis No access
  4. 1. 1. aa) Fachkunde des Beraters No access
        bb) Unabhängigkeit des Beraters No access
      2. b) Beraterinformation No access
      3. c) Beraterkontrolle No access
      4. d) Rechtsfolge: „Vertrauendürfen“ auf den erteilten Rat No access
    2. 1. a) Rechtfertigung der Übertragung No access
      2. b) Methodik der Übertragung No access
    3. 1. (a) Rechtfertigung des Genügens der materiellen Qualifikation No access
        (b) Möglichkeit der Prüfung der materiellen fachlichen Qualifikation No access
        bb) Unabhängigkeit des KI-Beraters No access
      2. aa) Grundsätzliche Parallelität der Informationsanforderungen No access
        bb) Unterschiede in der Art und Weise der Information No access
      3. aa) Gegenstand der Plausibilitätskontrolle No access
        bb) Maßstab der Plausibilitätskontrolle No access
        cc) Tatsächliche Möglichkeit der Plausibilitätskontrolle durch Transparenz No access
        (a) Wortlautargument und Redundanz No access
        (b) Fehlende Rechtfertigung des Verzichts auf die Plausibilitätskontrolle No access
        (c) Drohende Wertungsinkonsistenz No access
        (d) Art. 22 Abs. 1 DSGVO No access
        (a) Reduktion der Plausibilitätskontrollintensität No access
        (b) Rechtfertigung der Reduktion No access
        (c) Sachliche Beschränkung der Reduktion und konkrete Durchführung No access
      4. d) Rechtsfolge und Berücksichtigungspflicht des KI-Beratungsergebnisses No access
5. E. Zusammenfassung No access
1. 1. I. Grundsätzliche Vorstandskompetenz zur Entscheidung über KI-Einsatz No access
  2. 1. 1. Änderung des Unternehmensgegenstands No access
    2. 2. Satzungsbestimmung zum KI-Einsatz No access
    3. 3. Beschränkung durch Vorlage an die Hauptversammlung No access
    4. 4. Zustimmungsvorbehalte No access
  3. III. Zusammenfassung zur Kompetenz zur Entscheidung über KI-Einsatz No access
2. 1. I. Entscheidung über KI-Einsatz als Leitungsentscheidung oder Geschäftsführungsentscheidung No access
  2. 1. 1. Bedeutung der Einordnung als unternehmerische Entscheidung No access
    2. 2. Einordnung der Entscheidung über den KI-Einsatz als unternehmerische Entscheidung No access
  3. 1. 1. Pflicht des Vorstands zur Entscheidung über KI-Einsatz No access
    2. 2. Grundsätzlich freies Ermessen bei Leitungsaufgaben und unternehmerischen Entscheidungen No access
    3. 3. Inhaltliche Vorgaben für die Ermessensausübung bei der Entscheidung über KI-Einsatz No access
    4. 1. aa) Organisationspflicht No access
        bb) Risikomanagementpflicht No access
        (1) Legalitätspflicht No access
        (2) Sorgfaltspflicht im engeren Sinne No access
        (3) Unvertretbares Vorstandshandeln No access
      2. b) Ermessensgrenze des Unternehmensgegenstands No access
      3. c) Ermessensgrenze des Unternehmensinteresses No access
      4. d) Pflicht zum KI-Einsatz bei fehlender eigener Sachkunde No access
    5. 5. Obliegenheit zum KI-Einsatz aus der Business Judgment Rule No access
    6. 1. a) Handeln auf Grundlage angemessener Informationsbasis No access
      2. b) Handeln zum Wohle der Gesellschaft No access
  4. IV. Rechte des Vorstands bei der Entscheidung über den KI-Einsatz No access
3. C. Ergebnis No access
1. 1. I. Pflichtverletzung des Vorstands bei der Entscheidung über den KI-Einsatz No access
  2. 1. 1. Unzulässige Delegation No access
    2. 1. a) Auswahlpflichtverletzung No access
      2. b) Einweisungspflichtverletzung No access
      3. aa) Verletzung der allgemeinen Überwachungspflicht No access
        bb) Verletzung der Interventionspflicht No access
        cc) Verletzung von Organisationspflichten No access
  3. 1. 1. Unzulässige Delegation No access
    2. 1. a) Auswahlpflichtverletzung No access
      2. b) Einweisungspflichtverletzung No access
      3. aa) Verletzung der allgemeinen Überwachungspflicht und Interventionspflicht No access
        bb) Verletzung der Organisationspflichten No access
    3. 3. Möglicher Haftungsfreiraum durch die Business Judgment Rule No access
  4. 1. 1. Auswahlpflichtverletzung No access
    2. 2. Einweisungspflichtverletzung No access
    3. 3. Überwachungspflichtverletzung No access
  5. 1. 1. Erstes Szenario No access
    2. 2. Zweites Szenario No access
    3. 3. Drittes Szenario No access
    4. 4. Viertes Szenario No access
    5. 5. Fünftes Szenario No access
    6. 6. Sechstes Szenario No access
    7. 7. Siebtes Szenario No access
    8. 8. Achtes Szenario No access
    9. 9. Neuntes Szenario No access
    10. 10. Zehntes Szenario No access
2. 1. I. Verschuldensmaßstab No access
  2. II. Verschulden bei der Entscheidung über den KI-Einsatz No access
  3. III. Verschulden bei der Delegation an KI-Systeme No access
  4. IV. Enthaftung nach den ISION-Grundsätzen No access
3. 1. I. Entscheidung über den KI-Einsatz No access
  2. II. Delegation an KI-Systeme No access
4. 1. I. Entscheidung über den KI-Einsatz No access
  2. II. Delegation an KI-Systeme No access
7. Teil: Kritische Reflexion und Ausblick No access Pages 601 - 604
8. Teil: Zusammenfassung in Thesen No access Pages 605 - 640
Literaturverzeichnis No access Pages 641 - 720