Die zivilrechtliche Haftung des Arztes und des Medizinprodukteherstellers bei der Anwendung Künstlicher Intelligenz zur Diagnostik

Dr. Mona Lisa Sterheltou

doi:10.5771/9783748971108

Summary

Artificial intelligence is increasingly being integrated into medical diagnostics and promises more accurate, earlier, and more efficient decision-making. But who is liable when AI systems produce incorrect diagnoses? This dissertation examines this question through the lens of the civil liability of doctors and medical device manufacturers towards patients. It focuses on the specific features of AI-based decision-making in both assistive and substitutive uses. On this basis, liability risks, potential liability gaps, and shifts in responsibility are analysed, and avenues for a more appropriate future allocation of risk are explored. In addition, European regulatory approaches and their interaction with liability law are examined. The work is aimed at lawyers specializing in medical law, product liability law, and liability law, regulatory authorities, and stakeholders in the healthcare sector. It is a legal dissertation focusing on medical and product liability law and artificial intelligence.

Keywords

Search publication

Bibliographic data

Edition: 1/2026
Copyright Year: 2026
ISBN-Print: 978-3-7560-4213-5
ISBN-Online: 978-3-7489-7110-8
Publisher: Nomos, Baden-Baden
Series: Nomos Universitätsschriften - Recht
Volume: 1046
Language: German
Pages: 307
Product Type: Monograph

1. Vorwort No access
1. I. Einführung No access
2. II. Problemstellung No access
3. III. Gang der Untersuchung No access
4. IV. Grenzen No access
1. 1. 1. Ausgangslage einer Definitionsdiffusion und Definition der KI-VO No access
  2. 2. Definitionserfordernis in der Jurisprudenz und eigenes Verständnis No access
2. 1. 1. Abgrenzung zu klassisch-determinierter medizinischer Software No access
  2. 2. Maschinelles Lernen No access
  3. 3. Statische, nicht lernende vs. dynamische, lernende KI-Systeme No access
  4. 4. Überwachtes Lernen, unbewachtes Lernen und verstärkendes Lernen No access
  5. 5. Künstliche neuronale Netze No access
  6. 6. Tiefes Lernen No access
3. 1. 1. Prävention No access
  2. 1. a) Beispiel: Malignes Melanom No access
    2. b) Beispiel: Mammakarzinom No access
    3. c) Beispiel: Diabetische Retinopathie No access
  3. 3. Therapie No access
4. 1. 1. a) Unterscheidung verschiedener Autonomiestufen KI-basierter Diagnosen No access
    2. b) Differenzierung in unterstützenden und ersetzenden Einsatz von KI-Systemen No access
  2. 1. a) Hindernisse bei der Implementierung No access
    2. b) Vereinbarkeit mit dem ärztlichen Berufsrecht No access
    3. c) Einfluss auf die Arzt-Patienten-Beziehung No access
5. V. Nutzen und Risiken des Einsatzes von KI-Systemen in der Medizin No access
6. 1. 1. Autonomie No access
  2. 2. Opazität No access
  3. 3. Komplexität No access
  4. 4. Veränderbarkeit No access
1. 1. 1. 1. (1) Anwendungsbereich und dogmatische Einordnung No access
        (aa) Patienten im rechtlichen und tatsächlichen Sinn No access
        (bb) Private und gesetzliche Krankenversicherung No access
        (aa) Behandelnde im rechtlichen und tatsächlichen Sinn No access
        (bb) Vertragsschluss im niedergelassenen Bereich No access
        (cc) Vertragsschluss im Krankenhaus No access
      2. (1) Ausgangspunkt des fachlichen Standards No access
        (2) Medizinischer Standard und Bedeutung von Leitlinien No access
        (3) Berechtigte Abweichung vs. Diagnose- und Befunderhebungsfehler No access
      3. cc) Rechtsgutverletzung und haftungsbegründende Kausalität No access
      4. dd) Schaden und haftungsausfüllende Kausalität No access
      5. ee) Vertretenmüssen No access
    2. b) Deliktische Haftung des Behandelnden nach § 823 Abs. 1 BGB No access
    3. c) Deliktische Haftung des Behandelnden nach § 823 Abs. 2 BGB No access
    4. d) Fallbeispiel 1: Die unentdeckte Fraktur No access
    5. e) Teilergebnis zum Diagnosefehler eines Behandelnden No access
  2. 1. a) Vertragliche Haftung des Behandelnden nach §§ 280 Abs. 1, 630a BGB No access
    2. b) Deliktische Haftung des Behandelnden nach § 823 Abs. 1, 2 BGB No access
    3. c) Produkthaftung des Behandelnden nach § 1 ProdHaftG No access
    4. 1. aa) Produktfehler No access
      2. bb) Rechtsgutverletzung und haftungsbegründende Kausalität No access
      3. cc) Hersteller und kein Ausschluss No access
      4. dd) Schaden und haftungsausfüllende Kausalität No access
    5. e) Produzentenhaftung des Medizinprodukteherstellers nach § 823 Abs. 1 BGB No access
    6. 1. (1) Früher: MPG auf Basis der RL 30/385/EWG, RL 93/42/EWG und RL 98/79/EG No access
        (2) Heute: MDR auf Basis der VO (EU) 2017/745, VO (EU) 2017/746 und MPDG No access
      2. bb) Verletzungshandlung und haftungsbegründende Kausalität No access
      3. cc) Rechtswidrigkeit und Verschulden No access
      4. dd) Schaden und haftungsausfüllende Kausalität No access
    7. g) Fallbeispiel 2: Das fehlerhafte Röntgengerät No access
    8. h) Teilergebnis zum Einsatz fehlerhafter Medizinprodukte No access
2. 1. 1. 1. [i] Einsatz als ,,Neulandmethode‘‘ No access
        [ii] Einsatz als Standardmethode No access
        (bb) Konkreter Einsatz No access
        (b) Kenntnis der Funktionsweise No access
        (c) Anwendungskompetenz No access
        (d) Funktionsprüfung vor Inbetriebnahme No access
        (aa) Einsatz als ,,Neulandmethode‘‘ No access
        (bb) Einsatz als Standardmethode No access
        (aa) Übertragung des Konsiliums-Vertrauensgrundsatzes No access
        (bb) Vergleich zur Heranziehung herkömmlicher medizinischer Wissensquellen No access
        (g) Instandhaltung No access
        (2) Zwischenergebnis zur vertraglichen Haftung des Anwenders No access
      2. bb) Deliktische Haftung des Anwenders nach § 823 Abs. 1 BGB No access
      3. (aa) Diagnoseunterstützende KI-Systeme als Hochrisiko-KI-Systeme No access
        (bb) Ärzte und Krankenhäuser als Betreiber No access
        (b) Generelle Schutzgesetzeigenschaft der Normen der KI-VO No access
        (c) Konkrete, als Schutzgesetz in Betracht kommende Pflichten der KI-VO No access
        (2) Zwischenergebnis zur deliktischen Haftung des Anwenders No access
      4. dd) Zwischenergebnis zur Haftung des Anwenders bei einem unterstützenden Einsatz von KI-Systemen No access
    2. 1. (a) Embedded-Software No access
        (b) Standalone-Software No access
        (c) Novellierung des Produktbegriffs durch die Produkthaftungs-RL No access
        (d) Zwischenfazit No access
        (a) Anthropozentrischer Sorgfaltsmaßstab No access
        (b) Systembezogener Sorgfaltsmaßstab No access
        (c) Nutzen-Risiko-Abwägung No access
        (d) Einfluss der MDR und der KI-VO No access
        (e) Erweiterung des Fehlerbegriffs durch die Produkthaftungs-RL No access
        (f) Zwischenfazit No access
        (a) Abstellen auf das Inverkehrbringen No access
        (b) Dynamische Auslegung No access
        (c) Ausweitung zeitlicher Herstellerverantwortung durch die Produkthaftungs-RL No access
        (d) Zwischenfazit No access
        (a) Ausschlussgrund des § 1 Abs. 2 Nr. 2 ProdHaftG No access
        (b) Ausschlussgrund des § 1 Abs. 2 Nr. 5 ProdHaftG No access
        (c) Modifikation des Haftungsausschlusses für Entwicklungsrisiken durch die Produkthaftungs-RL No access
        (d) Zwischenfazit No access
        (5) Problematik mangelnder Kausalität beim unterstützenden KI-System-Einsatz No access
        (6) Zwischenergebnis zur Produkthaftung des Medizinprodukteherstellers No access
      2. (a) Konstruktionspflichten No access
        (b) Fabrikationspflichten No access
        (c) Instruktionspflichten No access
        (d) Produktbeobachtungspflichten No access
        (e) Einfluss der MDR und KI-VO No access
        (f) Zwischenfazit No access
        (2) Problematik mangelnder Kausalität beim unterstützenden KI-System-Einsatz No access
        (3) Zwischenergebnis zur Produzentenhaftung des Medizinprodukteherstellers nach § 823 Abs. 1 BGB No access
      3. (1) Einordnung von Normen der KI-VO als Schutzgesetz No access
        (2) Problematik mangelnder Kausalität beim unterstützenden KI-System Einsatz No access
        (3) Zwischenergebnis zur Produkthaftung des Medizinprodukteherstellers No access
      4. dd) Zwischenergebnis zur Haftung des Medizinprodukteherstellers beim unterstützenden Einsatz No access
    3. c) Fallbeispiel 3: Das fehlerhafte unterstützende KI-Bildanalyse-System No access
    4. d) Teilergebnis zum unterstützenden Einsatz von KI-Systemen No access
  2. 1. 1. [i] Einsatz als ,,Neulandmethode‘‘ No access
        [ii] Einsatz als Standardmethode No access
        (bb) Konkreter Einsatz No access
        (b) Kenntnis der Funktionsweise No access
        (c) Anwendungskompetenz No access
        (d) Funktionsprüfung vor Inbetriebnahme No access
        (e) Aufklärung über KI-spezifische Besonderheiten No access
        (f) Hinterfragung eines ersetzenden KI-Diagnosevorschlags und Vergleich mit den Maßstäben des § 832 BGB No access
        (g) Instandhaltung No access
        (h) Abschaltung eines ersetzenden KI-Systems No access
        (a) Eigenverschulden des Anwenders No access
        (aa) Direkte Anwendung des § 278 BGB No access
        (bb) Analoge Anwendung des § 278 BGB No access
        (c) Zwischenfazit No access
        (3) Problematik mangelnder Kausalität beim ersetzenden KI-System-Einsatz No access
        (4) Zwischenergebnis zur vertraglichen Haftung des Anwenders No access
      2. bb) Deliktische Haftung des Anwenders nach § 823 Abs. 1 BGB No access
      3. cc) Deliktische Haftung des Anwenders nach § 823 Abs. 2 BGB No access
      4. (1) Haftung für den Verrichtungsgehilfen, § 831 BGB No access
        (2) Haftung des Aufsichtspflichtigen, § 832 BGB No access
        (3) Haftung des Tierhalters, § 833 BGB No access
        (4) Haftung des Grundstücksbesitzers, § 836 BGB No access
      5. ee) Zwischenergebnis zur Haftung des Anwenders beim ersetzenden Einsatz No access
    2. 1. aa) Produkthaftung des Medizinprodukteherstellers nach § 1 ProdHaftG No access
      2. (1) Problematik der Konkretisierung herstellerseitiger Verkehrspflichten bei KI-Systemen No access
        (2) Problematik mangelnden Verschuldens beim ersetzenden KI-System-Einsatz No access
        (3) Zwischenergebnis zur Produzentenhaftung des Medizinprodukteherstellers aus § 823 Abs. 1 BGB No access
      3. cc) Produzentenhaftung des Herstellers nach § 823 Abs. 2 BGB No access
      4. dd) Zwischenergebnis zur Haftung des Medizinprodukteherstellers beim ersetzenden Einsatz No access
    3. c) Fallbeispiel 4: Das fehlerhafte ersetzende KI-Bildanalyse-System No access
    4. d) Teilergebnis zum ersetzenden Einsatz von KI-Systemen No access
3. 1. 1. Auswirkungen des unterstützenden Einsatzes No access
  2. 2. Auswirkungen des ersetzenden Einsatzes No access
1. I. Konsequenzen der aktuellen Haftungsverteilung für beteiligte Akteure No access
2. 1. 1. Erwartungen an einen Schadensausgleich bei Fehlern im Rahmen eines KI-System-Einsatzes No access
  2. 2. Erfordernis einer Anpassung der geltenden Haftungsregeln No access
  3. 3. Geeignete Risikoträger No access
3. 1. 1. Einführung eines Gefährdungshaftungstatbestandes für medizinische KI-Systeme No access
  2. 2. Anerkennung von Rechtsfähigkeit medizinischer KI-Systeme No access
  3. 3. Versicherungslösung für medizinische KI-Systeme No access
  4. 4. Bewertung der Lösungsansätze No access
  5. 5. Vorschlag einer ,,KI-Heilbehandlungsversicherung‘‘ No access
4. 1. 1. a) Offenlegung von Beweismitteln No access
    2. b) Erleichterung hinsichtlich der Beweislast No access
  2. 1. a) Offenlegung von Beweismitteln No access
    2. b) Widerlegbare Vermutung eines Verstoßes No access
    3. c) Widerlegbare Kausalitätsvermutung No access
  3. 3. Bewertung der Europäischen Gesetzgebung No access
5. V. Ergebnis der Beurteilung der haftungsrechtlichen Auswirkungen des Einsatzes KI-basierter Diagnosetechnologien No access
1. I. Zusammenfassung No access
2. II. Ausblick No access
F. Literaturverzeichnis No access Pages 293 - 306