Künstliche Intelligenz in der Medizin: Eine Untersuchung der vertraglichen Arzthaftung mit Beschränkung auf den Bereich der Behandlungsfehler

RAin Dr. Madalena Lindenthal-Schmidt LL.M.

doi:10.5771/9783748952534

, um zu prüfen, ob Sie einen Vollzugriff auf diese Publikation haben.

Monographie Kein Zugriff

Künstliche Intelligenz in der Medizin

Eine Untersuchung der vertraglichen Arzthaftung mit Beschränkung auf den Bereich der Behandlungsfehler

Autor:innen:
Reihe:: Schriftenreihe des Instituts für Europäisches Wirtschafts- und Verbraucherrecht e.V., Band 46
Verlag:: 2025

Zusammenfassung

KI kann im Behandlungssetting für Entlastung sorgen und zur Minimierung von Fehlerquoten beitragen. Doch auch Risiken gehen mit autonomen Systemen einher. Es kann zu Verzerrungen in der Ausgabe kommen, das System einen unrichtigen Entscheidungsvorschlag präsentieren. Die Autorin untersucht, ob das Arzthaftungsrecht auf diese Probleme reagieren kann. Die Analyse der Haftungsvoraussetzungen konzentriert sich auf die veränderten Leistungspflichten und stellt heraus, dass Ärzte neben medizinischer, mit dem Einsatz von KI auch technische Expertise besitzen müssen. Es bleibt möglich, Fehler im Kernbereich ärztlicher Tätigkeit zu identifizieren. Für Restrisiken bietet das Organisationsverschulden eine angemessene und interessengerechte Lösung.

Schlagworte

Publikation durchsuchen

Bibliographische Angaben

Copyrightjahr: 2025
ISBN-Print: 978-3-7560-2990-7
ISBN-Online: 978-3-7489-5253-4
Verlag: Nomos, Baden-Baden
Reihe: Schriftenreihe des Instituts für Europäisches Wirtschafts- und Verbraucherrecht e.V.
Band: 46
Sprache: Deutsch
Seiten: 309
Produkttyp: Monographie

Inhaltsverzeichnis

KapitelSeiten

Titelei/Inhaltsverzeichnis Kein Zugriff Seiten 1 - 18
Einleitung Kein Zugriff Seiten 19 - 24
Gang der Untersuchung Kein Zugriff Seiten 25 - 28
1. 1. I. Definition Künstliche Intelligenz Kein Zugriff
  2. II. Künstliche Intelligenz und Robotik Kein Zugriff
  3. 1. 1. aa. Software-Agenten Kein Zugriff
        bb. Hardware-Agenten Kein Zugriff
      2. aa. Darstellung des Wissens in der Wissensbasis Kein Zugriff
        bb. Vorteile für die Medizin Kein Zugriff
    2. 1. a. Programmieren von Lernalgorithmen Kein Zugriff
      2. aa. Überwachtes Lernen oder „supervised learning“ Kein Zugriff
        bb. Unüberwachtes lernen oder „unsupervised learning“ Kein Zugriff
        cc. Lernen durch Verstärkung oder „reinforcement learning“ Kein Zugriff
    3. 1. a. Menschliche neuronale Netze Kein Zugriff
      2. aa. Der Backpropagation-Algorithmus Kein Zugriff
        bb. Das Deep Learning Kein Zugriff
        cc. Deep Learning in der Medizin: Deep Medicine Kein Zugriff
  4. 1. 1. Autonomierisiko Kein Zugriff
    2. 2. Vernetzungsrisiko Kein Zugriff
    3. 1. a. Programmierende Kein Zugriff
      2. b. Trainierende Kein Zugriff
      3. c. Anwendende Kein Zugriff
      4. d. Fazit Kein Zugriff
2. 1. 1. 1. Äußere Erscheinungsformen Kein Zugriff
    2. 2. Stand der Entwicklung Kein Zugriff
  2. 1. 1. a. Simplinic Kein Zugriff
      2. b. Envision und Sandman.ICU Kein Zugriff
      3. c. Sandman.MD Kein Zugriff
    2. 2. Stand der Entwicklung Kein Zugriff
  3. 1. 1. iDose und Clarity von Philips Kein Zugriff
    2. 2. „AdaHealth“ und „Babylon Health“ Kein Zugriff
    3. 3. Dexcom G6 rtCGM Kein Zugriff
3. 1. I. Nachvollziehbarkeit des Ergebnisses des KI-Systems für ärztliche Anwendende als Letztentscheidende? Kein Zugriff
  2. 1. 1. Symbolische Künstliche Intelligenz Kein Zugriff
    2. 2. Nicht-symbolische Künstliche Intelligenz Kein Zugriff
    3. 3. Beispiel: Explainable AI in der Radiologie Kein Zugriff
  3. III. Kritik an der Explainable AI Kein Zugriff
  4. IV. Fazit Kein Zugriff
1. 1. I. Erster Definitionsversuch: EU-Kommission Kein Zugriff
  2. II. Zweiter Definitionsversuch: HEG-KI Kein Zugriff
  3. III. Dritter Definitionsversuch: EU-Kommission Kein Zugriff
  4. IV. Kritik Kein Zugriff
  5. V. Aktueller Stand Kein Zugriff
2. 1. 1. 1. a. Der Begriff der Rechtsfähigkeit Kein Zugriff
      2. b. Rechtssubjektivität und Rechtspersönlichkeit Kein Zugriff
      3. c. Fazit Kein Zugriff
    2. 1. a. Zweckmäßigkeit Kein Zugriff
      2. aa. Philosophie, Soziologie und funktionales Recht Kein Zugriff
        bb. Chancen-Risiken-Waage Kein Zugriff
        cc. Notwendigkeit eindeutiger Identifikation als Rechtssubjekt Kein Zugriff
        dd. Missbrauchspotenzial durch beteiligte Akteurinnen Kein Zugriff
      3. c. Fazit Kein Zugriff
  2. 1. 1. Lehre von der Teilrechtsfähigkeit Kein Zugriff
    2. 2. Kritik Kein Zugriff
    3. 3. Übertragung dieser Grundsätze auf KI-Systeme Kein Zugriff
  3. III. Gesamtfazit Kein Zugriff
3. 1. 1. 1. Definition des Medizinprodukts nach der Medizinprodukteverordnung (MPV) Kein Zugriff
    2. 2. Künstliche Intelligenz als Medizinprodukt nach der Medizinprodukte-Verordnung Kein Zugriff
    3. 1. a. Klassifizierung von Software als Medizinprodukt – Regel 11 Kein Zugriff
      2. b. Konformitätsbewertung Kein Zugriff
      3. c. CE-Kennzeichnung Kein Zugriff
      4. d. Problemfelder der Einordnung von KI-Systemen als Medizinprodukt Kein Zugriff
    4. 4. Zusammenfassung und Gesamtfazit Kein Zugriff
  2. 1. 1. Ethik-Leitlinie der HEG-KI Kein Zugriff
    2. 1. a. Anwendungsbereich Kein Zugriff
      2. aa. „Vertrauenswürdige KI“ Kein Zugriff
        bb. Hochrisiko-KI-Systeme (Klasse II) – Pflichtenkatalog Kein Zugriff
      3. aa. Hochrisiko-KI-Systeme und die Medizinprodukte-Verordnung Kein Zugriff
        bb. Konsequenz: erhöhter Pflichtenkatalog Kein Zugriff
      4. d. Kosten eines Hochrisiko-KI-Systems Kein Zugriff
    3. 1. a. Hintergrund: Befürchtete Haftungslücken Kein Zugriff
      2. b. Beweiserleichterungen – Offenlegungspflicht und gesetzliche Vermutungen Kein Zugriff
      3. c. Fehlende Verzahnung zwischen KI-VO und KI-Haftungs-RL-V Kein Zugriff
    4. 4. Zusammenfassung und Gesamtfazit Kein Zugriff
1. A. Grundsätze des deutschen Arzthaftungsrechts Kein Zugriff
2. 1. I. Die fachgerechte Behandlung Kein Zugriff
  2. 1. 1. a. Reduzierte Darlegungslast der Patientin Kein Zugriff
      2. b. Beweismaß Kein Zugriff
    2. 2. Beweiserleichterungen durch § 630h BGB Kein Zugriff
  3. III. Fazit Kein Zugriff
3. 1. I. Multiple Einflussfaktoren Kein Zugriff
  2. 1. 1. a. „Vertrauenswürdige KI“ Kein Zugriff
      2. aa. „Human in the loop“ Kein Zugriff
        bb. „Human on the loop“ Kein Zugriff
        cc. „Human in Comand“ Kein Zugriff
        dd. Fazit Kein Zugriff
    2. 2. Behandlungsumfeld – Organisationspflichten der Klinikbetreiberin Kein Zugriff
  3. III. Zusammenfassung Kein Zugriff
4. 1. 1. 1. Ambulante Behandlung bei niedergelassener Ärztin Kein Zugriff
    2. 2. Krankenhausbehandlung Kein Zugriff
    3. 3. Grundsätze des Vertragsschlusses Kein Zugriff
  2. II. Fazit Kein Zugriff
5. 1. 1. 1. a. Die klassische Behandlung Kein Zugriff
      2. b. Das Behandlungsumfeld Kein Zugriff
    2. 1. a. Medizinischer Standard Kein Zugriff
      2. b. Bestimmung des medizinischen Standards Kein Zugriff
    3. 3. Leitlinien und Richtlinien Kein Zugriff
    4. 4. Zusammenfassung Kein Zugriff
  2. 1. 1. Schicksalhafter Misserfolg – kein Behandlungsfehler Kein Zugriff
    2. 2. Neuland- bzw. Außenseitermethoden – Vereinbarung im Sinne des § 630a Abs. 2 BGB Kein Zugriff
    3. 3. Behandlungsfehler im engeren Sinne, im weiteren Sinne und Aufklärungsfehler Kein Zugriff
    4. 4. Einsatz von Künstlicher Intelligenz und Behandlungsfehler Kein Zugriff
  3. 1. 1. Befunderhebungsfehler beim Einsatz Künstlicher Intelligenz Kein Zugriff
    2. 1. aa. Systembezogene Faktoren Kein Zugriff
        bb. Kognitive Faktoren Kein Zugriff
      2. b. Wirkung von Künstlicher Intelligenz auf diese Faktoren Kein Zugriff
      3. c. Einsatz von Künstlicher Intelligenz bei der Diagnosestellung Kein Zugriff
    3. 1. (1) Fehler in der Trainingsphase Kein Zugriff
        (2) Fehler in der Anwendungsphase Kein Zugriff
        (3) Fazit Kein Zugriff
        bb. Fehlerquelle 2: KI-Risiko verwirklicht Kein Zugriff
        (1) Die Letztentscheidung und der „Goldstandard“ Kein Zugriff
        (a) Dazwischentreten der Maschine Kein Zugriff
        (b) Zwischenergebnis: Üblicher Sorgfaltsmaßstab anzuwenden Kein Zugriff
        (3) Medizinisch-evidente Fehler: Ärztliche Anwendende hat falschen Diagnosevorschlag trotz gegenteiliger Fachkenntnisse übernommen Kein Zugriff
        (a) Sorgfaltsmaßstab: Rechtsdogmatischer Ansatz Kein Zugriff
        (b) Sorgfaltsmaßstab: Interdisziplinär-rechtsdogmatischer Ansatz – Der technisch-medizinische-KI-Standard Kein Zugriff
        (c) Diskussion: Ärztliche Anwendende als Haftungsknecht Kein Zugriff
        (aa) Medizinischer Teil – bisheriger medizinischer Standard Kein Zugriff
        (bb) Technischer Teil – neuer technischer Standard Kein Zugriff
        (cc) Stellungnahme Kein Zugriff
      2. b. Zusammenfassung und Zwischenergebnis Kein Zugriff
  4. 1. 1. a. Grober Befunderhebungsfehler, § 630h Abs. 5 S. 1 BGB Kein Zugriff
      2. b. Einfacher Befunderhebungsfehler, § 630h Abs. 5 S. 2 BGB Kein Zugriff
      3. c. Befunderhebungsfehler bei Einsatz von KI-Systemen Kein Zugriff
      4. d. Zwischenergebnis Kein Zugriff
    2. 1. a. Fundamentaler Diagnoseirrtum, § 630h Abs. 5 S. 1 BGB Kein Zugriff
      2. b. Diagnoseirrtum bei Einsatz eines KI-Systems Kein Zugriff
    3. 3. Ergebnis Kein Zugriff
  5. 1. 1. Therapiefehler oder Therapiefreiheit? Kein Zugriff
    2. 2. Grenzen der Therapiefreiheit Kein Zugriff
    3. 1. aa. Grenzen der Vertratbarkeit veraltete oder konventionelle Methoden anzuwenden Kein Zugriff
        bb. Modernes KI-System bereits angeschafft, aber Anwendung unterlassen Kein Zugriff
        cc. Neuanschaffung wirtschaftlich zumutbar? Kein Zugriff
      2. b. KI-Methode verfügbar und genutzt Kein Zugriff
    4. 4. Rechtliche Bewertung von Neulandmethoden Kein Zugriff
    5. 5. KI-Systeme als Neulandmethode Kein Zugriff
  6. 1. 1. Organisationspflichten Kein Zugriff
    2. 1. a. Fehlerquelle 4: Fehlfunktion und Versagen des KI-Systems durch technischen Defekt Kein Zugriff
      2. b. Fehlerquelle 1: Fehlfunktion und Versagen infolge eines Bedienungsfehlers Kein Zugriff
      3. aa. Unterschied zu übrigen Behandlungsfehlern Kein Zugriff
        bb. Grundsatz: Gute Organisation in allen Stadien geschuldet Kein Zugriff
        cc. Haftung für fehlerhafte Einstellung Kein Zugriff
        (1) Der Standardbegriff einer guten Organisation Kein Zugriff
        (2) Medizinerinnen als professionell Betreibende Kein Zugriff
        (3) Zwischenergebnis: Verschuldensprinzip Kein Zugriff
    3. 3. Zusammenfassung und Ergebnis Kein Zugriff
  7. 1. 1. Rechtshistorischer Hintergrund des voll beherrschbaren Risikos Kein Zugriff
    2. 1. aa. Telos des § 630h Abs. 1 BGB Kein Zugriff
        bb. Teleologische Reduktion des § 630h Abs. 1 BGB Kein Zugriff
      2. b. Bezugspunkt: Aufgabenbereiche von KI-Systemen Kein Zugriff
      3. c. Ergebnis Kein Zugriff
    3. 1. a. Anscheinsbeweis Kein Zugriff
      2. b. Organisationsfehler als grober Behandlungsfehler i.S.d. § 630h Abs. 5 S. 1 BGB Kein Zugriff
    4. 4. Ergebnis Kein Zugriff
  8. 1. 1. Hintergrund Kein Zugriff
    2. 1. a. Aufgaben des medizinischen Kernbereichs Kein Zugriff
      2. b. Rechtsfolgen des Delegationsfehlers Kein Zugriff
      3. cc. Menschliche Aufsicht, Goldstandard und §§ 630a, 630b i.V.m. § 613 BGB Kein Zugriff
        dd. Fehlende Rechtspersönlichkeit – fehlende Delegationsfähigkeit? Kein Zugriff
        ee. Künstliche Intelligenz ist als neue Behandlungsmethode dem Kernbereich zuzuordnen Kein Zugriff
        (1) Delegation von Aufgaben des Kernbereichs Kein Zugriff
        (2) Lösungsvorschlag: Zertifizierung des KI-Systems Kein Zugriff
        (3) Delegation von untergeordneten Maßnahmen Kein Zugriff
    3. 3. Zusammenfassung und Ergebnis Kein Zugriff
  9. IX. Übernahmeverschulden Kein Zugriff
  10. X. Beweisrecht zum Übernahmeverschulden Kein Zugriff
  11. 1. 1. a. Dokumentation nach der KI-VO Kein Zugriff
      2. b. Dokumentation nach der Medizinprodukte-Verordnung Kein Zugriff
    2. 2. Rechtliche Bewertung eines Verstoßes gegen die Dokumentationspflicht – § 630h Abs. 3 BGB de lege lata et de lege ferenda Kein Zugriff
Viertes Kapitel – Ergebnisse und Vorschläge Kein Zugriff Seiten 289 - 294
Literaturverzeichnis Kein Zugriff Seiten 295 - 309