Künstliche Intelligenz in der Medizin

RAin Dr. Madalena Lindenthal-Schmidt LL.M.

doi:10.5771/9783748952534

Summary

AI can provide relief in the healthcare system and help to minimize error rates. However, there are also risks associated with AI systems. There may be biases in the output and the system may present an incorrect proposal for a decision. The author examines whether medical liability law can respond to these problems. The analysis of the liability requirements focuses on the changed contractual obligations and emphasizes that doctors must have technical expertise in addition to medical expertise when using AI. It remains possible to identify errors in the core area of medical activity. For residual risks, organizational fault offers an appropriate and fair solution.

Keywords

Search publication

Bibliographic data

Copyright year: 2025
ISBN-Print: 978-3-7560-2990-7
ISBN-Online: 978-3-7489-5253-4
Publisher: Nomos, Baden-Baden
Series: Schriftenreihe des Instituts für Europäisches Wirtschafts- und Verbraucherrecht e.V.
Volume: 46
Language: German
Pages: 309
Product type: Book Titles

Titelei/Inhaltsverzeichnis No access Pages 1 - 18
Einleitung No access Pages 19 - 24
Gang der Untersuchung No access Pages 25 - 28
1. 1. I. Definition Künstliche Intelligenz No access
  2. II. Künstliche Intelligenz und Robotik No access
  3. 1. 1. aa. Software-Agenten No access
        bb. Hardware-Agenten No access
      2. aa. Darstellung des Wissens in der Wissensbasis No access
        bb. Vorteile für die Medizin No access
    2. 1. a. Programmieren von Lernalgorithmen No access
      2. aa. Überwachtes Lernen oder „supervised learning“ No access
        bb. Unüberwachtes lernen oder „unsupervised learning“ No access
        cc. Lernen durch Verstärkung oder „reinforcement learning“ No access
    3. 1. a. Menschliche neuronale Netze No access
      2. aa. Der Backpropagation-Algorithmus No access
        bb. Das Deep Learning No access
        cc. Deep Learning in der Medizin: Deep Medicine No access
  4. 1. 1. Autonomierisiko No access
    2. 2. Vernetzungsrisiko No access
    3. 1. a. Programmierende No access
      2. b. Trainierende No access
      3. c. Anwendende No access
      4. d. Fazit No access
2. 1. 1. 1. Äußere Erscheinungsformen No access
    2. 2. Stand der Entwicklung No access
  2. 1. 1. a. Simplinic No access
      2. b. Envision und Sandman.ICU No access
      3. c. Sandman.MD No access
    2. 2. Stand der Entwicklung No access
  3. 1. 1. iDose und Clarity von Philips No access
    2. 2. „AdaHealth“ und „Babylon Health“ No access
    3. 3. Dexcom G6 rtCGM No access
3. 1. I. Nachvollziehbarkeit des Ergebnisses des KI-Systems für ärztliche Anwendende als Letztentscheidende? No access
  2. 1. 1. Symbolische Künstliche Intelligenz No access
    2. 2. Nicht-symbolische Künstliche Intelligenz No access
    3. 3. Beispiel: Explainable AI in der Radiologie No access
  3. III. Kritik an der Explainable AI No access
  4. IV. Fazit No access
1. 1. I. Erster Definitionsversuch: EU-Kommission No access
  2. II. Zweiter Definitionsversuch: HEG-KI No access
  3. III. Dritter Definitionsversuch: EU-Kommission No access
  4. IV. Kritik No access
  5. V. Aktueller Stand No access
2. 1. 1. 1. a. Der Begriff der Rechtsfähigkeit No access
      2. b. Rechtssubjektivität und Rechtspersönlichkeit No access
      3. c. Fazit No access
    2. 1. a. Zweckmäßigkeit No access
      2. aa. Philosophie, Soziologie und funktionales Recht No access
        bb. Chancen-Risiken-Waage No access
        cc. Notwendigkeit eindeutiger Identifikation als Rechtssubjekt No access
        dd. Missbrauchspotenzial durch beteiligte Akteurinnen No access
      3. c. Fazit No access
  2. 1. 1. Lehre von der Teilrechtsfähigkeit No access
    2. 2. Kritik No access
    3. 3. Übertragung dieser Grundsätze auf KI-Systeme No access
  3. III. Gesamtfazit No access
3. 1. 1. 1. Definition des Medizinprodukts nach der Medizinprodukteverordnung (MPV) No access
    2. 2. Künstliche Intelligenz als Medizinprodukt nach der Medizinprodukte-Verordnung No access
    3. 1. a. Klassifizierung von Software als Medizinprodukt – Regel 11 No access
      2. b. Konformitätsbewertung No access
      3. c. CE-Kennzeichnung No access
      4. d. Problemfelder der Einordnung von KI-Systemen als Medizinprodukt No access
    4. 4. Zusammenfassung und Gesamtfazit No access
  2. 1. 1. Ethik-Leitlinie der HEG-KI No access
    2. 1. a. Anwendungsbereich No access
      2. aa. „Vertrauenswürdige KI“ No access
        bb. Hochrisiko-KI-Systeme (Klasse II) – Pflichtenkatalog No access
      3. aa. Hochrisiko-KI-Systeme und die Medizinprodukte-Verordnung No access
        bb. Konsequenz: erhöhter Pflichtenkatalog No access
      4. d. Kosten eines Hochrisiko-KI-Systems No access
    3. 1. a. Hintergrund: Befürchtete Haftungslücken No access
      2. b. Beweiserleichterungen – Offenlegungspflicht und gesetzliche Vermutungen No access
      3. c. Fehlende Verzahnung zwischen KI-VO und KI-Haftungs-RL-V No access
    4. 4. Zusammenfassung und Gesamtfazit No access
1. A. Grundsätze des deutschen Arzthaftungsrechts No access
2. 1. I. Die fachgerechte Behandlung No access
  2. 1. 1. a. Reduzierte Darlegungslast der Patientin No access
      2. b. Beweismaß No access
    2. 2. Beweiserleichterungen durch § 630h BGB No access
  3. III. Fazit No access
3. 1. I. Multiple Einflussfaktoren No access
  2. 1. 1. a. „Vertrauenswürdige KI“ No access
      2. aa. „Human in the loop“ No access
        bb. „Human on the loop“ No access
        cc. „Human in Comand“ No access
        dd. Fazit No access
    2. 2. Behandlungsumfeld – Organisationspflichten der Klinikbetreiberin No access
  3. III. Zusammenfassung No access
4. 1. 1. 1. Ambulante Behandlung bei niedergelassener Ärztin No access
    2. 2. Krankenhausbehandlung No access
    3. 3. Grundsätze des Vertragsschlusses No access
  2. II. Fazit No access
5. 1. 1. 1. a. Die klassische Behandlung No access
      2. b. Das Behandlungsumfeld No access
    2. 1. a. Medizinischer Standard No access
      2. b. Bestimmung des medizinischen Standards No access
    3. 3. Leitlinien und Richtlinien No access
    4. 4. Zusammenfassung No access
  2. 1. 1. Schicksalhafter Misserfolg – kein Behandlungsfehler No access
    2. 2. Neuland- bzw. Außenseitermethoden – Vereinbarung im Sinne des § 630a Abs. 2 BGB No access
    3. 3. Behandlungsfehler im engeren Sinne, im weiteren Sinne und Aufklärungsfehler No access
    4. 4. Einsatz von Künstlicher Intelligenz und Behandlungsfehler No access
  3. 1. 1. Befunderhebungsfehler beim Einsatz Künstlicher Intelligenz No access
    2. 1. aa. Systembezogene Faktoren No access
        bb. Kognitive Faktoren No access
      2. b. Wirkung von Künstlicher Intelligenz auf diese Faktoren No access
      3. c. Einsatz von Künstlicher Intelligenz bei der Diagnosestellung No access
    3. 1. (1) Fehler in der Trainingsphase No access
        (2) Fehler in der Anwendungsphase No access
        (3) Fazit No access
        bb. Fehlerquelle 2: KI-Risiko verwirklicht No access
        (1) Die Letztentscheidung und der „Goldstandard“ No access
        (a) Dazwischentreten der Maschine No access
        (b) Zwischenergebnis: Üblicher Sorgfaltsmaßstab anzuwenden No access
        (3) Medizinisch-evidente Fehler: Ärztliche Anwendende hat falschen Diagnosevorschlag trotz gegenteiliger Fachkenntnisse übernommen No access
        (a) Sorgfaltsmaßstab: Rechtsdogmatischer Ansatz No access
        (b) Sorgfaltsmaßstab: Interdisziplinär-rechtsdogmatischer Ansatz – Der technisch-medizinische-KI-Standard No access
        (c) Diskussion: Ärztliche Anwendende als Haftungsknecht No access
        (aa) Medizinischer Teil – bisheriger medizinischer Standard No access
        (bb) Technischer Teil – neuer technischer Standard No access
        (cc) Stellungnahme No access
      2. b. Zusammenfassung und Zwischenergebnis No access
  4. 1. 1. a. Grober Befunderhebungsfehler, § 630h Abs. 5 S. 1 BGB No access
      2. b. Einfacher Befunderhebungsfehler, § 630h Abs. 5 S. 2 BGB No access
      3. c. Befunderhebungsfehler bei Einsatz von KI-Systemen No access
      4. d. Zwischenergebnis No access
    2. 1. a. Fundamentaler Diagnoseirrtum, § 630h Abs. 5 S. 1 BGB No access
      2. b. Diagnoseirrtum bei Einsatz eines KI-Systems No access
    3. 3. Ergebnis No access
  5. 1. 1. Therapiefehler oder Therapiefreiheit? No access
    2. 2. Grenzen der Therapiefreiheit No access
    3. 1. aa. Grenzen der Vertratbarkeit veraltete oder konventionelle Methoden anzuwenden No access
        bb. Modernes KI-System bereits angeschafft, aber Anwendung unterlassen No access
        cc. Neuanschaffung wirtschaftlich zumutbar? No access
      2. b. KI-Methode verfügbar und genutzt No access
    4. 4. Rechtliche Bewertung von Neulandmethoden No access
    5. 5. KI-Systeme als Neulandmethode No access
  6. 1. 1. Organisationspflichten No access
    2. 1. a. Fehlerquelle 4: Fehlfunktion und Versagen des KI-Systems durch technischen Defekt No access
      2. b. Fehlerquelle 1: Fehlfunktion und Versagen infolge eines Bedienungsfehlers No access
      3. aa. Unterschied zu übrigen Behandlungsfehlern No access
        bb. Grundsatz: Gute Organisation in allen Stadien geschuldet No access
        cc. Haftung für fehlerhafte Einstellung No access
        (1) Der Standardbegriff einer guten Organisation No access
        (2) Medizinerinnen als professionell Betreibende No access
        (3) Zwischenergebnis: Verschuldensprinzip No access
    3. 3. Zusammenfassung und Ergebnis No access
  7. 1. 1. Rechtshistorischer Hintergrund des voll beherrschbaren Risikos No access
    2. 1. aa. Telos des § 630h Abs. 1 BGB No access
        bb. Teleologische Reduktion des § 630h Abs. 1 BGB No access
      2. b. Bezugspunkt: Aufgabenbereiche von KI-Systemen No access
      3. c. Ergebnis No access
    3. 1. a. Anscheinsbeweis No access
      2. b. Organisationsfehler als grober Behandlungsfehler i.S.d. § 630h Abs. 5 S. 1 BGB No access
    4. 4. Ergebnis No access
  8. 1. 1. Hintergrund No access
    2. 1. a. Aufgaben des medizinischen Kernbereichs No access
      2. b. Rechtsfolgen des Delegationsfehlers No access
      3. cc. Menschliche Aufsicht, Goldstandard und §§ 630a, 630b i.V.m. § 613 BGB No access
        dd. Fehlende Rechtspersönlichkeit – fehlende Delegationsfähigkeit? No access
        ee. Künstliche Intelligenz ist als neue Behandlungsmethode dem Kernbereich zuzuordnen No access
        (1) Delegation von Aufgaben des Kernbereichs No access
        (2) Lösungsvorschlag: Zertifizierung des KI-Systems No access
        (3) Delegation von untergeordneten Maßnahmen No access
    3. 3. Zusammenfassung und Ergebnis No access
  9. IX. Übernahmeverschulden No access
  10. X. Beweisrecht zum Übernahmeverschulden No access
  11. 1. 1. a. Dokumentation nach der KI-VO No access
      2. b. Dokumentation nach der Medizinprodukte-Verordnung No access
    2. 2. Rechtliche Bewertung eines Verstoßes gegen die Dokumentationspflicht – § 630h Abs. 3 BGB de lege lata et de lege ferenda No access
Viertes Kapitel – Ergebnisse und Vorschläge No access Pages 289 - 294
Literaturverzeichnis No access Pages 295 - 309