Verantwortungsvoller Umgang mit KI in der Medizin aus interdisziplinärer Perspektive

Dr. Kathi Beier; Stephan Grassmann; Dr. Martin Hähnel; PD Dr. Rico Hauswald; Prof. Dr. Sabine Pfeiffer; Prof. Dr. Timo Rademacher; Raphael Schaarschmidt

doi:10.5771/9783748954392

Summary

This case-based guide attempts for the first time to answer questions on the use of new AI-supported technologies in healthcare from a legal, sociological, ethical and epistemological perspective and to provide recommendations for the responsible use of AI in medicine based on comments on Mr. Müller's realistic scenario of a patient journey. The book will also be available in open access upon publication.

Keywords

Search publication

Bibliographic data

Copyright year: 2025
ISBN-Print: 978-3-7560-3098-9
ISBN-Online: 978-3-7489-5439-2
Publisher: Nomos, Baden-Baden
Language: German
Pages: 326
Product type: Book Titles

Titelei/InhaltsverzeichnisPages 1 - 12 Download chapter (PDF)
1. DanksagungPages 13 - 14 Download chapter (PDF)
2. EinleitungPages 15 - 18 Download chapter (PDF)
Download chapter (PDF)
1. Vorbemerkung
2. Station 1: Aufnahme mit Tablet
3. Station 2: Untersuchung und OP des Primärtumors
4. Station 3: Bestrahlungs- und Therapieplan zur Behandlung der Metastasen
5. Station 4: Aufklärung durch einen Chatbot und Bestrahlung
6. Station 5: Nachsorge mit KI-Patientenüberwachung
Download chapter (PDF)
1. 1. 1. 4.1.1.1 Einleitung
    2. 4.1.1.2 Die (Arbeits-)Soziologische Perspektive auf die Fallkonstellation
    3. 4.1.1.3 Analyse und Diskussion
    4. 4.1.1.4 Aufnahme
    5. 4.1.1.5 Anamnese
  2. 1. 4.1.2.1 Medizinische Wissensansprüche
    2. 4.1.2.2 Das Arzt-Patienten-Verhältnis aus epistemologischer Perspektive
    3. 4.1.2.3 Epistemische Ungerechtigkeit in Medizin und Gesundheitswesen
  3. 1. 4.1.3.1 Einleitung
    2. 4.1.3.2 Medizinethische Grundprinzipien
    3. 4.1.3.3 Zur Ethik von Daten und Algorithmen
    4. 1. A) Technik und Big Data
      2. B) Soziale Interaktion
  4. 1. 4.1.4.1 Vorbemerkung
    2. 4.1.4.2 Die Aufnahme mit Tablet
    3. 4.1.4.3 Einordnung der in Station 1 genutzten Programme als „Medizinprodukt“ im Sinn der MP-VO
    4. 4.1.4.4 Regulatorische Relevanz der KI-Komponente und Einordnung nach der KI-VO
    5. 4.1.4.5 Zurück zur MP-VO
    6. 4.1.4.6 Ergebnis: Wir haben ein Hochrisiko-KI-System
2. 1. 1. 4.2.1.1 Einleitung
    2. 4.2.1.2 Datengetriebene Diagnostik: Neue Perspektiven und offene Fragen
    3. 4.2.1.3 Rechtliche Rahmenbedingungen und individuelle Perspektiven
    4. 4.2.1.4 Machtasymmetrien und institutionalisierte Routinen
  2. 1. 4.2.2.1 Medizinische Urteilskraft
    2. 4.2.2.2 Medizinische Forschung und klinische Praxis
  3. 1. 4.2.3.1 Einleitung
    2. 4.2.3.2 Datenethik und informationelle Selbstbestimmung
    3. 4.2.3.3 Informierte Einwilligung
    4. 4.2.3.4 Datenspeicherung und Datenzugriff
    5. 4.2.3.5 Wem gehören die Daten?
    6. 4.2.3.6 Integration der KI in das ärztliche Handeln
    7. 4.2.3.7 Von interpersonaler Vertraulichkeit zu einer kollektiven Kultur des Vertrauens
  4. 1. 4.2.4.1 Einleitung
    2. 4.2.4.2 Vernetzte Patientenakten
    3. 1. 4.2.4.3.1 Verfassungsrechtliche Grundlagen des Datenschutzrechts
      2. 4.2.4.3.2 Einfachrechtliche Grundlagen
    4. 4.2.4.4 Primärnutzung der medizinischen Daten Herrn Müllers
    5. 1. 4.2.4.5.1 Rechtsgrundlagen verschiedener Formen einer Akten-Vernetzung
      2. 4.2.4.5.2 Rechtsgrundlage eines möglichen KI-Trainings
      3. 4.2.4.5.3 Rechtsgrundlagen zu Forschungszwecken?
    6. 4.2.4.6 Ausblick: Grund zum Optimismus
3. 1. 1. 4.3.1.1 Einleitung
    2. 4.3.1.2 Arbeit mit KI und KI in der Arbeit
    3. 4.3.1.3 Die Rolle von Technik (und KI) in der medizinischen Praxis
    4. 4.3.1.4 Upskilling, Reskilling und Deskilling
  2. 1. 4.3.2.1 Kann man medizinischen KI-Anwendungen „vertrauen“?
    2. 4.3.2.2 Recht auf (Nicht-)Wissen und epistemischer Paternalismus
  3. 1. 4.3.3.1 Einleitung
    2. 4.3.3.2 Akkuratesse der Diagnose und Prognose von medizinischen KI-Systemen
    3. 4.3.3.3 Transparenz und Nachvollziehbarkeit
    4. 4.3.3.4 Verantwortlichkeit und Haftung
    5. 4.3.3.5 Weitere ethische Implikationen
    6. 4.3.3.6 Fazit
  4. 1. 4.3.4.1 Einleitung
    2. 4.3.4.2 Rolle der Uniklinik und der behandelnden Ärztinnen und Ärzte
    3. 4.3.4.3 Allgemeine Anforderungen an Hochrisiko-KI-Systeme
    4. 4.3.4.4 Betreiberpflichten
    5. 1. 4.3.4.5.1 Zweifel tatsächlicher Natur (und eine Kritik am Stil europäischer Rechtsetzung)
      2. 4.3.4.5.2 Zweifel rechtlicher Natur: Art. 22 DSGVO
4. 1. 1. 4.4.1.1 Einleitung
    2. 4.4.1.2 Chatbots in der (professionellen) Medizin
    3. 4.4.1.3 Chatbots in der Patient:innenkommunikation
    4. 4.4.1.4 Standardisierung vs. Personalisierung
  2. 1. 4.4.2.1 KI als Konversationspartner
    2. 4.4.2.2 Informierte Einwilligung
  3. 1. 4.4.3.1 Einleitung
    2. 4.4.3.2 KI-basierte Chatbots
    3. 4.4.3.3 KI-basierte Chatbots in der Medizin
    4. 4.4.3.4 Ethische Bewertung des Einsatzes von KI-Chatbots
    5. 4.4.3.5 Fazit
  4. 1. 1. 4.4.4.1.1 Patientenwille als Maxime
      2. 4.4.4.1.2 Aufklärung als Grundlage der informierten Willensbildung
      3. 4.4.4.1.3 Umfang korrespondierender Aufklärungspflichten
      4. 4.4.4.1.4 Divergenz zwischen theoretischem Anspruch und Realität
    2. 4.4.4.2 Übernahme der Aufklärung durch KI?
5. 1. 1. 4.5.1.1 Einleitung
    2. 4.5.1.2 Entwicklungstendenzen der Nachsorge
    3. 4.5.1.3 Patient-Reported Outcomes
    4. 4.5.1.4 Arbeitstechnische Auswirkungen von KI-Anwendungen in der Nachsorge
  2. 1. 4.5.2.1 Zwischen Krankheit und Gesundheit
    2. 4.5.2.2 Nachsorge, Gesundheit und medizinische Überwachung
  3. 1. 4.5.3.1 Einleitung: Der Nutzen von KI in der medizinischen Nachversorgung
    2. 4.5.3.2 Gefahr der äußeren Überwachung
    3. 4.5.3.3 Gefahr der inneren Überwachung
    4. 4.5.3.4 Fazit
  4. 1. 4.5.4.1 Einleitung
    2. 4.5.4.2 Wearables/mHealth-Applikationen als „DiGA“
Download chapter (PDF)
1. 5.1 Soziologie
2. 5.2 Erkenntnistheorie
3. 5.3 Medizinethik
4. 5.4 Rechtswissenschaft
6. GesamtliteraturverzeichnisPages 285 - 306 Download chapter (PDF)
7. AbkürzungsverzeichnisPages 307 - 308 Download chapter (PDF)
8. BegriffsglossarPages 309 - 324 Download chapter (PDF)
9. Über die Autor:innenPages 325 - 326 Download chapter (PDF)