Betroffenenschutz durch Verfahren bei Big Data und KI

MinR a.D. Dr. Bertram Raum

doi:10.5771/9783800597680

Zusammenfassung

Das Werk untersucht, ob Big Data-Anwendungen und Künstliche Intelligenz (KI) durch rechtliche Vorgaben begrenzt werden können. Ausgehend von der Klärung, was unter Big Data und KI zu verstehen ist, werden beispielhaft einige Anwendungen betrachtet, in denen diese Techniken eingesetzt werden. Sowohl im internationalen als auch im nationalen Bereich gibt es bereits eine ganze Reihe von Regelungen zu Big Data- und KI-Anwendungen, die beispielhaft beleuchtet werden. Ein erster Schwerpunkt liegt dabei auf der DSGVO sowie den in neuester Zeit von der EU erlassenen Rechtsakten aufgrund der Datenstrategie 2020. Spezielle Big Data-Anwendungen im öffentlichen und privaten Bereich werden untersucht. Dabei reicht die Spanne von Anwendungen im Bewerbungsverfahren über das Finanz- und Versicherungswesen und bis zum öffentlichen Sicherheitsrecht. Die Nutzung von Big Data- und KI-Anwendungen im Polizeirecht, bei der Forschung und im Reiseverkehr werden besonders betrachtet. Ein weiterer Schwerpunkt liegt auf der Beeinflussung von Verfahrensrecht auf die Nutzung von Big Data- und KI-Anwendungen. Dazu wird als Maßstab die DSGVO angelegt. Für Bereiche, in denen keine rechtlichen Regelungen existieren, wird eine Begleitung durch Ethikräte und -kommissionen vorgesehen. Abschließend werden aktuelle gesetzliche Entwicklungen in der EU, den USA, Kanada und China aufgezeigt und die regulativen Herausforderungen für die Normierung von Big Data- und KI-Anwendungen untersucht.

Schlagworte

Publikation durchsuchen

Bibliographische Angaben

Erscheinungsjahr: 2025
Erscheinungsdatum: 22.11.2024
ISBN-Print: 978-3-8005-1962-0
ISBN-Online: 978-3-8005-9768-0
Verlag: dfv Mediengruppe, Frankfurt am Main
Reihe: Datenschutz-Berater
Sprache: Deutsch
Seiten: 529
Produkttyp: Monographie

Inhaltsverzeichnis

KapitelSeiten

Titelei/Inhaltsverzeichnis Kein Zugriff Seiten I - XXV
A. Einleitung Kein Zugriff Seiten 1 - 6
1. I. Was ist ein »Verfahren«? Kein Zugriff
2. 1. 1. a) Teilaspekt »Volume« Kein Zugriff
    2. b) Teilaspekt »Variety« Kein Zugriff
    3. c) Teilaspekt »Velocity« Kein Zugriff
    4. d) Ergänzungen der Begriffsbestimmung durch weitere »Vs« Kein Zugriff
    5. e) Erweiterung um den Teilaspekt »Analytics« Kein Zugriff
  2. 2. Definitionen des Begriffs »Big Data« aus Deutschland Kein Zugriff
  3. 3. Arbeitsdefinition des Begriffs »Big Data« Kein Zugriff
3. 1. 1. Der Begriff »Künstliche Intelligenz« (KI) Kein Zugriff
  2. 2. »Big Data« bei Trainingsdaten Kein Zugriff
  3. 3. Gefahr von Diskriminierungen bei Nutzung von Trainingsdaten Kein Zugriff
  4. 4. Gefahren bei nicht-personenbezogenen Daten Kein Zugriff
4. IV. Abgrenzung zu »Data Warehouse« und »Data Mining« Kein Zugriff
5. 1. 1. Verwaltungsinterne und weitere öffentlich-rechtliche Datenquellen Kein Zugriff
  2. 2. Daten aus privatrechtlichen Datenbanken und Registern Kein Zugriff
  3. 3. Daten aus »Open Data« Kein Zugriff
  4. 4. Daten aus »Social Media« Kein Zugriff
  5. 5. »Ubiquitous Computing« Kein Zugriff
6. 1. 1. »Online-Tracking« Kein Zugriff
  2. 1. a) »Scoring« Kein Zugriff
    2. b) »Social Scoring« Kein Zugriff
  3. 3. »Behavioral Targeting« Kein Zugriff
  4. 1. a) Zugang über offene und nicht-öffentliche Schnittstellen Kein Zugriff
    2. b) »Screen Scraping« Kein Zugriff
  5. 5. »Data Harvesting« Kein Zugriff
  6. 6. Zwischenergebnis Kein Zugriff
1. 1. 1. a) Personenbezogene Daten im Sinne der DSGVO Kein Zugriff
    2. b) »Pseudonymisierung« personenbezogener Daten und Big Data-Anwendungen Kein Zugriff
    3. c) Verschlüsselung von Daten Kein Zugriff
    4. 1. aa) »Anonymisierung« personenbezogener Daten und Big Data-Anwendungen Kein Zugriff
      2. bb) Anwendung der DSGVO auf reine Sachdaten? Kein Zugriff
    5. e) Zwischenergebnis Kein Zugriff
  2. 1. a) Der Data Act Kein Zugriff
    2. b) Der Digital Markets Act – DMA Kein Zugriff
    3. c) Der Data Governance Act (DGA) Kein Zugriff
    4. d) Der Digital Service Act – DSA Kein Zugriff
    5. e) Die KI-VO Kein Zugriff
    6. f) Auswirkungen auf »Big Data« Kein Zugriff
  3. 1. a) Der Vorschlag für eine ePrivacy-Verordnung Kein Zugriff
    2. b) Die Free Flow of Data-VO (FFD-VO) der EU Kein Zugriff
    3. c) Die »Open Data-Richtlinie« der EU Kein Zugriff
    4. d) Die EU-VO über Transparenz und das Targeting politischer Werbung Kein Zugriff
2. 1. 1. a) Vorgaben zu »Big Data« aus dem allgemeinen Zivilrecht Kein Zugriff
    2. b) Nutzung von Big Data-Anwendungen im Personalwesen (»People Analytics«) Kein Zugriff
    3. c) Schutz vor diskriminierender Wirkung – das AGG Kein Zugriff
    4. 1. aa) Die BaFin-Prinzipien zum Einsatz von Algorithmen in Entscheidungsprozessen Kein Zugriff
      2. bb) »Big Data« und KI-Systeme im Bankensektor Kein Zugriff
      3. cc) Big Data-Scoring im Bereich der Kreditauskunft Kein Zugriff
      4. dd) »Big Data«-Anwendungen im Hochfrequenzhandel Kein Zugriff
      5. ee) Regelungen zum »Big Data« im Versicherungssektor Kein Zugriff
      6. ff) Fazit zur Nutzung von Big Data-Anwendungen und KI-Systemen im Finanz- und Versicherungswesen Kein Zugriff
    5. e) Big Data-Anwendungen zur Entwicklung von Marketing- und Werbestrategien Kein Zugriff
    6. f) Big Data-Anwendungen in weiteren Wirtschaftsbereichen Kein Zugriff
  2. 1. 1. aa) Einschränkungen des Erlasses vollständig automatisierter VA Kein Zugriff
      2. bb) Die §§ 35a VwVfG, 31 SGB X, 155 Abs. 4 AO und Big Data Kein Zugriff
      3. cc) Verstoß der §§ 35a VwVfG, 31a SGB X und 155 Abs. 4 AO gegen Art. 22 DSGVO? Kein Zugriff
      4. dd) Gibt es ein »Recht auf eine menschliche Entscheidung«? Kein Zugriff
      5. α) Der vollständig automatisierte VA nach § 155a Abs. 4 AO Kein Zugriff
        β) Der vollständig automatisierte VA nach § 31a SGB X Kein Zugriff
      6. ff) Zwischenfazit Kein Zugriff
    2. b) »Big Data« in der amtlichen Statistik Kein Zugriff
    3. c) »Big Data« im Steuerrecht Kein Zugriff
    4. 1. aa) »Data Mining« aufgrund des Antiterrordateigesetzes (ATDG) und des Rechtsextremismusdateigesetzes (REDG) Kein Zugriff
      2. α) Nutzung der Software »PreCobs« durch deutsche Polizeibehörden Kein Zugriff
        β) Nutzung ähnlicher Software-Lösungen in anderen Bundesländern Kein Zugriff
        γ) Nutzung der Software »Palantir Gotham« durch deutsche Polizeibehörden Kein Zugriff
        δ) Erfahrungen mit der Nutzung von Big Data-Anwendung im Polizeibereich Kein Zugriff
      3. α) § 25a HSOG – die Regelung von »hessenData« und § 49 HmbPolDVG Kein Zugriff
        β) Datenabgleich und -analyse nach § 23 Abs. 5 und § 25 PolG NW Kein Zugriff
      4. dd) Regelungen außerhalb der Polizeigesetze Kein Zugriff
      5. ee) »Smart Home« als Erkenntnisquelle für die Polizeibehörden? Kein Zugriff
      6. ff) Big Data-Anwendungen im Bereich der Strafverfolgung Kein Zugriff
      7. gg) Regelungen im europäischen Polizeirecht Kein Zugriff
      8. hh) »Big Data« im Bereich der Nachrichtendienste Kein Zugriff
      9. ii) Zwischenfazit Kein Zugriff
    5. e) Nutzung von Big Data-Anwendungen und KI in der Justiz Kein Zugriff
    6. f) Weitere Beispiele von Big Data-Anwendungen in der öffentlichen Verwaltung Kein Zugriff
    7. g) Zwischenergebnis Kein Zugriff
  3. 1. 1. aa) Big Data-Anwendungen in der Forschung Kein Zugriff
      2. bb) Big Data-Anwendungen im Gesundheitsdatennutzungsgesetz Kein Zugriff
    2. b) Nutzung von »Big Data« in der medizinischen Versorgung Kein Zugriff
    3. 1. aa) Kartellrechtliche Fragen aus Unternehmenssicht Kein Zugriff
      2. bb) Kartellrechtliche Fragen aus Sicht der Kartellbehörden Kein Zugriff
  4. 1. 1. aa) Die PNR-Abkommen zwischen der EU und den USA Kein Zugriff
      2. bb) Weitere PNR-Abkommen zwischen der EU und Drittstaaten Kein Zugriff
    2. b) Rechtliche Vorgaben zu PNR-Daten auf UN-Ebene Kein Zugriff
    3. c) Die PNR-RL der EU vom 27.4.2016 Kein Zugriff
    4. d) Die Entscheidung des EuGH vom 21.6.2022 zum Einsatz von KI Kein Zugriff
    5. e) Nationale Rechtsgrundlagen zur Verarbeitung von PNR-Daten Kein Zugriff
    6. f) Zwischenergebnis Kein Zugriff
  5. 1. a) Regelungen zu »Big Data« aufgrund eines »virtuellen Hausrechts« Kein Zugriff
    2. b) Versuch einer Normierung durch private Regelungen Kein Zugriff
    3. c) Vorgaben durch Ethik-Richtlinien und Ethik-Kodizes Kein Zugriff
  6. 6. Zwischenfazit Kein Zugriff
3. III. Zwischenbilanz Kein Zugriff
1. I. Verfahrensrecht zur Sicherung von Grundrechten Kein Zugriff
2. 1. 1. Vorgaben aus dem europäischen »Verfassungsrecht« Kein Zugriff
  2. 2. Vorgaben aus dem deutschen Verfassungsrecht Kein Zugriff
  3. 3. Der Grundsatz der Verhältnismäßigkeit bei Big Data-Anwendungen Kein Zugriff
3. 1. 1. a) Datenschutz-Folgenabschätzung nach Art. 35 DSGVO Kein Zugriff
    2. b) Konformitätsbewertung und Risikomanagementsystem nach der KI-VO Kein Zugriff
    3. c) Bereits existierende Folgenabschätzungsverfahren Kein Zugriff
    4. d) Bilanz zur Datenschutz-Folgenabschätzung Kein Zugriff
  2. 2. Benennung eines internen Datenschutzbeauftragten (bDSB) Kein Zugriff
4. 1. 1. a) Verzicht von Grundrechten aufgrund von Fatalismus und Ignoranz Kein Zugriff
    2. b) »Post Privacy«-Bewegung versus Recht auf Datenschutz Kein Zugriff
    3. c) Folgen des »digitalen Fatalismus« und des »Post Privacy« Kein Zugriff
    4. d) Zwischenergebnis Kein Zugriff
  2. 1. a) Informierte Einwilligung als ethischer Standard Kein Zugriff
    2. 1. aa) Die »informierte Einwilligung« und Big Data-Anwendungen Kein Zugriff
      2. bb) Kritik an und Grenzen des klassischen Modells der »informierten Einwilligung« Kein Zugriff
    3. 1. aa) Die Konstruktion einer »breiten Einwilligung« (»broad consent«) Kein Zugriff
      2. bb) Das Konzept der dynamischen Einwilligung (»dynamic consent«) Kein Zugriff
      3. cc) Das Konzept einer übergeordneten Einwilligung (»meta consent«) Kein Zugriff
      4. dd) Entwicklung einer kontextorientierten Einwilligung (»contextual consent«)? Kein Zugriff
      5. ee) Entwicklung einer »Kaskadeneinwilligung« (»cascading consent«)? Kein Zugriff
      6. ff) Die »Blanko-Einwilligung« (»blanket consent«)? Kein Zugriff
      7. gg) Der »Einwilligungsassistent« Kein Zugriff
      8. α) Probleme bei Einwilligungen, die Minderjährige betreffen Kein Zugriff
        β) Probleme bei Einwilligungen, die vulnerable Personen betreffen Kein Zugriff
        γ) Zwischenfazit Kein Zugriff
      9. ii) »Einwilligung« trotz vorhandener gesetzlicher Verarbeitungsgrundlage Kein Zugriff
      10. jj) Fazit Kein Zugriff
    4. d) Recht auf Widerruf Kein Zugriff
    5. e) Die Idee einer »Datenspende« Kein Zugriff
    6. f) Der neue »Datenaltruismus« Kein Zugriff
    7. g) Das »Recht auf Nichtwissen« als Aspekt der »informierten Einwilligung« Kein Zugriff
    8. h) Ersetzung der Einwilligung durch eine gesetzliche Regelung Kein Zugriff
    9. i) Zwischenfazit Kein Zugriff
  3. 1. a) Der Grundsatz der Rechtmäßigkeit (»Lawfulness«) Kein Zugriff
    2. b) Der Grundsatz der Verarbeitung nach Treu und Glauben (»Fairness«) Kein Zugriff
    3. c) Der Grundsatz der Transparenz (»Transparency«) Kein Zugriff
    4. 1. aa) Der datenschutzrechtliche Grundsatz der Zweckbindung Kein Zugriff
      2. α) Die Weiterverarbeitung der Daten für Zwecke der Wissenschaft und Forschung Kein Zugriff
        β) Die Weiterverarbeitung der Daten i. S. v. Art. 6 Abs. 4 DSGVO Kein Zugriff
      3. cc) Anwendung des Zweckbindungsgrundsatzes auf Big Data-Anwendungen Kein Zugriff
    5. e) Der Grundsatz der Datenminimierung (»Data Minimisation«) Kein Zugriff
    6. f) Der Grundsatz der Richtigkeit (»Accuracy«) Kein Zugriff
    7. g) Der Grundsatz der Speicherbegrenzung (»Storage Limitation«) Kein Zugriff
    8. h) Grundsatz der Integrität und Vertraulichkeit (»Integrity and Confidentiality«) Kein Zugriff
    9. i) Der Grundsatz der Rechenschaftspflicht (»Accountability«) Kein Zugriff
    10. j) Das Prinzip der datenschutzgerechten Systemgestaltung (»Privacy by Design«, »Privacy by Default«) Kein Zugriff
    11. k) Zwischenergebnis Kein Zugriff
  4. 1. a) Fehlende Nutzung von Betroffenenrechten wegen Informationsasymmetrie Kein Zugriff
    2. b) Fehlende Betroffenenrechte mangels Identifizierbarkeit Kein Zugriff
    3. c) Informationsrechte nach Art. 12, 13 und 14 DSGVO Kein Zugriff
    4. d) Auskunftsrecht nach Art. 15 DSGVO und Big Data Kein Zugriff
    5. e) Berichtigungsansprüche nach Art. 16 DSGVO Kein Zugriff
    6. 1. aa) Das Recht auf Löschung (Art. 17 Abs. 1 DSGVO) Kein Zugriff
      2. bb) Das Recht auf Vergessenwerden (Art. 17 Abs. 2 DSGVO) Kein Zugriff
      3. cc) Ausnahmen vom Recht auf Löschung und »Vergessenwerden« (Art. 17 Abs. 3 DSGVO) Kein Zugriff
    7. g) Das »Recht auf Einschränkung der Verarbeitung« nach Art. 18 DSGVO Kein Zugriff
    8. h) Das »Recht auf Datenübertragbarkeit« nach Art. 20 Abs. 1 DSGVO Kein Zugriff
    9. 1. aa) Das allgemeine relative Widerspruchsrecht (Art. 21 Abs. 1 DSGVO) Kein Zugriff
      2. bb) Das besondere relative Widerspruchsrecht bei Forschungs- und Statistikzwecken Kein Zugriff
      3. cc) Zwischenergebnis Kein Zugriff
    10. j) Durchsetzung von Betroffenenrechten auf dem Rechtsweg Kein Zugriff
  5. 5. Big Data und »Profiling« Kein Zugriff
  6. 6. Technische und organisatorische Maßnahmen« nach Art. 32 DSGVO Kein Zugriff
5. 1. 1. Kompensation durch verfahrensrechtliche Vorschriften Kein Zugriff
  2. 1. 1. aa) Begriff »Ethik« Kein Zugriff
      2. bb) Big Data, KI und angewandte Ethik Kein Zugriff
      3. α) Achtung der menschlichen Autonomie (»Respect for human autonomy«) Kein Zugriff
        β) Nichtschädigung bzw. Schadensverhütung Kein Zugriff
        γ) Wohltätigkeit (»Beneficence«) Kein Zugriff
        δ) Gerechtigkeit und Fairness Kein Zugriff
        ε) Erklärbarkeit (»Explicability«) Kein Zugriff
        ζ) Lösungen bei Kollisionen der ethischen Grundsätze Kein Zugriff
    2. b) Folgen ethischer Implikationen von Big Data-Anwendungen und KI-Systemen Kein Zugriff
    3. c) Ethische Vorgaben durch Ethik-Richtlinien und Ethik-Kodizes Kein Zugriff
    4. 1. α) Ethikkommissionen Kein Zugriff
        β) Ethikräte Kein Zugriff
      2. bb) Entstehung von »Ethikkommissionen« Kein Zugriff
      3. cc) Aufgaben und Befugnisse der Ethikkommission Kein Zugriff
      4. dd) Kritik am derzeitigen Modell der Ethikkommission Kein Zugriff
      5. ee) Das neue Modell einer »Ethikkommission« Kein Zugriff
      6. ff) Rechtsnatur der Entscheidung der Ethikkommission Kein Zugriff
      7. gg) Zwischenfazit Kein Zugriff
  3. 3. Fazit Kein Zugriff
1. 1. 1. a) Big Data- und KI-Regelungen in Europa Kein Zugriff
    2. b) Big Data und KI-Regelungen in den USA Kein Zugriff
    3. c) Geplante KI-Regelungen in Kanada Kein Zugriff
    4. d) KI-Regulierung in China Kein Zugriff
    5. e) Vorgesehene KI-Regulierungen in weiteren Staaten und private Normierungen Kein Zugriff
    6. f) KI-Resolution der Vereinten Nationen Kein Zugriff
  2. 2. Vorhandene Regelungen auf einfachgesetzlicher Basis Kein Zugriff
  3. 3. Gibt es ein Recht auf Nutzung von Big Data-Anwendungen? Kein Zugriff
  4. 4. Notwendigkeit einer rechtlichen Regelung Kein Zugriff
2. 1. 1. Systematische Stellung einer weiteren »Big Data«- und KI-Regulierung Kein Zugriff
  2. 2. Gesetzesfolgenabschätzung Kein Zugriff
3. 1. 1. 1. aa) Fehlende Transparenz bei Big Data-Anwendungen und KI-Systemen Kein Zugriff
      2. bb) Spezialfall »Forschung« – Schaffung eines Forschungsdatengesetzes Kein Zugriff
      3. cc) Problem der diskriminieren Wirkung von Big Data-Anwendungen Kein Zugriff
    2. b) Fehlende Regelungen zur Datenerhebung Kein Zugriff
    3. c) Fehlende Regelungen zur Nutzung bestimmter Big Data-Anwendungen Kein Zugriff
    4. d) Fehlende Regelungen zur den Datenschutzgrundsätzen und Betroffenenrechten Kein Zugriff
    5. e) Fehlende Regelungen zur Datensicherheit Kein Zugriff
  2. 2. Das verfassungsrechtliche Bestimmtheitsgebot für Regelungen Kein Zugriff
  3. 1. a) Der Vorschlag einer KI-Haftungsrichtlinie Kein Zugriff
    2. b) Die neue Produkthaftungsrichtlinie Kein Zugriff
    3. c) Deliktische Haftung Kein Zugriff
    4. d) Vertragliche Haftung Kein Zugriff
    5. e) Staatshaftungsrecht Kein Zugriff
    6. f) Haftung nach Art. 82 DSGVO Kein Zugriff
    7. g) Stellungnahme zu den Haftungsregelungen Kein Zugriff
  4. 4. Grundvoraussetzungen für eine Regulierung zu »Big Data« Kein Zugriff
4. IV. Zusammenfassung der Ergebnisse Kein Zugriff
F. Schlussfolgerungen und Ausblick Kein Zugriff Seiten 459 - 463
Literaturverzeichnis Kein Zugriff Seiten 465 - 522
Dokumente der Europäischen Union Kein Zugriff Seiten 523 - 528
Dokumente der OECD Kein Zugriff Seiten 529 - 529