Betroffenenschutz durch Verfahren bei Big Data und KI

MinR a.D. Dr. Bertram Raum

doi:10.5771/9783800597680

Keywords

Search publication

Bibliographic data

Copyright year: 2024
ISBN-Print: 978-3-8005-1962-0
ISBN-Online: 978-3-8005-9768-0
Publisher: dfv Mediengruppe, Frankfurt am Main
Series: Datenschutz-Berater
Language: German
Pages: 529
Product type: Book Titles

Titelei/Inhaltsverzeichnis No access Pages I - XXV
A. Einleitung No access Pages 1 - 6
1. I. Was ist ein »Verfahren«? No access
2. 1. 1. a) Teilaspekt »Volume« No access
    2. b) Teilaspekt »Variety« No access
    3. c) Teilaspekt »Velocity« No access
    4. d) Ergänzungen der Begriffsbestimmung durch weitere »Vs« No access
    5. e) Erweiterung um den Teilaspekt »Analytics« No access
  2. 2. Definitionen des Begriffs »Big Data« aus Deutschland No access
  3. 3. Arbeitsdefinition des Begriffs »Big Data« No access
3. 1. 1. Der Begriff »Künstliche Intelligenz« (KI) No access
  2. 2. »Big Data« bei Trainingsdaten No access
  3. 3. Gefahr von Diskriminierungen bei Nutzung von Trainingsdaten No access
  4. 4. Gefahren bei nicht-personenbezogenen Daten No access
4. IV. Abgrenzung zu »Data Warehouse« und »Data Mining« No access
5. 1. 1. Verwaltungsinterne und weitere öffentlich-rechtliche Datenquellen No access
  2. 2. Daten aus privatrechtlichen Datenbanken und Registern No access
  3. 3. Daten aus »Open Data« No access
  4. 4. Daten aus »Social Media« No access
  5. 5. »Ubiquitous Computing« No access
6. 1. 1. »Online-Tracking« No access
  2. 1. a) »Scoring« No access
    2. b) »Social Scoring« No access
  3. 3. »Behavioral Targeting« No access
  4. 1. a) Zugang über offene und nicht-öffentliche Schnittstellen No access
    2. b) »Screen Scraping« No access
  5. 5. »Data Harvesting« No access
  6. 6. Zwischenergebnis No access
1. 1. 1. a) Personenbezogene Daten im Sinne der DSGVO No access
    2. b) »Pseudonymisierung« personenbezogener Daten und Big Data-Anwendungen No access
    3. c) Verschlüsselung von Daten No access
    4. 1. aa) »Anonymisierung« personenbezogener Daten und Big Data-Anwendungen No access
      2. bb) Anwendung der DSGVO auf reine Sachdaten? No access
    5. e) Zwischenergebnis No access
  2. 1. a) Der Data Act No access
    2. b) Der Digital Markets Act – DMA No access
    3. c) Der Data Governance Act (DGA) No access
    4. d) Der Digital Service Act – DSA No access
    5. e) Die KI-VO No access
    6. f) Auswirkungen auf »Big Data« No access
  3. 1. a) Der Vorschlag für eine ePrivacy-Verordnung No access
    2. b) Die Free Flow of Data-VO (FFD-VO) der EU No access
    3. c) Die »Open Data-Richtlinie« der EU No access
    4. d) Die EU-VO über Transparenz und das Targeting politischer Werbung No access
2. 1. 1. a) Vorgaben zu »Big Data« aus dem allgemeinen Zivilrecht No access
    2. b) Nutzung von Big Data-Anwendungen im Personalwesen (»People Analytics«) No access
    3. c) Schutz vor diskriminierender Wirkung – das AGG No access
    4. 1. aa) Die BaFin-Prinzipien zum Einsatz von Algorithmen in Entscheidungsprozessen No access
      2. bb) »Big Data« und KI-Systeme im Bankensektor No access
      3. cc) Big Data-Scoring im Bereich der Kreditauskunft No access
      4. dd) »Big Data«-Anwendungen im Hochfrequenzhandel No access
      5. ee) Regelungen zum »Big Data« im Versicherungssektor No access
      6. ff) Fazit zur Nutzung von Big Data-Anwendungen und KI-Systemen im Finanz- und Versicherungswesen No access
    5. e) Big Data-Anwendungen zur Entwicklung von Marketing- und Werbestrategien No access
    6. f) Big Data-Anwendungen in weiteren Wirtschaftsbereichen No access
  2. 1. 1. aa) Einschränkungen des Erlasses vollständig automatisierter VA No access
      2. bb) Die §§ 35a VwVfG, 31 SGB X, 155 Abs. 4 AO und Big Data No access
      3. cc) Verstoß der §§ 35a VwVfG, 31a SGB X und 155 Abs. 4 AO gegen Art. 22 DSGVO? No access
      4. dd) Gibt es ein »Recht auf eine menschliche Entscheidung«? No access
      5. α) Der vollständig automatisierte VA nach § 155a Abs. 4 AO No access
        β) Der vollständig automatisierte VA nach § 31a SGB X No access
      6. ff) Zwischenfazit No access
    2. b) »Big Data« in der amtlichen Statistik No access
    3. c) »Big Data« im Steuerrecht No access
    4. 1. aa) »Data Mining« aufgrund des Antiterrordateigesetzes (ATDG) und des Rechtsextremismusdateigesetzes (REDG) No access
      2. α) Nutzung der Software »PreCobs« durch deutsche Polizeibehörden No access
        β) Nutzung ähnlicher Software-Lösungen in anderen Bundesländern No access
        γ) Nutzung der Software »Palantir Gotham« durch deutsche Polizeibehörden No access
        δ) Erfahrungen mit der Nutzung von Big Data-Anwendung im Polizeibereich No access
      3. α) § 25a HSOG – die Regelung von »hessenData« und § 49 HmbPolDVG No access
        β) Datenabgleich und -analyse nach § 23 Abs. 5 und § 25 PolG NW No access
      4. dd) Regelungen außerhalb der Polizeigesetze No access
      5. ee) »Smart Home« als Erkenntnisquelle für die Polizeibehörden? No access
      6. ff) Big Data-Anwendungen im Bereich der Strafverfolgung No access
      7. gg) Regelungen im europäischen Polizeirecht No access
      8. hh) »Big Data« im Bereich der Nachrichtendienste No access
      9. ii) Zwischenfazit No access
    5. e) Nutzung von Big Data-Anwendungen und KI in der Justiz No access
    6. f) Weitere Beispiele von Big Data-Anwendungen in der öffentlichen Verwaltung No access
    7. g) Zwischenergebnis No access
  3. 1. 1. aa) Big Data-Anwendungen in der Forschung No access
      2. bb) Big Data-Anwendungen im Gesundheitsdatennutzungsgesetz No access
    2. b) Nutzung von »Big Data« in der medizinischen Versorgung No access
    3. 1. aa) Kartellrechtliche Fragen aus Unternehmenssicht No access
      2. bb) Kartellrechtliche Fragen aus Sicht der Kartellbehörden No access
  4. 1. 1. aa) Die PNR-Abkommen zwischen der EU und den USA No access
      2. bb) Weitere PNR-Abkommen zwischen der EU und Drittstaaten No access
    2. b) Rechtliche Vorgaben zu PNR-Daten auf UN-Ebene No access
    3. c) Die PNR-RL der EU vom 27.4.2016 No access
    4. d) Die Entscheidung des EuGH vom 21.6.2022 zum Einsatz von KI No access
    5. e) Nationale Rechtsgrundlagen zur Verarbeitung von PNR-Daten No access
    6. f) Zwischenergebnis No access
  5. 1. a) Regelungen zu »Big Data« aufgrund eines »virtuellen Hausrechts« No access
    2. b) Versuch einer Normierung durch private Regelungen No access
    3. c) Vorgaben durch Ethik-Richtlinien und Ethik-Kodizes No access
  6. 6. Zwischenfazit No access
3. III. Zwischenbilanz No access
1. I. Verfahrensrecht zur Sicherung von Grundrechten No access
2. 1. 1. Vorgaben aus dem europäischen »Verfassungsrecht« No access
  2. 2. Vorgaben aus dem deutschen Verfassungsrecht No access
  3. 3. Der Grundsatz der Verhältnismäßigkeit bei Big Data-Anwendungen No access
3. 1. 1. a) Datenschutz-Folgenabschätzung nach Art. 35 DSGVO No access
    2. b) Konformitätsbewertung und Risikomanagementsystem nach der KI-VO No access
    3. c) Bereits existierende Folgenabschätzungsverfahren No access
    4. d) Bilanz zur Datenschutz-Folgenabschätzung No access
  2. 2. Benennung eines internen Datenschutzbeauftragten (bDSB) No access
4. 1. 1. a) Verzicht von Grundrechten aufgrund von Fatalismus und Ignoranz No access
    2. b) »Post Privacy«-Bewegung versus Recht auf Datenschutz No access
    3. c) Folgen des »digitalen Fatalismus« und des »Post Privacy« No access
    4. d) Zwischenergebnis No access
  2. 1. a) Informierte Einwilligung als ethischer Standard No access
    2. 1. aa) Die »informierte Einwilligung« und Big Data-Anwendungen No access
      2. bb) Kritik an und Grenzen des klassischen Modells der »informierten Einwilligung« No access
    3. 1. aa) Die Konstruktion einer »breiten Einwilligung« (»broad consent«) No access
      2. bb) Das Konzept der dynamischen Einwilligung (»dynamic consent«) No access
      3. cc) Das Konzept einer übergeordneten Einwilligung (»meta consent«) No access
      4. dd) Entwicklung einer kontextorientierten Einwilligung (»contextual consent«)? No access
      5. ee) Entwicklung einer »Kaskadeneinwilligung« (»cascading consent«)? No access
      6. ff) Die »Blanko-Einwilligung« (»blanket consent«)? No access
      7. gg) Der »Einwilligungsassistent« No access
      8. α) Probleme bei Einwilligungen, die Minderjährige betreffen No access
        β) Probleme bei Einwilligungen, die vulnerable Personen betreffen No access
        γ) Zwischenfazit No access
      9. ii) »Einwilligung« trotz vorhandener gesetzlicher Verarbeitungsgrundlage No access
      10. jj) Fazit No access
    4. d) Recht auf Widerruf No access
    5. e) Die Idee einer »Datenspende« No access
    6. f) Der neue »Datenaltruismus« No access
    7. g) Das »Recht auf Nichtwissen« als Aspekt der »informierten Einwilligung« No access
    8. h) Ersetzung der Einwilligung durch eine gesetzliche Regelung No access
    9. i) Zwischenfazit No access
  3. 1. a) Der Grundsatz der Rechtmäßigkeit (»Lawfulness«) No access
    2. b) Der Grundsatz der Verarbeitung nach Treu und Glauben (»Fairness«) No access
    3. c) Der Grundsatz der Transparenz (»Transparency«) No access
    4. 1. aa) Der datenschutzrechtliche Grundsatz der Zweckbindung No access
      2. α) Die Weiterverarbeitung der Daten für Zwecke der Wissenschaft und Forschung No access
        β) Die Weiterverarbeitung der Daten i. S. v. Art. 6 Abs. 4 DSGVO No access
      3. cc) Anwendung des Zweckbindungsgrundsatzes auf Big Data-Anwendungen No access
    5. e) Der Grundsatz der Datenminimierung (»Data Minimisation«) No access
    6. f) Der Grundsatz der Richtigkeit (»Accuracy«) No access
    7. g) Der Grundsatz der Speicherbegrenzung (»Storage Limitation«) No access
    8. h) Grundsatz der Integrität und Vertraulichkeit (»Integrity and Confidentiality«) No access
    9. i) Der Grundsatz der Rechenschaftspflicht (»Accountability«) No access
    10. j) Das Prinzip der datenschutzgerechten Systemgestaltung (»Privacy by Design«, »Privacy by Default«) No access
    11. k) Zwischenergebnis No access
  4. 1. a) Fehlende Nutzung von Betroffenenrechten wegen Informationsasymmetrie No access
    2. b) Fehlende Betroffenenrechte mangels Identifizierbarkeit No access
    3. c) Informationsrechte nach Art. 12, 13 und 14 DSGVO No access
    4. d) Auskunftsrecht nach Art. 15 DSGVO und Big Data No access
    5. e) Berichtigungsansprüche nach Art. 16 DSGVO No access
    6. 1. aa) Das Recht auf Löschung (Art. 17 Abs. 1 DSGVO) No access
      2. bb) Das Recht auf Vergessenwerden (Art. 17 Abs. 2 DSGVO) No access
      3. cc) Ausnahmen vom Recht auf Löschung und »Vergessenwerden« (Art. 17 Abs. 3 DSGVO) No access
    7. g) Das »Recht auf Einschränkung der Verarbeitung« nach Art. 18 DSGVO No access
    8. h) Das »Recht auf Datenübertragbarkeit« nach Art. 20 Abs. 1 DSGVO No access
    9. 1. aa) Das allgemeine relative Widerspruchsrecht (Art. 21 Abs. 1 DSGVO) No access
      2. bb) Das besondere relative Widerspruchsrecht bei Forschungs- und Statistikzwecken No access
      3. cc) Zwischenergebnis No access
    10. j) Durchsetzung von Betroffenenrechten auf dem Rechtsweg No access
  5. 5. Big Data und »Profiling« No access
  6. 6. Technische und organisatorische Maßnahmen« nach Art. 32 DSGVO No access
5. 1. 1. Kompensation durch verfahrensrechtliche Vorschriften No access
  2. 1. 1. aa) Begriff »Ethik« No access
      2. bb) Big Data, KI und angewandte Ethik No access
      3. α) Achtung der menschlichen Autonomie (»Respect for human autonomy«) No access
        β) Nichtschädigung bzw. Schadensverhütung No access
        γ) Wohltätigkeit (»Beneficence«) No access
        δ) Gerechtigkeit und Fairness No access
        ε) Erklärbarkeit (»Explicability«) No access
        ζ) Lösungen bei Kollisionen der ethischen Grundsätze No access
    2. b) Folgen ethischer Implikationen von Big Data-Anwendungen und KI-Systemen No access
    3. c) Ethische Vorgaben durch Ethik-Richtlinien und Ethik-Kodizes No access
    4. 1. α) Ethikkommissionen No access
        β) Ethikräte No access
      2. bb) Entstehung von »Ethikkommissionen« No access
      3. cc) Aufgaben und Befugnisse der Ethikkommission No access
      4. dd) Kritik am derzeitigen Modell der Ethikkommission No access
      5. ee) Das neue Modell einer »Ethikkommission« No access
      6. ff) Rechtsnatur der Entscheidung der Ethikkommission No access
      7. gg) Zwischenfazit No access
  3. 3. Fazit No access
1. 1. 1. a) Big Data- und KI-Regelungen in Europa No access
    2. b) Big Data und KI-Regelungen in den USA No access
    3. c) Geplante KI-Regelungen in Kanada No access
    4. d) KI-Regulierung in China No access
    5. e) Vorgesehene KI-Regulierungen in weiteren Staaten und private Normierungen No access
    6. f) KI-Resolution der Vereinten Nationen No access
  2. 2. Vorhandene Regelungen auf einfachgesetzlicher Basis No access
  3. 3. Gibt es ein Recht auf Nutzung von Big Data-Anwendungen? No access
  4. 4. Notwendigkeit einer rechtlichen Regelung No access
2. 1. 1. Systematische Stellung einer weiteren »Big Data«- und KI-Regulierung No access
  2. 2. Gesetzesfolgenabschätzung No access
3. 1. 1. 1. aa) Fehlende Transparenz bei Big Data-Anwendungen und KI-Systemen No access
      2. bb) Spezialfall »Forschung« – Schaffung eines Forschungsdatengesetzes No access
      3. cc) Problem der diskriminieren Wirkung von Big Data-Anwendungen No access
    2. b) Fehlende Regelungen zur Datenerhebung No access
    3. c) Fehlende Regelungen zur Nutzung bestimmter Big Data-Anwendungen No access
    4. d) Fehlende Regelungen zur den Datenschutzgrundsätzen und Betroffenenrechten No access
    5. e) Fehlende Regelungen zur Datensicherheit No access
  2. 2. Das verfassungsrechtliche Bestimmtheitsgebot für Regelungen No access
  3. 1. a) Der Vorschlag einer KI-Haftungsrichtlinie No access
    2. b) Die neue Produkthaftungsrichtlinie No access
    3. c) Deliktische Haftung No access
    4. d) Vertragliche Haftung No access
    5. e) Staatshaftungsrecht No access
    6. f) Haftung nach Art. 82 DSGVO No access
    7. g) Stellungnahme zu den Haftungsregelungen No access
  4. 4. Grundvoraussetzungen für eine Regulierung zu »Big Data« No access
4. IV. Zusammenfassung der Ergebnisse No access
F. Schlussfolgerungen und Ausblick No access Pages 459 - 463
Literaturverzeichnis No access Pages 465 - 522
Dokumente der Europäischen Union No access Pages 523 - 528
Dokumente der OECD No access Pages 529 - 529