KI-Realakte: Der Einsatz Künstlicher Intelligenz zur Automatisierung schlichten Verwaltungshandelns

Dr. Jana Simmel

doi:10.5771/9783748958048

Summary

The work answers the question of the use of AI regarding the administrative action "Realakt" in three main parts. In the first main part, the legal foundations of the Realakt and the technical basis of AI are explained. In the second main part of the work, application scenarios are outlined. In addition, dangers and risks of the use of AI are shown. Building on this, the work critically analyzes the legal framework of the AI-Realakt regarding EU law as well as national constitutional and administrative law. Upon critical examination of this, key topics like the requirement for specific legal bases and the need for a reform within the administrative procedural law are considered.

Keywords

Search publication

Bibliographic data

Edition: 1/2026
Copyright Year: 2026
ISBN-Print: 978-3-7560-2551-0
ISBN-Online: 978-3-7489-5804-8
Publisher: Nomos, Baden-Baden
Series: Recht der Informationsgesellschaft
Volume: 54
Language: German
Pages: 359
Product Type: Monograph

1. Vorwort No access
2. Abkürzungsverzeichnis No access
1. A. Problemstellung No access
2. B. Ziel und Gang der Untersuchung No access
1. 1. I. Terminologie No access
  2. 1. 1. Überwiegend vertretene Definitionen No access
    2. 1. a) Behördliches Handeln auf dem Gebiet des öffentlichen Rechts No access
      2. b) Keine Rechtsfolge, sondern tatsächlicher Erfolg No access
      3. c) Außenwirkung und Einzelfallbezug No access
    3. 3. Fazit zur Definition des Realakts No access
  3. 1. 1. Verrichtungshandlungen No access
    2. 1. a) Überbegrifflichkeit No access
      2. b) Informelles Verwaltungshandeln No access
      3. aa) Information über Staatstätigkeit No access
        (1) Warnung No access
        (2) Empfehlung No access
        (3) Aufklärung No access
      4. d) Fazit zu Wissenserklärungen No access
  4. 1. 1. Materielles Recht No access
    2. 2. Verfassungsrechtlicher Exkurs: Eingriff durch Realakt No access
    3. 1. a) Untersuchungsgrundsatz No access
      2. b) Anhörungserfordernis No access
      3. c) Begründungspflicht No access
  5. 1. 1. Gewährleistung von Rechtsschutz No access
    2. 2. Definition des Verwaltungsverfahrens No access
  6. VI. Fazit zum Realakt No access
2. 1. 1. 1. a) Thesen von starker und schwacher KI No access
      2. (1) Terminologische Betrachtung No access
        (2) Kritik am KI-Begriff No access
        bb) Alternative inhaltliche Bestimmungen No access
        cc) Definition nach der KI-VO No access
      3. c) Zwischenergebnis No access
    2. 1. a) Symbolische und sub-symbolische KI No access
      2. (1) Supervised Learning No access
        (2) Unsupervised Learning No access
        (3) Reinforcement Learning No access
        bb) Künstliche neuronale Netzwerke und Deep Learning No access
        cc) ML-Verfahren versus herkömmliche Software No access
    3. 1. (1) Generative KI No access
        (2) KI-Anwendung im Übrigen? No access
      2. aa) Datenabhängigkeit No access
        bb) Energiebedarf von KI No access
    4. 4. Fazit zu KI No access
  2. 1. 1. Differenzierung beim Realakt No access
    2. 1. a) Übermäßiges Vertrauen vs. (un-)begründete Abneigung No access
      2. b) Bewältigungsstrategien No access
      3. c) Trennung zwischen Voll- und Teilautomatisierung No access
3. C. Ergebnis zu § 2 No access
1. 1. 1. 1. Anfänge der Diskussion um den automatisierten Verwaltungsakt No access
    2. 2. Terminologische Anknüpfung am Begriff der Maßnahme No access
  2. II. Auswirkungen auf den KI-Realakt No access
  3. III. Fazit zur rechtlichen Qualifikation No access
2. 1. 1. 1. a) Technische Einordnung von Chatbots No access
      2. b) Implementierungsbeispiele der öffentlichen Verwaltung No access
      3. c) Einsatztendenzen und Potenziale No access
    2. 1. a) Status Quo der digitalen Warninfrastruktur No access
      2. b) KI-Warnakt No access
  2. 1. 1. a) Massendaten in der Verwaltung als Vorteil und Herausforderung No access
      2. aa) Theoretische Einordnung des Predictive Policing No access
        bb) Praktische Einsatztendenzen und Potenziale No access
      3. c) Automatisierte Datenanalyse – hessenData No access
    2. 2. KI-Systeme zur Erkennung von Ablenkungsverstößen No access
    3. 3. Biometrische Fernidentifizierung No access
    4. 4. Polizeiroboter und Anwendung unmittelbaren Zwangs No access
  3. III. Fazit zu den Anwendungsszenarien No access
3. 1. I. Diskriminierungsrisiko No access
  2. II. Allgemeines Fehlerrisiko No access
  3. 1. 1. Intransparenz durch Komplexität No access
    2. 2. Explainable AI No access
  4. IV. Fazit zu den Gefahren des KI-Realakts No access
4. D. Ergebnis zu § 3 No access
1. 1. 1. 1. aa) Verarbeitung personenbezogener Daten No access
        (1) Entwicklungs- und Trainingsphase No access
        (2) Anwendungsphase No access
        (3) Problematik bei bloßer Bereitstellung eines KI-Modells No access
      2. (1) Entscheidung No access
        (2) Einzelfall No access
        bb) Ausschließlichkeit No access
        cc) Unterworfensein der Betroffenen No access
        dd) Rechtliche Wirkung/erhebliche Beeinträchtigung No access
    2. 2. Art. 11 JI-RL No access
    3. 3. Fazit zu Art. 22 DSGVO und Art. 11 JI-RL No access
    4. 1. aa) Inakzeptable KI-Praktiken No access
        bb) Hochrisiko-KI-Systeme No access
        cc) KI-Modelle mit allgemeinem Verwendungszweck No access
        dd) Von einem Risiko unabhängige Bestimmungen No access
      2. b) Fazit zur KI-VO No access
  2. 1. 1. aa) Anwendung des § 35a VwVfG direkt No access
        (1) Lücke im Gesetz No access
        (aa) Warnfunktion No access
        (bb) Kompetenzzuweisungsfunktion No access
        (cc) Wesentliche Ähnlichkeit? No access
        (3) Planwidrigkeit der Lücke No access
      2. b) Amtsermittlungsgrundsatz bei Automatisierung No access
      3. c) Begründungs- und Anhörungspflicht bei Automatisierung No access
      4. d) Ermessensausübung abseits des § 35a VwVfG No access
    2. 2. Landesrechtliche Digitalisierungsgesetze No access
    3. 1. a) BVerfG-Entscheidung zur automatisierten Datenanalyse No access
      2. b) Absolute Grenzen Art. 1 Abs. 1 GG und Art. 3 Abs. 3 GG No access
  3. III. Fazit zu KI-Realakten im bestehenden Regelungsregime automatisierter Verwaltung No access
2. 1. 1. 1. a) Angemessene Maßnahmen No access
      2. b) Besondere Kategorien personenbezogener Daten No access
      3. c) Fazit zu Art. 22 Abs. 2 lit. b) DSGVO No access
    2. 1. aa) Durchführung des Rechts der Union No access
        bb) „Durchführung“ bei Anwendung der DSGVO und KI-VO No access
        cc) Schlussfolgerung No access
      2. aa) „Einschränkung“ durch Realakt No access
        bb) Betroffene Grundrechte No access
      3. c) Fazit zum Gesetzesvorbehalt aus der GRC No access
  2. 1. 1. Rechtsgedanke aus § 35a VwVfG No access
    2. 2. § 54 Abs. 1 BDSG No access
    3. 1. a) Konturen der Wesentlichkeitstheorie No access
      2. (1) Tragweite einer Vollautomatisierung durch KI No access
        (2) Grundrechtsrelevanz No access
        (aa) Gesetzmäßigkeit und Demokratie No access
        (bb) Orientierung am Einzelfall No access
        (cc) Transparenz staatlichen Handelns No access
        bb) Keine ausreichende Kompensation durch KI-VO No access
        cc) Zwischenergebnis No access
        (1) Fehlende Normierbarkeit? No access
        (2) Regelungsdichte No access
    4. 4. Zwischenergebnis No access
  3. III. Fazit zum Erfordernis spezieller Rechtsgrundlagen No access
3. 1. I. Erfordernisse aus Verfassungs- und Unionsrecht No access
  2. 1. 1. Unübersichtlichkeit des Normensystems de lege lata No access
    2. 2. Zentrale und handlungsformunabhängige Verfahrensregeln No access
4. D. Ergebnis zu § 4 No access
1. 1. I. Rechtliche und technische Einordnung No access
  2. II. KI-Realakte in der Anwendung No access
  3. III. Rechtsrahmen des KI-Realakts No access
2. B. Gesamtfazit No access
Literaturverzeichnis No access Pages 329 - 358