Training eines Sprachmodells in der Justiz

Prof. Dr. Boris P. Paal M. Jur. (Oxford); Dr. Tristan Radtke LL.M. (NYU)

doi:10.5771/9783748955818

Summary

Language models offer great potential for generative use in the justice system, for example in the preparation of procedural facts and the drafting of court decisions. However, training a specific AI model for the judiciary based on German court files and decisions involves the processing of personal data within the meaning of the GDPR and the use of material protected under the German UrhG. This work addresses these challenges, comprehensively outlines the legal framework for training such a language model for use in the justice system, and provides answers to pressing legal questions. This Title is also Available as Open Access.

Keywords

Search publication

Bibliographic data

Copyright year: 2026
ISBN-Print: 978-3-7560-2041-6
ISBN-Online: 978-3-7489-5581-8
Publisher: Nomos, Baden-Baden
Series: Schriften zum Daten-, Informations- und Medienrecht
Volume: 84
Language: German
Pages: 204
Product type: Book Titles

Titelei/InhaltsverzeichnisPages 1 - 16 Download chapter (PDF)
Download chapter (PDF)
1. I. Projekt Generatives Sprachmodell für die deutsche Justiz (GSJ-Projekt)
2. II. Tatsächliche Annahmen – Thematische Aus- und Eingrenzungen
3. III. Technische Grundzüge des Sprachmodells und späteren KI-Systems
B. Gutachtenauftrag und FragestellungenPages 23 - 24 Download chapter (PDF)
C. Executive SummaryPages 25 - 34 Download chapter (PDF)
Download chapter (PDF)
1. 1. 1. a. „Beziehen“
    2. 1. aa. Relatives Konzept der Identifizierbarkeit
      2. bb. Anforderungen an die heranzuziehenden Mittel
      3. cc. Mittelbarer Personenbezug oder Identifizierbarkeit
      4. dd. Relatives Konzept der Identifizierbarkeit in zeitlicher Hinsicht
    3. c. Zwischenergebnis
  2. 1. a. Löschung von Merkmalen zur Identifizierung durch Auslassung oder Ersetzung
    2. b. Weitere Anonymisierungstechniken und Maßnahmen i.w.S.
  3. 1. a. Typische identifizierende Merkmale
    2. 1. aa. Berücksichtigung von weiteren Mitteln zur Identifizierung
      2. (1) Untersuchung auf Wortebene bzw. Zeichenebene
        (2) Untersuchung auf Entscheidungsebene – Cluster von Gerichtsentscheidungen
      3. cc. Training eines Sprachmodells als mögliche Anonymisierungstechnik
    3. c. Nach allgemeinem Ermessen wahrscheinlich genutzte Mittel
    4. d. Schlussfolgerungen für die Anwendung von Anonymisierungstechniken auf Gerichtsentscheidungen
2. 1. 1. Anwendbarkeit der Maßstäbe der DSGVO
  2. 2. Anonymisierungspraxis in Nordrhein-Westfalen bis zum Jahr 2021
  3. 3. Jüngere Anonymisierungspraxis in Nordrhein-Westfalen
  4. 4. Abgleich im Hinblick auf die Einhaltung der Anforderungen an die Anonymisierung unter der DSGVO
  5. 1. a. Verwaltungsvorschrift als Rechtsgrundlage
    2. b. Veröffentlichung (teil-)anonymisierter Gerichtsentscheidungen gestützt auf Art. 6, 9 f. DSGVO
    3. c. Keine Haftungsprivilegierung nach Art. 4 ff. Digital Services Act
    4. d. Sonderregelung für die Aufsicht über die justizielle Tätigkeit
    5. e. Verschulden, Art. 82; Aufsichtsmaßnahmen, Art. 58 und 83 DSGVO
  6. 6. Zwischenergebnis
3. 1. 1. Einhaltung der Anonymisierungsanforderungen im Allgemeinen
  2. 1. a. Veröffentlichung der bearbeiteten Gerichtsentscheidung
    2. 1. aa. KI-Training als Anonymisierungsmaßnahme
      2. bb. Versehentliche Ausgabe von Trainingsdaten
      3. cc. Gezielte Extraktion von Trainingsdaten
4. 1. 1. a. Training i.w.S.
    2. 1. aa. Differenzierung zwischen Kennungen und sonstigen identifizierenden Merkmalen
      2. bb. Reichweite des Personenbezugs – Mischdatensätze
      3. (1) Dogmatische Bedenken mit Blick auf das Zusammenfallen einer Verarbeitung und der Heranziehung von Identifizierungsmitteln
        (2) Begünstigende Faktoren für eine Identifizierung
        (3) Vorbehalt der wahrscheinlichen Identifizierung nach allgemeinem Ermessen
      4. (1) Abstraktheit
        (2) Unsicherheit unter Berücksichtigung von Halluzinationen
      5. (1) Identifizierung im Zusammenhang mit der Speicherung
        (2) Aufbewahrung als Ausgangspunkt für eine Reproduktion
      6. ff. Zwischenergebnis
  2. 2. Verarbeitung durch Einsatz des Sprachmodells im Einzelfall
  3. 1. a. Zurverfügungstellung des KI-Systems
    2. b. Veröffentlichung des trainierten Sprachmodells (Open Source)
    3. c. Veröffentlichung des Trainingskorpus (Open Source)
5. 1. 1. Relevante Verarbeitungen
  2. 2. Verhältnis zum mitgliedstaatlichen Recht
  3. 1. a. Anforderungen
    2. 1. aa. (Teilweise) Anonymisierung
      2. bb. KI-Training
      3. cc. Speicherung des KI-Modells
      4. dd. Einsatz des KI-Systems
      5. ee. Veröffentlichung des KI-Modells oder KI-Systems
  4. 1. a. Einschränkungen aufgrund des Vorbehalts des Gesetzes (Art. 6 Abs. 1 UAbs. 2 DSGVO)
    2. b. Überblick über die Rechtsgrundlagen aus Art. 6 Abs. 1 UAbs. 1 DSGVO
    3. 1. aa. (Teil-)Anonymisierung der Gerichtsentscheidungen
      2. bb. Weiterverarbeitung teilanonymisierter Entscheidungen: Training i.w.S., Speicherung und Einsatz des Sprachmodells
      3. cc. Veröffentlichung des Sprachmodells
    4. d. Art. 6 Abs. 1 UAbs. 1 lit. c DSGVO (rechtliche Pflicht)
    5. 1. (1) Art. 6 Abs. 4 DSGVO als ergänzende Regelung
        (2) Art. 6 Abs. 4 DSGVO als eigenständige Rechtsgrundlage
        (3) Berücksichtigung der EuGH-Rechtsprechung
        (4) Zwischenergebnis
      2. (1) Rechtsvorschrift (Hs. 1)
        (2) Kompatibilitätstest (Hs. 2)
      3. cc. Schlussfolgerungen für das untersuchungsgegenständliche Projekt
  5. 1. a. Relevanz für das untersuchungsgegenständliche Projekt
    2. 1. aa. Art. 9 Abs. 2 lit. e DSGVO (offensichtliche Öffentlichmachung)
      2. bb. Art. 9 Abs. 2 lit. f DSGVO (Rechtsverteidigung und justizielle Tätigkeit der Gerichte)
      3. cc. Art. 9 Abs. 2 lit. g DSGVO (Öffnungsklausel für ein erhebliches öffentliches Interesse)
      4. dd. Art. 9 Abs. 2 lit. j DSGVO (wissenschaftliche Forschungszwecke)
    3. c. Personenbezogene Daten über strafrechtliche Verurteilungen und Straftaten (Art. 10 DSGVO)
    4. d. Verhältnis zu Anforderungen an die Zweckänderung (Art. 5 Abs. 1 lit. b, Art. 6 Abs. 4 DSGVO)
    5. e. Schlussfolgerungen für das untersuchungsgegenständliche Projekt
  6. 1. a. Informationspflichten (Art. 13, 14 DSGVO)
    2. 1. aa. Auskunft und Datenkopie (Art. 15 DSGVO)
      2. bb. Berichtigung und Mitteilungspflicht (Art. 16 und 19 DSGVO)
      3. cc. Löschung und Mitteilungspflicht (Art. 17 und 19 DSGVO), auch im Zusammenhang mit einem Widerspruch (Art. 21 DSGVO)
      4. dd. Einschränkung der Verarbeitung und Mitteilungspflicht (Art. 18 und 19 DSGVO)
    3. c. Datenschutzfolgenabschätzung und Pflicht zur Implementierung technischer und organisatorischer Maßnahmen
    4. d. Grundsatz der Speicherbegrenzung
  7. 7. Pflichten unter der JI-RL
  8. 8. Ergänzende Anforderungen mit Blick auf Eingabedaten
6. 1. 1. Inhalte von gerichtlichen Akten
  2. 1. a. Kein Veröffentlichungsstandard
    2. b. Quantitativ: Recall
    3. c. Qualitativ: Clusterung
7. 1. 1. (Gemeinsame) Verantwortlichkeit der ausführenden Stellen
  2. 1. 1. aa. Art. 6 Abs. 1 UAbs. 1 lit. e, Abs. 2, 3 DSGVO i.V.m. Art. 5 Abs. 1 S. 1 Nr. 2 BayDSG bzw. § 8 Abs. 2 Nr. 2 DSG NRW
      2. bb. Art. 6 Abs. 1 UAbs. 1 lit. e, Abs. 3 DSGVO i.V.m. Art. 4 Abs. 1 BayDSG bzw. § 3 Abs. 1 DSG NRW
      3. cc. Art. 6 Abs. 1 UAbs. 1 lit. e, Abs. 3 DSGVO i.V.m. Hochschulgesetzen der Länder
      4. dd. Art. 6 Abs. 1 UAbs. 1 lit. e, Abs. 3 DSGVO i.V.m. § 17 Abs. 1 DSG NRW bzw. Art. 4 Abs. 1 BayDSG i.V.m. BayHIG oder Erst-Recht-Schluss aus Art. 8 Abs. 1 S. 1 Nr. 5 BayDSG i.V.m. Art. 6 Abs. 2 Nr. 3 lit. c BayDSG
      5. ee. Besonderheiten mit Blick auf besondere Kategorien personenbezogener Daten nach Art. 9 DSGVO
    2. b. Weiterverarbeitung durch die ausführenden Stellen
  3. 3. Datenschutzrechtliche Anforderungen im Übrigen
  4. 4. Zwischenergebnis
8. 1. 1. Datenschutzrechtliche Ausgangslage in drei Stufen: Anonymisierung – Rechtfertigung nach Art. 6 DSGVO – Rechtfertigung nach Art. 9, 10 DSGVO
  2. 2. Anforderungen an die Zusammenstellung des Trainingskorpus aus Gerichtsentscheidungen und Aktenauszügen (insbesondere Clusterung)
  3. 3. Anforderungen an das Anonymisierungstool (insbesondere Recall-Wert)
  4. 4. Anforderungen an das KI-System und dessen Einsatz (insbesondere System Prompt und Ausgabefilter)
  5. 5. Anforderungen an die Veröffentlichung des KI-Modells oder KI-Systems
  6. 6. Beachtung weiterer datenschutzrechtlicher Pflichten
Download chapter (PDF)
1. 1. 1. a. Schutz als Werk nach § 2 UrhG
    2. b. Kein Ausschluss nach § 5 Abs. 1 UrhG
    3. c. Verwandte Schutzrechte
    4. d. Zwischenergebnis
  2. 2. Aktenauszüge im Übrigen
2. 1. 1. 1. aa. Vervielfältigungen im Einzelnen
      2. bb. Vervielfältigung bei möglicher Rekonstruierbarkeit aus abgeleiteten Textformaten oder anhand eines Sprachmodells
    2. b. Einsatz und Ausgabe des KI-Systems
    3. c. Bearbeitungen des Werkes im Rahmen des Trainingsprozesses und des Einsatzes des KI-Systems
    4. d. Zwischenergebnis
  2. 1. a. Nutzungsrechtseinräumungen
    2. b. Rechtspflege (§ 45 UrhG)
    3. 1. aa. KI-Training als Text und Data Mining
      2. bb. KI-Einsatz und Ausgabe als Text und Data Mining
      3. (1) Intertemporale Anwendbarkeit
        (a) Form des Vorbehalts
        (b) Rechtsinhaber
        (c) Rechtmäßig zugängliche Werke
        (d) Weitere Anforderungen
        (3) Zwischenergebnis
      4. dd. Anwendbarkeit des § 60d UrhG
    4. d. Vorübergehende Vervielfältigungshandlungen (§ 44a UrhG)
    5. e. Zitate (§ 51 UrhG)
    6. f. Wissenschaftliche Forschung (§ 60c UrhG)
  3. 3. Einbindung weiterer Stellen
  4. 4. Ableitung von Einsatzbedingungen
3. III. Besonderheiten bei der Veröffentlichung des Sprachmodells
4. 1. 1. Vervielfältigungen im Rahmen des GSJ-Projekts
  2. 2. Vervielfältigungen über das GSJ-Projekt hinaus
5. 1. 1. Anforderungen an die Zusammenstellung der Trainingsdaten
  2. 2. Anforderungen an das KI-System und dessen Einsatz
  3. 3. Anforderungen an die Veröffentlichung des Sprachmodells
F. LiteraturverzeichnisPages 191 - 204 Download chapter (PDF)