Der Canadian Judicial Council (CJC) hat in der vergangenen Woche aktualisierte Guidelines for the Use of Artificial Intelligence in Canadian Courts veröffentlicht. Die Leitlinien befassen sich mit dem Einsatz Künstlicher Intelligenz an kanadischen Gerichten und bezeichnen es als angemessen, wenn Richterinnen und Richter KI nutzen, um lange eidesstattliche Erklärungen, Sachverständigengutachten, Transkripte oder schriftliche Schriftsätze zusammenzufassen, sofern die Zusammenfassungen später anhand der Originale überprüft werden.
KI an Gerichten in Kanada und Quebec
Parallel dazu veröffentlichten im vergangenen Monat mehrere Gerichte in Quebec eigene Leitlinien zur richterlichen Nutzung von KI. Diese sehen vor, dass Richterinnen und Richter den Einsatz generativer KI für die Erstellung einer strikt beschreibenden Zusammenfassung einer Zeugenaussage, eines Dokuments oder eines tatsächlichen Ablaufs erwägen könnten.
die Erstellung einer strikt beschreibenden Zusammenfassung einer Zeugenaussage, eines Dokuments oder eines tatsächlichen Ablaufs, ohne Bewertung, Interpretation, normative Auswahl oder Schlussfolgerung (Übersetzung)
Sowohl die CJC- als auch die Quebec-Leitlinien enthalten laut der Fachveröffentlichung Hinweise zur Nutzung von KI-Werkzeugen für Zusammenfassungen von beim Gericht eingereichtem Material, einschließlich Beweismitteln und Vorbringen. Beide Regelwerke empfehlen ausdrücklich eine Überprüfung der KI-Ergebnisse.
Risiken von KI-Zusammenfassungen
Der Autor der Fachveröffentlichung weist darauf hin, dass KI-Zusammenfassungen nicht stets akkurat seien und Fehler bei Schlussfolgerungen oder Auslassungen schwer zu erkennen sein könnten. Generative KI-Zusammenfassungen seien zudem nicht wertneutral, weil sie Entscheidungen darüber beinhalteten, was aufgenommen oder ausgelassen sowie wie Inhalte organisiert und beschrieben werden. Der CJC selbst beschreibt dieses Phänomen in seinen Leitlinien.
Eine der weniger sichtbaren Herausforderungen durch generative KI besteht darin, dass jedes Werkzeug ein implizites „Weltmodell“ verkörpert: eine Reihe von Annahmen, Werten, Prioritäten und statistischen Mustern, die aus seinen Trainingsdaten gelernt und durch sein Design und seine Ausrichtung nach dem Training verstärkt werden (Übersetzung)
Nach Auffassung des Autors könnten Risiken und Bedenken je nach verwendetem Werkzeug, dessen Einsatz und Kontext unterschiedlich auftreten. Kein Werkzeug könne das professionelle Ermessen einer Richterin oder eines Richters darüber, was für eine Zusammenfassung relevant oder wichtig ist, akkurat nachbilden.
Einordnung
Die Leitlinien behandeln unter anderem die Nutzung generativer KI zur Zusammenfassung von Gerichtsunterlagen. Die Betonung der Überprüfung anhand der Originale und die Warnung vor impliziten „Weltmodellen“ der Werkzeuge dürften auch für Diskussionen im deutschsprachigen Raum aufschlussreich sein, wo Gerichte vor ähnlichen Fragen zu Zusammenfassungen umfangreicher Aktenbestände stehen könnten.
Der Beitrag diskutiert Risiken KI-gestützter Zusammenfassungen im gerichtlichen Kontext, insbesondere bei der Zusammenfassung von Fallmaterialien.
Quellen
- Summarize This?, Slaw, 27.10.2026 (englisch)
Dieser Beitrag wurde mit Unterstützung eines KI-Systems auf Grundlage der genannten Quellen erstellt.