Hochrisiko-KI – Kommissionsentwurf zu Strafverfolgung, Justiz und Verteidigung

Die EU-Kommission hat am 19. Mai 2026 den Entwurf von Leitlinien zur Einstufung von Hochrisiko-KI-Systemen nach Art. 6 der KI-Verordnung (EU) 2024/1689 veröffentlicht. Der Teil zu Anhang III enthält ausführliche Abschnitte zur Strafverfolgung und zur Rechtspflege. Für Strafverteidiger sind drei Punkte bedeutsam. Es geht darum, wann Ermittlungswerkzeuge als Hochrisiko-KI gelten, wann Gerichte, Staatsanwaltschaften und Sachverständige erfasst sind – und dass KI-Werkzeuge der Verteidigung selbst nicht unter den Justiz-Tatbestand fallen sollen.

Stand des Verfahrens

Die Kommission legte den Entwurf zur gezielten Konsultation vor. Rückmeldungen waren bis 23. Juni 2026 möglich. Auf der Kommissionsseite ist weiterhin der Entwurf abrufbar (Stand 10. Oktober 2026). Nach dem Entwurf selbst sind die Leitlinien nicht verbindlich. Die verbindliche Auslegung der KI-Verordnung bleibt dem EuGH vorbehalten. Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten nach Angaben der Kommission infolge der Verschiebung durch das Omnibus-Vereinfachungspaket ab dem 2. Dezember 2027.

Strafverfolgung – Was als Bewertung der Beweisverlässlichkeit gilt

Anhang III Nr. 6 Buchst. c der KI-Verordnung erfasst KI-Systeme, die von Strafverfolgungsbehörden oder in deren Namen „zur Bewertung der Verlässlichkeit von Beweismitteln im Zuge der Ermittlung oder Verfolgung von Straftaten verwendet werden sollen“. Der Entwurf versteht darunter die Prüfung, wie vertrauenswürdig, genau und glaubhaft ein Beweismittel ist – etwa Echtheitsprüfung, Integritätsprüfung von Daten, Bewertung der Zuverlässigkeit einer Quelle und Abgleich mit anderen Erkenntnissen. Als Beispiele nennt er KI-Forensik, die manipulierte Bilder, Audio- und Videoaufnahmen erkennen soll, Systeme, die die Echtheit von Daten aus Mobiltelefonen anhand von Metadaten wie Standortdaten und Änderungsverläufen bewerten, und Systeme, die die Glaubwürdigkeit von Informanten oder Zeugen anhand der inneren Stimmigkeit ihrer Aussagen einschätzen.

Nicht erfasst sein sollen nach Rn. 365 des Entwurfs Werkzeuge, die gesammelte Informationen lediglich verarbeiten – Sammeln und Strukturieren, Datenextraktion und Verknüpfung, Clustering von Dokumenten, Rekonstruktion von Zeitleisten, Visualisierung, Indexierung, Dublettenerkennung, Suche jeder Art einschließlich semantischer Suche über Text, Audio, Bild und Video sowie Übersetzung und Transkription. Ebenfalls außerhalb von Nr. 6 Buchst. c sieht der Entwurf forensische Datenwiederherstellung und Bildverbesserung, die Rekonstruktion von Tatorten, die Erkennung von Mustern über mehrere Fälle hinweg und den Abgleich von Spuren auf Projektilen mit einer Referenzdatenbank.

Justiz – Gerichte, Staatsanwaltschaften, Sachverständige

Anhang III Nr. 8 Buchst. a erfasst KI-Systeme, die von einer Justizbehörde oder in deren Namen verwendet werden sollen, um sie „bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften und bei der Anwendung des Rechts auf konkrete Sachverhalte zu unterstützen“. Staatsanwaltschaften ordnet der Entwurf grundsätzlich der Strafverfolgung nach Nr. 6 zu. Ob sie zugleich Justizbehörde im Sinne von Nr. 8 sind, soll von ihrer institutionellen Unabhängigkeit abhängen. Dafür verweist der Entwurf auf die EuGH-Rechtsprechung zum Europäischen Haftbefehl (Rn. 413). Gerichtlich bestellte Sachverständige können im Namen der Justizbehörde handeln, wenn sie im Auftrag und unter der Verfahrenskontrolle des Gerichts tätig werden. Von einer Partei beauftragte Sachverständige sollen nicht darunter fallen (Rn. 415).

Als Hochrisiko-Systeme nennt der Entwurf etwa Werkzeuge, die Entwürfe gerichtlicher Entscheidungen samt Begründung erstellen, oder Systeme, die anhand des Sachverhalts einschlägige Rechtsprechung auswählen und vorschlagen, wie sie anzuwenden ist. Nicht erfasst sein sollen die reine Spracherkennung zur Transkription von Verhandlungen und Systeme, die große Beweismengen durchsuchbar machen und Chronologien erstellen, ohne das Material zu bewerten. Für die Transkription macht der Entwurf eine Einschränkung. Anders könne es liegen, wenn das Transkript weiterverarbeitet wird, um es zusammenzufassen, Kernargumente auszuwählen oder Empfehlungen für die Entscheidung zu geben.

Verteidigung – kein Anwendungsfall von Anhang III Nr. 8

Rn. 416 stellt ausdrücklich klar, dass KI-Systeme, die von Parteien und ihren Vertretern eingesetzt werden sollen, nicht unter Nr. 8 Buchst. a fallen, weil diese nicht im Namen einer Justizbehörde handeln. Genannt werden KI-Systeme, mit denen Anwälte Schriftsätze für die Einreichung bei Gericht vorbereiten. Auch soweit ein Werkzeug grundsätzlich unter einen Anwendungsfall fällt, kann der Anbieter nach Art. 6 Abs. 3 KI-Verordnung geltend machen, dass es etwa nur eine eng gefasste Verfahrensaufgabe oder eine vorbereitende Aufgabe erfüllt. Nach dem Entwurf gilt das nicht, wenn das System Profiling betreibt (Rn. 420).

Einordnung

Für die Strafverteidigung zeichnet der Entwurf zwei Linien. Die eigenen Werkzeuge der Verteidigung – Aktenauswertung, Recherche, Schriftsatzentwürfe – sollen nicht als Hochrisiko-KI im Sinne der Rechtspflege gelten. Damit entfallen die Hochrisiko-Pflichten der KI-Verordnung. Die berufsrechtlichen Anforderungen an Prüfung und Verschwiegenheit bleiben davon unberührt. Mehr dazu auf der Seite KI für Anwälte.

Auf der Seite der Ermittlungsbehörden zieht der Entwurf die Grenze eng. Hochrisiko nach Nr. 6 Buchst. c ist nur, was die Verlässlichkeit eines Beweismittels bewertet. Werkzeuge, mit denen Massendaten extrahiert, verknüpft, durchsucht, übersetzt oder transkribiert werden, fielen danach nicht unter diesen Anwendungsfall – soweit nicht ein anderer Tatbestand des Anhangs III greift. Für solche Werkzeuge kann sich die Verteidigung dann nicht auf die Dokumentations- und Qualitätspflichten stützen, die die KI-Verordnung für Hochrisiko-Systeme vorsieht. Wie Ergebnisse zustande gekommen sind, bleibt eine Frage, die im Verfahren selbst gestellt werden muss. Die Unterscheidung zwischen gerichtlich bestellten und von der Verteidigung beauftragten Sachverständigen kann zudem bei der Befragung zu eingesetzten KI-Systemen eine Rolle spielen. Zur Debatte über KI-gestützte Analyseplattformen in der StPO siehe den Bericht zur Anhörung zu §§ 98d, 98e StPO-E. Grundlagen zur Verordnung auf der Seite KI-Verordnung.