Risikoklassen der KI-Verordnung

Die Kommission spricht auf der Seite zu ihren Leitlinien zu Art. 50 von vier Risikokategorien, von denen eine die Systeme mit Transparenzrisiken sind. Für Strafverteidiger sind vor allem die Verbote und die Hochrisiko-Bereiche Strafverfolgung und Rechtspflege von Bedeutung, weil sie die Arbeit von Polizei, Staatsanwaltschaft und Gerichten betreffen.

Verbotene Praktiken (Art. 5)

Seit dem 2. Februar 2025 verboten sind nach Art. 5 Abs. 1 KI-VO unter anderem die folgenden Praktiken.

• unterschwellige, absichtlich manipulative oder täuschende Techniken, die das Verhalten wesentlich verändern und erheblichen Schaden verursachen (Buchst. a),
• das Ausnutzen von Schutzbedürftigkeit wegen Alters, Behinderung oder sozialer oder wirtschaftlicher Lage (Buchst. b),
• Social Scoring mit ungerechtfertigter Benachteiligung (Buchst. c),
• Risikobewertungen, ob eine Person eine Straftat begehen wird, ausschließlich auf Grundlage von Profiling oder der Bewertung persönlicher Merkmale und Eigenschaften. Ausgenommen sind Systeme, die eine menschliche Bewertung der Beteiligung an einer kriminellen Aktivität unterstützen, die sich bereits auf objektive und überprüfbare Tatsachen in unmittelbarem Zusammenhang mit dieser Aktivität stützt (Buchst. d),
• Gesichtserkennungsdatenbanken durch ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen (Buchst. e),
• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen (Buchst. f),
• biometrische Kategorisierung zur Ableitung etwa politischer Einstellungen, religiöser Überzeugungen oder der sexuellen Ausrichtung (Buchst. g),
• biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zur Strafverfolgung, abgesehen von eng umgrenzten Ausnahmen (Buchst. h).

Die Verordnung (EU) 2026/1744 hat zwei Verbote eingefügt, die ab dem 2. Dezember 2026 gelten. Sie betreffen KI-Systeme, die realistische Bild-, Video- oder Toninhalte erzeugen oder manipulieren, in denen intime Körperteile einer bestimmbaren Person oder eine bestimmbare Person bei eindeutig sexuellen Handlungen dargestellt werden, ohne dass diese ausdrücklich zugestimmt hat (Buchst. ba), und Systeme, die Material oder Darbietungen im Sinne der Richtlinie 2011/93/EU zur Bekämpfung des sexuellen Missbrauchs und der sexuellen Ausbeutung von Kindern erzeugen oder manipulieren (Buchst. bb). Nach Art. 5 Abs. 1a ist das Inverkehrbringen nur verboten, wenn solche Inhalte Zweck oder absehbares, nicht verhindertes Ergebnis des Systems sind, die Verwendung nur, wenn der Betreiber das System zu diesem Zweck einsetzt. Verstöße gegen Art. 5 können mit Geldbußen bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes geahndet werden (Art. 99 Abs. 3).

Hochrisiko-KI-Systeme (Art. 6)

Hochriskant sind zum einen KI-Systeme, die Sicherheitsbauteil eines Produkts nach Anhang I sind oder selbst ein solches Produkt (Art. 6 Abs. 1), zum anderen die in Anhang III genannten Systeme (Art. 6 Abs. 2). Ein Anhang-III-System ist nach Art. 6 Abs. 3 ausnahmsweise nicht hochriskant, wenn es kein erhebliches Risiko birgt, etwa weil es nur eine eng gefasste Verfahrensaufgabe oder eine vorbereitende Aufgabe erfüllt. Ein System, das Profiling natürlicher Personen vornimmt, gilt aber immer als hochriskant.

Anhang III Nr. 6 – Strafverfolgung

Erfasst sind Systeme, die von oder für Strafverfolgungsbehörden verwendet werden sollen, um

1. das Risiko zu bewerten, Opfer einer Straftat zu werden (Buchst. a),
2. als Lügendetektor oder ähnliches Instrument zu dienen (Buchst. b),
3. die Verlässlichkeit von Beweismitteln zu bewerten (Buchst. c),
4. das Risiko einer erstmaligen oder erneuten Straftat zu bewerten, und zwar nicht nur auf Grundlage von Profiling (Buchst. d),
5. Profile natürlicher Personen bei der Aufdeckung, Ermittlung oder Verfolgung von Straftaten zu erstellen (Buchst. e).

Anhang III Nr. 8 – Rechtspflege und demokratische Prozesse

Hochriskant sind Systeme, die von oder im Namen einer Justizbehörde verwendet werden sollen, um sie bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften und bei der Anwendung des Rechts zu unterstützen, oder die ähnlich für die alternative Streitbeilegung genutzt werden (Buchst. a), sowie Systeme zur Beeinflussung von Wahlen (Buchst. b). Erwägungsgrund 61 nimmt rein begleitende Verwaltungstätigkeiten aus, etwa die Anonymisierung gerichtlicher Entscheidungen. Die BRAK geht davon aus, dass in Kanzleien eingesetzte KI-Systeme nicht unter Nr. 8 Buchst. a fallen, weil sich diese auf Justizbehörden bezieht.

Die Pflichten für Anhang-III-Systeme gelten nach dem Digital Omnibus ab dem 2. Dezember 2027. In Deutschland ist für Hochrisiko-Systeme nach Anhang III Nr. 6 bis 8 eine unabhängige KI-Marktüberwachungskammer bei der Bundesnetzagentur zuständig (§ 2 Abs. 5 KI-MIG), soweit nicht für öffentliche Stellen der Länder die Landesbehörden zuständig sind (§ 2 Abs. 6 KI-MIG). Die Termine im Einzelnen stehen unter Fristen der KI-Verordnung.

Transparenzrisiko (Art. 50)

Für Chatbots, generative KI, Emotionserkennung und Deepfakes gelten seit dem 2. August 2026 Informations- und Kennzeichnungspflichten, unabhängig davon, ob das System hochriskant ist. Einzelheiten stehen unter Kennzeichnungspflicht nach Art. 50.

Übrige KI-Systeme

Für Systeme, die keiner dieser Gruppen angehören, enthält die Verordnung keine besonderen Anforderungen aus den Kapiteln II bis IV. Die Pflicht zur KI-Kompetenz nach Art. 4 richtet sich aber an alle Anbieter und Betreiber von KI-Systemen.

KI-Modelle mit allgemeinem Verwendungszweck

Für Modelle, die ein breites Spektrum unterschiedlicher Aufgaben erfüllen und in viele Systeme integriert werden können (Art. 3 Nr. 63), gelten seit dem 2. August 2025 eigene Anbieterpflichten – technische Dokumentation, Informationen für nachgelagerte Anbieter, eine Strategie zur Einhaltung des Urheberrechts und eine Zusammenfassung der Trainingsinhalte (Art. 53 Abs. 1). Modelle mit Trainingsrechenaufwand von mehr als 10²⁵ Gleitkommaoperationen gelten als Modelle mit systemischem Risiko (Art. 51 Abs. 2). Diese Pflichten treffen die Modellanbieter, nicht Kanzleien als Nutzer.

Stand Oktober 2026