Recht und Regulierung

KI-Verordnung (AI Act)

Was die EU-KI-Verordnung für Kanzleien, Rechtsabteilungen und Justiz bedeutet – KI-Kompetenz, Kennzeichnung, Fristen.

Kurz gefasst

Die KI-Verordnung (Verordnung (EU) 2024/1689, englisch AI Act) regelt KI-Systeme nach ihrem Risiko. Für Kanzleien sind vor allem zwei Pflichten wichtig – Maßnahmen zur KI-Kompetenz der Beschäftigten (Art. 4) und die Transparenzpflichten (Art. 50). Die meisten Hochrisiko-Regeln betreffen Kanzleien nur am Rand.

Die KI-Verordnung ist ein europäisches Gesetz, das unmittelbar in allen Mitgliedstaaten gilt. Sie unterscheidet zwischen Anbietern, die KI-Systeme entwickeln und in Verkehr bringen, und Betreibern, die sie in eigener Verantwortung nutzen. Eine Kanzlei, die ein KI-Werkzeug für ihre Arbeit einsetzt, ist in aller Regel Betreiberin.

Die Risikoklassen

  • Verbotene Praktiken (Art. 5) – etwa manipulative Systeme oder bestimmte Formen der biometrischen Echtzeit-Fernidentifizierung.
  • Hochrisiko-Systeme (Art. 6 mit Anhang III) – unter anderem KI in der Rechtspflege, die Justizbehörden bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften und bei der Anwendung des Rechts unterstützen soll.
  • Transparenzpflichten (Art. 50) – Chatbots, Deepfakes, KI-erzeugte Texte zu Angelegenheiten von öffentlichem Interesse.
  • KI-Modelle mit allgemeinem Verwendungszweck (Art. 51 ff.) – Pflichten der Modellanbieter.

Was Kanzleien konkret tun müssen

KI-Kompetenz

Wer KI-Systeme betreibt, muss Maßnahmen ergreifen, die die Entwicklung der KI-Kompetenz des eigenen Personals und anderer Personen unterstützen, die in seinem Auftrag mit den Systemen arbeiten. Seit der Änderung durch die Verordnung (EU) 2026/1744 (Digital Omnibus) ist dabei kein bestimmtes Kompetenzniveau mehr geschuldet. Die Pflicht selbst bleibt. Einzelheiten auf der Seite KI-Kompetenz und Schulungspflicht.

Kennzeichnung

Wer KI-erzeugte Texte veröffentlicht, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen, muss das grundsätzlich offenlegen – es sei denn, der Text wurde menschlich geprüft und jemand trägt die redaktionelle Verantwortung. Mehr auf der Seite Kennzeichnungspflicht.

Eine interne KI-Richtlinie

Die Verordnung schreibt keine Kanzleirichtlinie vor. Ohne eine schriftliche Regel, welche Werkzeuge für welche Daten zugelassen sind, lässt sich die Pflichterfüllung aber kaum nachweisen. Eine Vorlage bietet die Seite KI-Richtlinie für die Kanzlei.

Fristen

Die Verordnung ist am 1. August 2024 in Kraft getreten und gilt gestaffelt. Die Verbote und die Pflicht zur KI-Kompetenz gelten seit dem 2. Februar 2025, die Regeln für KI-Modelle mit allgemeinem Verwendungszweck seit dem 2. August 2025, die Transparenzpflichten nach Art. 50 seit dem 2. August 2026. Mit dem sogenannten Digital Omnibus, der Verordnung (EU) 2026/1744, hat der Unionsgesetzgeber 2026 die Hochrisiko-Pflichten nach Anhang III auf den 2. Dezember 2027 und nach Anhang I auf den 2. August 2028 verschoben. Alle Stichtage stehen auf der Seite Fristen und Inkrafttreten.

Häufige Fragen

Sie legt fest, unter welchen Voraussetzungen KI-Systeme in der EU angeboten und genutzt werden dürfen. Je höher das Risiko eines Systems, desto strenger die Pflichten – von Transparenzpflichten bis zum Verbot.

Ja. AI Act ist der englische Kurzname der Verordnung (EU) 2024/1689, im Deutschen meist KI-Verordnung oder KI-VO.

Ja. Die Pflicht aus Art. 4, Maßnahmen zur KI-Kompetenz zu ergreifen, trifft jeden Betreiber eines KI-Systems, unabhängig von der Größe. Nach Art. 4 Abs. 2 unterstützen die Kommission und die Mitgliedstaaten Anbieter und Betreiber, insbesondere kleine und mittlere Unternehmen, bei der Erfüllung dieser Pflicht.

Sie ist am 1. August 2024 in Kraft getreten. Ihre Pflichten gelten gestaffelt ab Februar 2025. Die Hochrisiko-Pflichten wurden durch den Digital Omnibus auf Dezember 2027 und August 2028 verschoben.

Art. 5 verbietet unter anderem KI, die Menschen unterschwellig manipuliert, Schwächen bestimmter Gruppen ausnutzt, Menschen nach ihrem sozialen Verhalten bewertet (Social Scoring) und – mit engen Ausnahmen – biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken.

Themen in diesem Bereich

KI-Richtlinie für die Kanzlei

Muster-Gliederung einer internen KI-Richtlinie für Kanzleien – Werkzeuge, Datenkategorien, Anonymisierung, Prüfpflicht, Schulung.

Risikoklassen der KI-Verordnung

Verbotene Praktiken, Hochrisiko-Systeme in Strafverfolgung und Rechtspflege, Transparenzpflichten und KI-Modelle – die Risikoklassen der KI-VO.

Urheberrecht und KI

KI und Urheberrecht – Schutz von KI-Ergebnissen, Text und Data Mining nach § 44b UrhG, GEMA gegen OpenAI und LAION.


Aktuelle Meldungen

Alle Meldungen →