Kennzeichnungspflicht nach Art. 50 KI-VO

Die Transparenzpflichten stehen in Kapitel IV der Verordnung und gelten unabhängig davon, ob ein System hochriskant ist. Die Kommission hat am 20. Juli 2026 Leitlinien zu Art. 50 veröffentlicht und einen Verhaltenskodex zur Transparenz KI-generierter Inhalte als angemessen bewertet.

Die Pflichten im Überblick

Absatz	Adressat	Pflicht
Abs. 1	Anbieter	Systeme für die direkte Interaktion mit Menschen (z. B. Chatbots) so gestalten, dass Personen erfahren, dass sie mit einem KI-System interagieren – außer wenn das offensichtlich ist
Abs. 2	Anbieter	synthetische Audio-, Bild-, Video- oder Textinhalte in einem maschinenlesbaren Format kennzeichnen
Abs. 3	Betreiber	über den Betrieb von Emotionserkennung oder biometrischer Kategorisierung informieren
Abs. 4 UAbs. 1	Betreiber	offenlegen, dass Bild-, Ton- oder Videoinhalte, die ein Deepfake sind, künstlich erzeugt oder manipuliert wurden
Abs. 4 UAbs. 2	Betreiber	offenlegen, dass ein veröffentlichter Text zu Angelegenheiten von öffentlichem Interesse künstlich erzeugt oder manipuliert wurde

Die Informationen sind spätestens bei der ersten Interaktion oder Aussetzung klar und eindeutig bereitzustellen und müssen den Barrierefreiheitsanforderungen entsprechen (Abs. 5). Andere Transparenzpflichten aus Unionsrecht oder nationalem Recht bleiben unberührt (Abs. 6).

Anbieterpflichten – Absätze 1 und 2

Die maschinenlesbare Kennzeichnung nach Abs. 2 trifft die Anbieter generativer Systeme, nicht die Nutzer. Sie gilt nicht, soweit das System eine unterstützende Funktion für die Standardbearbeitung ausführt oder die Eingabedaten nicht wesentlich verändert. Nach den Fragen und Antworten der Kommission fallen etwa Quellcode und kurze Zeichenfolgen nicht unter die Pflicht. Für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, gilt Abs. 2 erst ab dem 2. Dezember 2026 (Art. 111 Abs. 4 KI-VO in der Fassung der Verordnung (EU) 2026/1744).

KI-Bilder und Deepfakes

Ein Deepfake ist nach Art. 3 Nr. 60 KI-VO „ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde“. Nicht jedes KI-Bild ist also ein Deepfake. Die Kommission nennt drei Merkmale, die zusammen vorliegen müssen – Ähnlichkeit, Bezug zu etwas, das existiert oder plausibel existieren könnte, und den falschen Anschein von Echtheit oder Wahrhaftigkeit. Für das letzte Merkmal sollen Aussagegehalt, Einsatzkontext und Erwartungen des Publikums berücksichtigt werden.

Ist ein Bild ein Deepfake, muss der Betreiber es sichtbar oder hörbar offenlegen. Auf die maschinenlesbare Markierung des Anbieters darf er sich nach Auffassung der Kommission nicht verlassen. Bei offensichtlich künstlerischen, satirischen oder fiktionalen Werken genügt ein Hinweis, der die Darstellung nicht beeinträchtigt.

KI-Texte und die Ausnahme der menschlichen Prüfung

Die Pflicht erfasst nach den Fragen und Antworten der Kommission Texte, die (1) veröffentlicht werden, (2) die Öffentlichkeit informieren sollen und (3) eine Angelegenheit von öffentlichem Interesse betreffen. Als Beispiele nennt die Kommission unter anderem Politik, öffentliche Verwaltung, Rechtspflege und Strafverfolgung sowie Grundrechte.

Zur Ausnahme erläutert die Kommission Folgendes.

• Menschliche Überprüfung ist die bewusste inhaltliche Prüfung durch Personen mit einschlägigem Fachwissen und fachlichem Urteilsvermögen.
• Redaktionelle Kontrolle übt aus, wer den Text inhaltlich billigen, ändern oder ablehnen kann, einschließlich Faktenprüfung.
• Oberflächliche oder rein formale Kontrollen wie Rechtschreib- oder Grammatikkorrektur genügen nicht.
• Redaktionelle Verantwortung trägt, wer die letzte rechtliche Verantwortung für die Veröffentlichung hat.

Fristen, Aufsicht und Bußgelder

Art. 50 gilt seit dem 2. August 2026. Vor diesem Datum erzeugte Inhalte müssen nach Angaben der Kommission nicht nachträglich gekennzeichnet werden. Verstöße gegen Art. 50 können nach Art. 99 Abs. 4 Buchst. g KI-VO mit Geldbußen bis zu 15 Mio. Euro oder bis zu 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Für KMU und seit dem Digital Omnibus auch für kleine Midcap-Unternehmen gilt der jeweils niedrigere Betrag (Art. 99 Abs. 6 und 6a). In Deutschland überwacht die Bundesnetzagentur in ihren Zuständigkeitsbereichen auch die Transparenzpflichten. Für Mediendienstanbieter, die KI-Systeme zu journalistischen oder Werbezwecken einsetzen, sind nach § 2 Abs. 8 KI-MIG die nach Landesrecht zuständigen Behörden zuständig. Zur Einordnung in das Gesamtsystem siehe Risikoklassen der KI-Verordnung.

Stand Oktober 2026