Manipulierte Beweisfotos – Studie zeigt Schwächen gängiger KI-Detektoren

Forscher kanadischer Universitäten haben am 29. September 2026 einen Datensatz vorgestellt, mit dem sich prüfen lässt, ob Software manipulierte Beweisfotos erkennt (Originalpaper). Das Ergebnis der ersten Tests ist ernüchternd. Frei verfügbare Detektoren übersahen mehr als die Hälfte der Fälschungen und stuften zugleich gut ein Fünftel echter Bilder als manipuliert ein.

Das Team um Kelly McConvey (University of Toronto) umfasst Wissenschaftler der Universitäten Toronto, Waterloo, British Columbia, Western Ontario und Ottawa, darunter Karen Eltis (Ottawa) und Maura R. Grossman (Waterloo). Die Arbeit ist für die Konferenz CIKM 2026 im November in Rom angenommen und wurde über ein Forschungsnetzwerk zum Schutz von Gerichten vor synthetischen KI-Inhalten im Programm des Canadian AI Safety Institute bei CIFAR gefördert.

Was der Datensatz enthält

Der „CIFAR Synthetic Evidence Corpus“ umfasst 1.505 Bilder, davon 720 echte Kontrollbilder und 785 manipulierte oder vollständig erzeugte. Er bildet drei typische Beweismittelarten ab – Standbilder aus Überwachungskameras, Dashcam-Aufnahmen und Handyfotos. Die Manipulationen sind in drei Stufen gegliedert, nämlich veränderte Rahmenbedingungen wie Tageszeit, Wetter oder Licht, gezielte Eingriffe in einzelne Bildelemente – etwa hinzugefügte oder entfernte Schäden, ausgetauschte Gegenstände – und komplette Fälschungen. Erzeugt wurden sie mit verbreiteten Verbraucherwerkzeugen (GPT Image 2, Gemini 3.1 mit Nano Banana 2, Adobe Firefly 5). Ein kleinerer Teil wurde von Hand in Photoshop und ChatGPT nachbearbeitet. Ausgangsmaterial sind öffentliche Forschungsdatensätze, keine Bilder aus echten Verfahren.

Wie die Detektoren abschnitten

Getestet wurden vier frei verfügbare Erkennungsprogramme ohne Nachtraining. Das beste erreichte eine Trennschärfe (ROC-AUC) von 0,674, die übrigen lagen nahe am Zufall. Mit seiner Standardeinstellung erkannte es 47 Prozent der Manipulationen und markierte 22 Prozent der echten Bilder fälschlich als verändert. Dashcam-Bilder waren deutlich schwerer zu beurteilen als Überwachungs- oder Handyfotos. Von Hand nachbearbeitete Fälschungen erhielten teils extrem niedrige Manipulationswerte und blieben unentdeckt. Die Autoren heben hervor, dass im Gerichtskontext gerade der Fehlalarm schwer wiegt. Ein echtes Beweismittel zu Unrecht in Zweifel zu ziehen, sei der schädlichere Fehler.

Einordnung

Die Studie zeigt, dass ein automatischer Detektor derzeit weder die Echtheit eines Bildes noch seine Manipulation belegen kann. Wer sich in der Praxis auf ein Prüfprogramm stützt, sollte dessen Fehlerraten in beide Richtungen kennen. Die Ergebnisse sind technischer Natur und nicht an eine Rechtsordnung gebunden. Sie gelten für deutsche Straf- und Zivilverfahren ebenso wie für kanadische. Wie Gerichte mit zweifelhaftem Bildmaterial umgehen – etwa über Sachverständige und die Herkunft der Datei –, behandelt das Paper nicht. Ebenso wenig befasst es sich mit den Transparenzpflichten für Deepfakes nach Art. 50 der KI-Verordnung. Da Datensatz, Prompts und Auswertungsskripte offen zugänglich sind, können Anbieter und Forensiker ihre Werkzeuge daran messen.