KI gegen KI – ohne Richter werden beide Modelle nicht klüger

Am Ende ihres Vortrags auf der Iserlohner Strafrechtstagung fragten Sabine Gless und Colin Carter das Publikum, ob ein Roboterverteidiger gegen einen automatisierten Strafbefehl antreten könnte. Ich habe geantwortet, dass ich das durchaus für möglich halte. Seitdem beschäftigt mich die Frage dahinter. Was geschieht, wenn zwei Sprachmodelle gegeneinander argumentieren und jedes die Texte des anderen verarbeitet? Werden beide besser? Oder werden beide schlechter, so wie es für das Training von KI mit KI-erzeugten Daten befürchtet wird? Die Forschung hat für beide Hälften der Frage Namen. Sie heißen Debate und Model Collapse.

Die Idee ist älter als ChatGPT

Schon 2018 haben Geoffrey Irving, Paul Christiano und Dario Amodei, damals bei OpenAI, vorgeschlagen, KI-Systeme in einem Streitgespräch gegeneinander antreten zu lassen („AI safety via debate“). Zwei Agenten tragen abwechselnd Argumente vor, ein menschlicher Richter entscheidet, wer die wahrsten und nützlichsten Informationen geliefert hat. Die zentrale Annahme formulieren die Autoren selbst. Im Debattenspiel sei es schwerer zu lügen, als eine Lüge zu widerlegen. Sie nennen das ausdrücklich eine empirische Frage, die erst zu klären sei.

Für einen Strafverteidiger klingt das vertraut. Auch die Hauptverhandlung lebt davon, dass Behauptungen auf Widerspruch treffen und ein Dritter entscheidet, der den Streit nicht selbst führt. Die Frage ist nur, ob das bei Maschinen genauso funktioniert.

Was die Versuche bisher zeigen

Die bekannteste Untersuchung stammt von Akbir Khan und Kollegen und wurde auf der Konferenz ICML 2024 mit einem der Best Paper Awards ausgezeichnet („Debating with More Persuasive LLMs Leads to More Truthful Answers“). Zwei Modelle, die einen Text kennen, debattieren über eine Frage dazu. Der Richter kennt den Text nicht. Mit Debatte lagen menschliche Richter in 88 Prozent der Fälle richtig, Sprachmodelle als Richter in 76 Prozent. Ohne die Debatte, nur mit Frage und zwei Antwortmöglichkeiten, waren es 60 und 48 Prozent. Die Bedingungen sind allerdings günstig. Die Debattierer wussten mehr als der Richter, und ihre Zitate aus dem Text wurden automatisch überprüft. Getestet wurde nur das Leseverständnis kurzer Erzählungen.

Andere Studien dämpfen die Erwartung. Google DeepMind fand 2024, dass Debatte bei Aufgaben ohne solches Wissensgefälle gemischte Ergebnisse bringt (Kenton u. a.). Bei gleich vielen Antworten schnitt eine Debatte mehrerer Modelle schlechter ab als eine schlichte Mehrheitsabstimmung (Huang u. a., ICLR 2024). Eine Arbeit auf der NeurIPS 2025 kommt zu dem Ergebnis, dass der größte Teil des Gewinns, den man der Debatte zuschreibt, auf das bloße Abstimmen entfällt (Choi u. a.). Und eine Studie von 2025 beobachtete, dass Modelle unter dem Eindruck der Argumente ihres Gegenübers häufig von einer richtigen zu einer falschen Antwort wechseln und Zustimmung bevorzugen, statt fehlerhafte Begründungen anzugreifen (Wynn u. a.). Das ist dieselbe Gefälligkeit, die ich im Beitrag über Sycophancy beschrieben habe, nur zwischen zwei Maschinen.

Self-Play braucht ein Spielende

Dass Maschinen allein durch das Spiel gegeneinander besser werden können, ist bewiesen. AlphaGo Zero lernte Go ohne menschliche Partien, nur mit den Spielregeln, und schlug die frühere Version, die 2016 den südkoreanischen Spitzenspieler Lee Sedol besiegt hatte, mit 100 zu 0 (Silver u. a., Nature 2017). Go hat aber etwas, das der Argumentation fehlt. Am Ende steht nach festen Regeln fest, wer gewonnen hat. Zwischen zwei Sprachmodellen gibt es kein solches Ergebnis, es sei denn, ein Dritter entscheidet. Ohne Richter optimieren beide nur auf Überzeugungskraft. Auch Verfahren, mit denen Sprachmodelle aus eigenen Texten lernen, brauchen deshalb einen Anker. Beim sogenannten Self-Play Fine-Tuning bleibt das Ziel ein Bestand menschlicher Beispiele (Chen u. a., ICML 2024).

Model Collapse – wenn die Ränder verschwinden

Die zweite Hälfte der Frage betrifft das Training. 2024 haben Ilia Shumailov und Kollegen in Nature gezeigt, dass Modelle degenerieren, wenn sie wahllos mit Texten früherer Modellgenerationen trainiert werden („AI models collapse when trained on recursively generated data“). Zuerst verschwinden die Ränder der ursprünglichen Verteilung, also das Seltene und Untypische. Eine Forschergruppe der Rice University kam bei Bildgeneratoren zu einem ähnlichen Ergebnis. Ohne genügend frische echte Daten in jeder Generation seien künftige Modelle zum Niedergang verurteilt (Alemohammad u. a., ICLR 2024).

Ganz so einfach ist es aber nicht. Gerstgrasser und Kollegen haben gezeigt, dass der Kollaps vor allem dann eintritt, wenn synthetische Daten die echten ersetzen. Werden sie zusätzlich zu den echten Daten angesammelt, bleibt das Modell stabil („Is Model Collapse Inevitable?“). Eine Folgestudie auf der ICML 2025 bestätigt das (Kazdan u. a.). Dagegen halten Dohmatob und Kollegen, dass in ihrem Versuchsaufbau schon ein sehr kleiner Anteil synthetischer Daten den Kollaps auslösen kann und größere Modelle ihn unter Umständen sogar verstärken („Strong Model Collapse“, ICLR 2025). Die Praxis der Anbieter geht trotzdem längst in die andere Richtung. Anthropic trainiert seit 2022 mit Bewertungen, die ein Modell über die Antworten eines Modells abgibt (Constitutional AI). NVIDIA hat für sein Modell Nemotron-4 340B angegeben, dass über 98 Prozent der Daten für das Alignment, also die Nachschulung nach dem Vortraining, synthetisch erzeugt waren (Technical Report). Dass KI-Daten Modelle zwangsläufig dümmer machen, lässt sich so pauschal nicht sagen. Entschieden ist die Frage nicht.

Was das für Strafbefehls-KI und Roboterverteidiger heißt

Aus diesen Befunden lässt sich eine vorläufige Antwort ableiten. Zwei Modelle, die nur einander zuhören, werden nicht verlässlich besser. Sie können sich gegenseitig bestärken, einander nachgeben und am Ende bei einer gemeinsamen Antwort landen, die nicht stimmt. Eine Debatte hilft nachweislich dann, wenn ein unabhängiger Richter entscheidet und jede Behauptung an einer überprüfbaren Quelle gemessen wird. Im Strafverfahren gibt es beides. Die Quelle ist die Akte samt Beweisaufnahme, der Richter ist das Gericht. Ein Roboterverteidiger, der jede Behauptung der Strafbefehls-KI am Akteninhalt angreift, könnte das Ergebnis tatsächlich verbessern. Erste Simulationen gehen in diese Richtung. Im Projekt AgentCourt wurden Anwaltsagenten durch 1.000 simulierte Zivilverfahren gegeneinander trainiert und schnitten danach in einem eigenen Test um 12,1 Prozent besser ab (Chen u. a., ACL 2025).

Zwei Bedingungen machen mir aber Sorgen. Die erste ist ein Richter, der seinerseits von einem Assistenzsystem beraten wird. Dann entscheidet am Ende eine Maschine über den Streit zweier Maschinen, und der Kreis ist geschlossen. Die zweite betrifft das Training. Werden künftige Modelle mit Strafbefehlen trainiert, die eine KI geschrieben hat, und mit Einsprüchen, die eine KI verfasst hat, droht genau das, was Shumailov beschreibt. Es verschwinden die Ränder. Im Recht sind die Ränder der atypische Fall, die abweichende Meinung, die Konstellation, die es so noch nicht gab. Gerade dort beginnt Verteidigung.

Rechtlich stellt sich die Frage in Deutschland ohnehin anders. Verteidiger kann nur ein Mensch sein, dazu mehr im Beitrag KI in der Strafverteidigung. Der Roboterverteidiger wäre also das Werkzeug eines Verteidigers, nicht sein Ersatz. Das spricht nicht gegen ihn, es beschreibt nur, wer am Ende prüft.

Daraus folgt für mich eine klare Forderung. Der KI-Verteidiger in der Hand des Strafverteidigers gegen die KI der Staatsanwaltschaft ist kein Problem, solange ein unabhängiger Richter entscheidet. Zum Problem wird es erst, wenn sich auch das Gericht der KI bedient. Staatsanwaltschaft und Verteidigung dürfen mit KI arbeiten, aber nur, solange das Gericht es gerade nicht tut.

Zwei Maschinen, die nur einander zuhören, werden nicht klüger. Klüger macht sie erst ein Dritter, der selbst entscheidet, und eine Akte, an der man prüfen kann.

Stand 13. Oktober 2026