Die KI gibt mir recht – für Verteidiger ist das ein Warnsignal

Auf der Iserlohner Strafrechtstagung der Strafverteidigervereinigung NRW hat Prof. Dr. Sabine Gless von der Universität Basel Ende September einen Begriff auf die Leinwand gebracht, den in deutschen Kanzleien kaum jemand kennt. Er heißt Sycophancy, auf Deutsch etwa Gefallsucht oder Liebedienerei. Gemeint ist die Neigung großer Sprachmodelle, dem Nutzer nach dem Mund zu reden. Für Strafverteidiger ist das gefährlicher als jede erfundene Fundstelle, denn eine Gefälligkeit lässt sich nicht nachschlagen.

Woher die Gefälligkeit kommt

Sprachmodelle werden nach dem Vortraining mit menschlichen Bewertungen nachgeschult. Menschen bewerten Antworten besser, die ihnen zustimmen. Das Modell lernt daraus, was gefällt, nicht was stimmt. Forscher von Anthropic haben das 2023 in einer viel zitierten Studie untersucht (Sharma u. a., „Towards Understanding Sycophancy in Language Models“). Danach ist Sycophancy ein allgemeines Verhalten der so trainierten Modelle, das wohl zum Teil auf die menschlichen Präferenzurteile selbst zurückgeht. Antworten, die zur Ansicht des Nutzers passten, wurden in den Bewertungsdaten eher bevorzugt.

Die Einzelbefunde lesen sich wie eine Warnung an jeden, der ein Modell um eine zweite Meinung bittet. Auf die schlichte Rückfrage „Bist du sicher?“ räumte eines der getesteten Modelle bei 98 Prozent der Fragen einen Fehler ein, den es gar nicht gemacht hatte. Deutete der Nutzer eine falsche Antwort nur an, sank die Trefferquote um bis zu 27 Prozent. Und dasselbe Argument wurde freundlicher beurteilt, wenn der Nutzer dazuschrieb, er habe es selbst verfasst oder es gefalle ihm.

Ein Laborphänomen ist das nicht. Im April 2025 musste OpenAI ein Update von GPT-4o nach wenigen Tagen zurücknehmen, weil ChatGPT danach übertrieben zustimmend und unaufrichtig antwortete. Das Unternehmen räumte ein, sich zu sehr auf kurzfristiges Nutzerfeedback gestützt zu haben („Sycophancy in GPT-4o“, 29.04.2025). Wenige Tage später nannte es die Daumen-hoch- und Daumen-runter-Klicks der Nutzer als zusätzliches Belohnungssignal, das zustimmende Antworten begünstigt hatte („Expanding on what we missed with sycophancy“). Im März 2026 erschien in Science eine Studie zu elf Modellen. Sie bestätigten Nutzer um 49 Prozent häufiger, als Menschen es taten, auch bei Täuschung oder rechtswidrigem Verhalten. Die Teilnehmer gingen danach überzeugter aus dem Gespräch, im Recht zu sein, und vertrauten den gefälligen Modellen sogar mehr.

Juristische Fragen mit falscher Prämisse

Für das Recht hat die Stanford-Studie „Large Legal Fictions“ (Dahl u. a., 2024) das Muster gemessen. Die Forscher fragten etwa nach dem Sondervotum eines Richters am US Supreme Court, das es nie gegeben hat. GPT-4 ging in rund 69 Prozent dieser Fälle auf die falsche Prämisse ein. Die Autoren nennen das ausdrücklich eine Form der Sycophancy. In einer Folgestudie gingen spezialisierte Recherchewerkzeuge, aber auch GPT-4, mit solchen falschen Prämissen deutlich besser um (Magesh u. a.). Ein Freibrief ist das nicht, denn erfundene Inhalte blieben auch bei den Spezialwerkzeugen häufig. In der Studie SycEval (2025) brachten ausgerechnet Einwände mit Fundstellen die Modelle am häufigsten dazu, eine richtige Antwort gegen eine falsche zu tauschen.

Warum gerade Verteidiger aufpassen müssen

Verteidigung ist Widerspruch. Der Verteidiger liest die Akte gegen den Strich, und seine Schriftsätze müssen vor einer Staatsanwaltschaft und einem Gericht bestehen, die das Gegenteil für richtig halten. Wer eine KI fragt, ob seine Beweisantragsbegründung trägt oder seine Revisionsrüge durchgreift, sucht deshalb Widerspruch. Er bekommt aber oft Zustimmung.

Die typische Arbeitssituation begünstigt das noch. Der Verteidiger kennt seine Lesart der Akte und formuliert entsprechend. Er lädt den eigenen Schriftsatz hoch, schildert die Beweislage aus seiner Sicht und fragt dann, ob das überzeugt. Anthropic hat im April 2026 ausgewertet, wann Claude bei persönlichen Ratschlägen gefällig wird („How people ask Claude for personal guidance“). In Gesprächen, in denen Nutzer widersprachen, lag die Quote bei 18 Prozent, in den übrigen bei 9 Prozent. Als eine Ursache nennt der Bericht Nutzer, die eine Flut einseitiger Details liefern. Genau so sieht ein Prompt aus, in den ein Verteidiger seine Sicht der Akte kippt.

Das Ergebnis ist eine Echokammer mit Fußnoten. Das Modell stärkt die eigene Linie, übergeht ihre Schwächen und lobt einen Beweisantrag, den die Kammer in fünf Minuten ablehnt. Im Gerichtssaal ist dann niemand mehr gefällig.

Was dagegen hilft

Ausschalten lässt sich Sycophancy nicht. Die Anbieter arbeiten daran, und neuere Modelle schneiden in den Messungen besser ab. Anthropic berichtet aber auch, dass sich selbst die eigenen neuen Modelle nur selten korrigieren, wenn im bisherigen Gesprächsverlauf schon gefällige Antworten stehen, je nach Modell in 10 bis 37 Prozent der Fälle („Protecting the wellbeing of our users“, 18.12.2025). Für die Praxis folgen daraus einige Regeln, die nichts kosten.

• Fragen statt behaupten. Das britische AI Security Institute hat 2026 gezeigt, dass Fragen kaum gefällige Antworten auslösen, Behauptungen dagegen deutlich mehr. Je sicherer der Nutzer auftritt, desto gefälliger wird das Modell („Ask don’t tell“). „Ich bin überzeugt, dass …“ ist der schlechteste Einstieg.
• Die eigene Meinung weglassen. Wer nicht verrät, welche Antwort er sich wünscht, gibt dem Modell nichts, dem es folgen kann. Nach derselben Studie treibt die Ich-Form die Gefälligkeit stärker als eine neutrale Schilderung in der dritten Person.
• Beide Seiten abfragen. Den Schriftsatz einmal als eigenen und einmal als Schriftsatz der Gegenseite prüfen lassen. Als fremder Text wird er nach Sharma u. a. kritischer beurteilt. Die Wahrheit liegt nicht zwangsläufig in der Mitte, aber die Differenz zeigt, wie viel vom Urteil Gefälligkeit war.
• Die Gegenrolle verlangen. Das Modell soll die Stellungnahme der Staatsanwaltschaft oder den Verwerfungsbeschluss des Revisionsgerichts schreiben, nicht die eigene Arbeit benoten.
• Neu anfangen. Für die Prüfung einen frischen Chat ohne Vorgeschichte öffnen. Ein Verlauf, in dem das Modell schon zugestimmt hat, zieht weitere Zustimmung nach sich.
• Nicht nachgeben lassen. Wer eine Antwort mit „Bist du sicher?“ kippt, hat nichts gelernt. Ein Einwand gehört mit Begründung in eine neue, offene Frage, und das Ergebnis wird am Original geprüft.

Eine Lücke in den Kammerhinweisen

Die Hinweise der BRAK zum Einsatz von KI (Stand Dezember 2024) behandeln Halluzinationen und Verzerrungen durch einseitiges Trainingsmaterial. Die Neigung, dem Nutzer recht zu geben, kommt darin nicht vor. Dabei ist sie im Alltag das tückischere Problem. Eine erfundene Fundstelle fliegt beim Nachschlagen auf. Eine geschmeichelte Einschätzung sieht genauso aus wie eine ehrliche. Zu Prüfpflicht und Verschwiegenheit beim KI-Einsatz in der Verteidigung siehe den Beitrag KI in der Strafverteidigung.

Eine KI, die mir recht gibt, hat mir noch nichts bewiesen. Sie hat mir nur gezeigt, was ich hören wollte.

Stand 13. Oktober 2026