02.11.2026

KI für Strafverteidiger

Ein Vorname, den es nicht gab – warum Prompt-Verbote Halluzinationen nicht verhindern

Mein KI-Agent hat trotz ausdrücklichen Verbots einen Vornamen in den Betreff einer beA-Nachricht geschrieben. Er war aus einem anderen Mandat entstanden. Warum ein Verbot im Prompt kein Sicherheitskonzept ist und was stattdessen hilft.