LLM und Agenten
Halluzinationen von LLM testen und messen
Eine Halluzination ist eine Aussage, für die es keine Deckung in der Quelle oder in der Wirklichkeit gibt. Messen lässt sie sich nur für einen Einsatz, mit Fällen aus diesem Einsatz.
Zwei Fälle, zwei Prüfungen
Beantwortet ein Modell Fragen aus seinem eigenen Wissen, prüfst du die Antworten gegen einen Goldsatz: feste Fragen mit bekannter, belegter Antwort. Beantwortet es Fragen zu einem Dokument (RAG, Zusammenfassung), prüfst du die Begründetheit: Jede Aussage muss durch eine Stelle in der Quelle gedeckt sein.
So lässt sich messen
- Fälle aus dem echten Einsatz sammeln, nicht aus Beispielen im Netz. Dazu Fälle, in denen die richtige Antwort «das steht nicht in der Quelle» lautet.
- Zitate und Zahlen per Code gegen die Quelle prüfen. Ein Modell prüft ein Modell nur nach Eichung an Urteilen von Menschen (Übereinstimmung κ), und nie allein.
- Jeden Fall mehrfach fahren. Gemessen wird der Anteil der Antworten mit mindestens einer ungedeckten Aussage, mit Obergrenze.
- Getrennt auswerten nach Fragetyp, Sprache und Dokumentlänge, damit eine gute Gesamtzahl keine schwache Gruppe verdeckt.
- Bei jeder Änderung von Modell, Prompt oder Quellen wiederholen und Alt gegen Neu vergleichen.
Was du am Ende sagen kannst
«Das Modell halluziniert nicht» ist keine belegbare Aussage. Belegbar ist: «In diesen 300 Fällen aus unserem Einsatz hatten höchstens 1 % der Antworten eine ungedeckte Aussage (95 % Konfidenz).» 300 unabhängige Fälle ohne Fehler belegen eine Fehlerrate unter rund 1 %.
Wo eine falsche Aussage schwer wiegt, kommt zur Messung eine Kontrolle: ein Mensch gibt frei, und diese Freigabe wird mit Köderfällen getestet.
Antworten
Wie oft halluziniert ein Sprachmodell wie ChatGPT?
Eine allgemeine Zahl gibt es nicht, weil die Rate von Modell, Aufgabe, Quelle und Fragetyp abhängt. Für deinen Einsatz misst du sie mit Fällen aus diesem Einsatz und gibst eine Obergrenze an. Ohne eigene Messung ist jede Zahl aus dem Netz nur ein Hinweis.
Wie teste ich Halluzinationen bei RAG?
Bei RAG prüfst du, ob jede Aussage der Antwort durch eine Stelle in den gefundenen Dokumenten gedeckt ist, und ob das System sagt, wenn die Quelle nichts hergibt. Zitate und Zahlen lassen sich per Code gegen den Text abgleichen. Jeder Fall läuft mehrfach, und die Auswertung erfolgt getrennt nach Fragetyp.
Wie verhindere ich falsche Antworten der KI?
Falsche Antworten lassen sich nicht ganz verhindern, aber begrenzen: mit Quellenbindung, einem Weg für «weiss ich nicht», Prüfungen per Code und einer Freigabe durch einen Menschen dort, wo ein Fehler Schaden macht. Wie wirksam das ist, belegst du mit einem Goldsatz und Köderfällen.
Kontakt
Schick mir den Einsatz in zwei Sätzen. Ich melde mich und sage dir, ob und wie sich dein Vorhaben prüfen lässt. Ob ich den Auftrag übernehmen kann, hängt von meiner Auslastung ab.