Warum halluziniert KI?

Eine sichere falsche Antwort, kein Fehler, den das Modell melden kann

Ein Modell hat keinen getrennten „Ich weiß es nicht“-Modus, auf den es zurückfällt. Jede Antwort, richtig oder falsch, entsteht aus demselben Vorhersageprozess für das nächste Token, sodass ein erfundenes Zitat oder eine nicht existierende Funktion mit derselben flüssigen Sicherheit klingt wie eine richtige. Das unterscheidet Halluzination von einem gewöhnlichen Softwarefehler — keine Ausnahme wird ausgelöst, kein Signal gesetzt, nichts, das man abfangen könnte. Die Ausgabe wirkt gleich vertrauenswürdig, egal ob sie richtig oder falsch ist.

Warum es passiert: Vorhersage, kein Nachschlagen

Ein Sprachmodell ist darauf trainiert, plausible Fortsetzungen von Text vorherzusagen, gelernt aus Mustern in seinen Trainingsdaten. Es speichert Fakten nicht in abrufbarer, prüfbarer Form wie eine Datenbank — es speichert die statistische Form der Sprache, einschließlich der Fakten, die im Training häufig genug vorkamen, um diese Form zu prägen. Wenn ein Prompt nach etwas fragt, das das Modell selten, widersprüchlich oder nie gesehen hat, scheitert es nicht daran zu antworten; es erzeugt trotzdem die plausibelste Fortsetzung, denn das ist alles, was es zu tun weiß.

Das erklärt auch, warum Halluzination bei spezifischen, seltenen oder aktuellen Details zunimmt — ein echt klingender, aber erfundener Gerichtsfall, eine plausible, aber falsche Versionsnummer, ein Zitat, das wie ein echter Papertitel klingt. Je spezifischer die Behauptung, desto wahrscheinlicher füllt das Modell eine Lücke mit etwas nur Plausiblem statt etwas Bekanntem.

Grounding verkleinert die Lücke, schließt sie aber nicht

Echten Quelltext vor das Modell zu legen, bevor es antwortet — Retrieval, siehe was RAG ist — verringert Halluzination bei Fragen, die diese Quellen tatsächlich abdecken, messbar, weil das Modell wiedergeben kann, was es gerade gelesen hat, statt allein aus Trainingsdaten vorherzusagen. Aber es ist eine starke Tendenz, keine Garantie: Liefert das Retrieval nichts Brauchbares oder sind die Quellen unvollständig, kann das Modell trotzdem flüssig aus dem Gedächtnis antworten, statt zuzugeben, dass die Quellen nicht geholfen haben.

Gegenprüfung ist ein Filter, keine Heilung

Dieselbe Frage mehreren Modellen zu stellen und die Antworten zu vergleichen, fängt Halluzinationen ab, die für das Training oder die Eigenheiten eines Modells spezifisch sind — erfindet nur eines von drei Modellen ein Detail, ist diese Uneinigkeit ein Signal. Es fängt keine Halluzination ab, die die meisten Modelle teilen, weil sich Trainingsdaten zwischen Anbietern überschneiden. Dieselbe Grenze gilt, wenn ein separates Modell als Judge eine Antwort bewertet: Ein Judge-Modell kann von derselben Art flüssigem, sicherem, falschem Text getäuscht werden, den es eigentlich prüfen soll.

Was Halluzination in der Praxis tatsächlich verringert

Keine einzelne Technik beseitigt Halluzination, weil sie eine Eigenschaft der Art ist, wie diese Modelle Text erzeugen, kein Fehler, der nur ein Modell oder einen Anbieter betrifft. Messbar hilft, die Aufgabe des Modells einzugrenzen: Antworten für Fragen, die die Quellen abdecken, in abgerufenem Quelltext verankern, Anfragen spezifisch statt offen halten, und die eigenen Zitate, Zahlen und konkreten Angaben des Modells als zu prüfende Behauptungen behandeln statt als bereits geprüfte Fakten. Techniken zu kombinieren — Grounding plus Gegenprüfung plus Verifikation gegen eine Quelle — verringert die Fehlerfläche mehr als jede einzelne für sich.

Warum weniger Zufälligkeit das Problem nicht löst

Es ist eine verbreitete Annahme, dass eine niedrigere Temperature-Einstellung (siehe Temperature und Top-p) ein Modell wahrheitsgetreuer macht, weil die Ausgabe vorsichtiger und deterministischer wirkt. Temperature steuert, wie das Modell unter wahrscheinlichen nächsten Tokens auswählt — sie ändert nicht, was das Modell weiß, und fügt keinen Faktencheck hinzu. Ein Modell kann bei Temperature null genauso sicher halluzinieren wie bei eins; eine niedrigere Einstellung lässt es nur dieselbe falsche Antwort konsistenter halluzinieren.

Häufige Fragen

Lässt sich Halluzination vollständig beheben?

Nein, nicht mit heutigen Sprachmodell-Architekturen. Sie entsteht daraus, wie diese Modelle Text erzeugen — plausible Fortsetzungen vorhersagen statt Fakten zu prüfen —, lässt sich also durch Grounding, Gegenprüfung und Verifikation verringern, aber nicht als Kategorie beseitigen.

Halluziniert ein größeres oder neueres Modell weniger?

Oft weniger bei verbreitetem Wissen, weil mehr davon im Training gut vertreten war. Das beseitigt nicht den zugrunde liegenden Mechanismus — ein neueres Modell kann bei seltenen, spezifischen oder aktuellen Details, für die es nicht gut trainiert wurde, weiterhin sicher halluzinieren.

Ist Halluzination dasselbe wie Lügen des Modells?

Nein. Lügen setzt voraus, die Wahrheit zu kennen und trotzdem etwas anderes zu sagen. Ein Modell hat keinen getrennten Kanal für „die Wahrheit“, mit dem es seine Ausgabe vergleicht — es erzeugt die statistisch plausibelste Fortsetzung, ob die nun zufällig zutrifft oder nicht.

Stoppt es Halluzination, dem Modell eigene Dokumente zu geben?

Es verringert sie deutlich bei Fragen, die diese Dokumente tatsächlich beantworten, weil das Modell abgerufenen Text wiedergeben kann statt aus Trainingsdaten vorherzusagen. Es hindert das Modell aber nicht daran, flüssig aus dem Gedächtnis zu antworten, wenn das Retrieval nichts Relevantes findet.