Was bedeutet Halluzination bei KI?
Sprachmodelle erzeugen Text, indem sie Wort für Wort das wahrscheinlich passende nächste Element wählen. Sie prüfen dabei nicht, ob eine Aussage stimmt. Fehlt ihnen Wissen, füllen sie die Lücke mit etwas, das plausibel klingt. Das nennt man Halluzination.
Typische Beispiele sind erfundene Quellen, falsche Zahlen, Paragrafen, die es nicht gibt, oder Details zu Kunden und Projekten, die das Modell gar nicht kennen kann. Gefährlich ist weniger der Fehler selbst als der sichere Ton, in dem er vorgetragen wird.
Wie man Halluzinationen reduziert
Ganz ausschließen lassen sie sich mit heutiger Technik nicht. Deutlich reduzieren lassen sie sich aber. Der wirksamste Hebel ist Kontext: Bekommt das Modell die relevanten Dokumente mitgeliefert, etwa über RAG, muss es weniger raten.
Weitere Maßnahmen sind klare Anweisungen, Quellenangaben in Antworten, die Erlaubnis, „weiß ich nicht“ zu sagen, und Prüfschritte durch Menschen bei wichtigen Ergebnissen.
Halluzinationen in einer Unternehmens-KI
Eine Unternehmens-KI arbeitet mit dem eigenen Wissen des Unternehmens. Mit einem Langzeitgedächtnis für Personen, Projekte und Entscheidungen hat sie belastbaren Kontext und muss bei internen Fragen nicht auf allgemeines Trainingswissen zurückgreifen.
Wenn die KI handelt, statt nur zu antworten, wird Kontrolle wichtiger. Deshalb gehören Freigaben vor kritischen Aktionen und ein Audit-Log dazu. Eine falsche Zusammenfassung ist ärgerlich, eine falsch versendete E-Mail an einen Kunden ist ein echtes Problem.