Halluzination

Eine Halluzination ist eine Antwort eines Sprachmodells, die sprachlich einwandfrei und selbstsicher klingt, aber faktisch falsch oder frei erfunden ist. Sie entsteht, weil das Modell keine Datenbank abfragt, sondern das statistisch wahrscheinlichste nächste Wort erzeugt - Plausibilität ist das Ziel, Wahrheit nur ein häufiger Nebeneffekt. Fehlt dem Modell die Information, füllt es die Lücke mit etwas, das gut klingt.

Gefährlich sind Halluzinationen vor allem, weil sie ohne Warnsignal auftreten: Erfundene Zahlen, Zitate, Paragrafen oder Ansprechpartner stehen im selben souveränen Ton da wie belegte Fakten. Im Marketing-Alltag heißt das - ein KI-Text nennt eine Studie, die es nicht gibt, ein Chatbot verspricht eine Funktion, die nie existierte, ein Agent schreibt den Kontakt an, der die Firma längst verlassen hat.

Ganz verschwinden Halluzinationen nicht, aber sie lassen sich systematisch eindämmen: Retrieval-Augmented Generation zwingt das Modell, aus echten Dokumenten zu antworten, ein klarer System-Prompt legt fest, dass fehlendes Wissen benannt statt erfunden wird, und Human-in-the-Loop stellt sicher, dass kritische Inhalte vor der Veröffentlichung ein Mensch prüft. Die Basis bleibt saubere Daten - auf falschem Bestand zitiert auch das beste Setup nur präzise den Fehler.