Halluzination
Auch bekannt als: KI-Halluzination
Eine Halluzination ist eine frei erfundene, aber überzeugend formulierte Antwort eines KI-Modells, die als Tatsache dargestellt wird.
Ein Sprachmodell erzeugt den Text, der statistisch am plausibelsten auf eine Eingabe folgt, nicht den Text, der nachweislich wahr ist. Fehlt dem Modell die passende Information, liefert es trotzdem eine Antwort, formuliert im selben sicheren, flüssigen Ton wie eine korrekte, und genau diese frei erfundene, aber überzeugend klingende Aussage nennt man Halluzination.
In der Praxis zeigt sich das als erfundene Quellenangabe, ein plausibel klingender, aber falscher Paragraf, eine falsche Zahl in einer Zusammenfassung oder eine Produkteigenschaft, die es so nicht gibt. Auffällig ist dabei, dass der Tonfall der Antwort keinen Hinweis gibt, ob sie stimmt, eine halluzinierte Aussage klingt gleich sicher wie eine korrekte.
Ein verbreitetes Missverständnis ist, ein neueres oder größeres Modell würde Halluzinationen ausschließen. Sie werden dadurch seltener, verschwinden aber nicht, und auch ein RAG-Aufbau, der Antworten auf eigene Dokumente stützt, verringert das Risiko, ohne es auf null zu bringen.
Was das im Betrieb heißt
Genau deshalb müssen KI-Ergebnisse in Geschäftsprozessen geprüft werden, bevor sie weiterverwendet werden: Eine von einer KI vorformulierte Kundenantwort, eine Rechnung oder eine technische Angabe darf nicht ungeprüft hinausgehen, weil eine falsche Zahl oder ein falsches Zitat genauso überzeugend klingt wie eine richtige. Wo diese Prüfung fehlt, trägt am Ende der Betrieb die Folgen, nicht das Modell.
Ist das bei Ihnen sauber gelöst?
Wir schauen uns an, wie es bei Ihnen tatsächlich aussieht — und sagen ehrlich, ob etwas zu tun ist.
Verwandte Begriffe
Alle BegriffeEin Begriff aus Ihrem Angebot fehlt hier?
Schicken Sie uns die Stelle, die Sie nicht verstehen. Wir erklären sie — ohne dass daraus gleich ein Auftrag werden muss.