Schon mal erlebt, dass dir eine KI mit voller Überzeugung eine Antwort gibt – und du später denkst: Das stimmt gar nicht?
KI halluziniert –
und das ist kein Witz.
Willkommen in der Welt der KI-Halluzinationen. Die KI erfindet Fakten, die sich schlüssig anhören – aber komplett erfunden sind.
Zum Beispiel
„Hier ist eine Studie der Universität XYZ zum Thema …"
Die Studie existiert gar nicht.
„Laut Statistik XYZ sind es 42 % der Bevölkerung …"
Die Prozentangabe ist frei erfunden.
Die KI macht das nicht absichtlich. Sie will einfach eine Antwort liefern – selbst wenn ihr die Fakten dafür fehlen.
Warum passiert das?
KI-Modelle haben kein Wissen im klassischen Sinn. Sie berechnen lediglich, welche Wortfolgen statistisch am besten passen – unabhängig davon, ob sie stimmen. Das Modell „weiß" nicht, ob eine Aussage wahr ist. Es optimiert auf Plausibilität, nicht auf Wahrheit.
Besonders tückisch: Halluzinationen klingen oft genauso zuversichtlich wie korrekte Antworten. Es gibt keinen Warnton, kein Zögern, keine Einschränkung – nur eine flüssige, überzeugende Formulierung.
Fazit
KI ist zweifellos ein starkes Werkzeug. Aber sie kann auch danebenliegen – und das passiert öfter, als man denkt.
Gerade bei komplexen Fragen oder unklaren Prompts kann ein Modell Informationen erzeugen, die überzeugend klingen, aber schlicht falsch sind. Das betrifft Fakten, Zahlen, Zitate, Gesetzeslagen und technische Details gleichermaßen.