Was sind KI-Halluzinationen und wie vermeiden wir Fehlentscheidungen dadurch?
KI-Halluzinationen sind Antworten, die sprachlich überzeugend, aber inhaltlich falsch oder frei erfunden sind — das Risiko lässt sich durch Quellenverweise, eingeschränkte Wissensbasis und einen klaren Prüfschritt vor kritischen Entscheidungen deutlich senken, aber nicht vollständig auf null.
Der Begriff Halluzination klingt technisch, beschreibt aber ein einfaches Phänomen: Eine KI formuliert eine falsche Antwort mit derselben Sicherheit wie eine richtige.
Warum das überhaupt passiert
Ein Sprachmodell erzeugt die statistisch wahrscheinlichste Fortsetzung eines Textes — hat es zu einer Frage keine verlässliche Grundlage, formuliert es trotzdem eine plausibel klingende Antwort, statt „ich weiß es nicht" zu sagen.
Das Risiko steigt bei sehr spezifischen internen Fragen, zu denen die KI keine geprüfte Datengrundlage hat, etwa bei internen Regelungen ohne Anbindung an die Wissensdatenbank.
Beispielrechnung zum Prüfaufwand
Beispielrechnung: Wird eine KI-Antwort im Kundenservice grundsätzlich vor dem Versand von einer Person überflogen (rund 1 Minute pro Antwort bei 200 Antworten im Monat), entspricht das etwa 3,3 Stunden Prüfaufwand monatlich bei 40 Euro Stundensatz, also rund 130 Euro — ein vertretbarer Aufwand gegenüber dem Reputationsrisiko einer falsch beantworteten Kundenanfrage ohne jede Prüfung.
Wie sich das Risiko technisch senken lässt
Ein an die eigene Wissensdatenbank angebundenes System (RAG) mit sichtbaren Quellenverweisen reduziert Halluzinationen deutlich, weil die KI auf echte Dokumente statt auf reines Sprachwissen zugreift — vollständig ausschließen lässt sich das Risiko dadurch trotzdem nicht.
Wann ein menschlicher Prüfschritt zwingend bleibt
Bei rechtlich bindenden Aussagen, Preisangaben oder Entscheidungen mit finanzieller Tragweite sollte eine KI-Antwort grundsätzlich nicht ungeprüft versendet oder umgesetzt werden — hier bleibt die menschliche Freigabe unverzichtbar, unabhängig von der eingesetzten Technologie.
When it fits — and when it doesn’t
When it fits
- Die KI greift über RAG auf geprüfte interne Dokumente statt auf reines Sprachwissen zu
- Quellenverweise werden in der Antwort sichtbar mitgeliefert
- Kritische Antworten durchlaufen einen definierten menschlichen Prüfschritt
When it doesn't
- Die KI beantwortet unternehmensspezifische Fragen ohne Anbindung an geprüfte Dokumente
- Antworten gehen ohne jede Prüfung direkt an Kunden
- Es geht um rechtlich bindende oder finanziell kritische Entscheidungen
Questions about this topic?
We’ll help you find the next concrete step for your company.
Next step
Ready for your AI infrastructure?
Nextise guides you from the first analysis to a productive solution. Ready to deploy in 6–10 weeks.
Let’s talk about your AI transformation together
