KI-Halluzination

Eine KI-Halluzination ist eine Antwort, die eine KI selbstbewusst und plausibel formuliert, die aber sachlich falsch oder frei erfunden ist. Das Modell „rät" dann eine Antwort, statt zuzugeben, dass ihm die Information fehlt. Im Kundenservice ist das riskant – RAG, ein Confidence Score und die menschliche Übergabe dämmen es ein.

Was ist eine KI-Halluzination?

Von einer KI-Halluzination spricht man, wenn eine KI eine Antwort liefert, die überzeugend klingt, aber nicht stimmt. Das Tückische: Die Antwort ist sprachlich einwandfrei und wirkt souverän. Nur der Inhalt ist falsch oder erfunden. Ein Kunde merkt den Fehler oft nicht.

Der Grund liegt in der Funktionsweise eines Large Language Models. Es sagt das jeweils wahrscheinlichste nächste Wort voraus und ist darauf ausgelegt, immer eine flüssige Antwort zu erzeugen, auch dann, wenn ihm die nötige Information fehlt. Statt „Das weiß ich nicht" zu sagen, füllt es die Lücke mit einer plausiblen Vermutung. Genau das ist die Halluzination.

Warum ist das für Unternehmen kritisch?

Im Kundenservice kann eine erfundene Antwort echten Schaden anrichten: ein falsch genannter Preis, eine zugesagte Lieferzeit, die nicht haltbar ist, oder eine erfundene Rückgabefrist. Das kostet Vertrauen und im Zweifel Geld. Deshalb braucht es Schutzmechanismen. Drei greifen besonders gut:

• RAG. Die KI antwortet aus Ihrer eigenen Wissensdatenbank statt aus allgemeinem Wissen. Findet sie keine passende Quelle, hat sie nichts zum Erfinden.
• Konfidenzscore. Jede Antwort bekommt einen Sicherheitswert. Liegt er zu niedrig, antwortet die KI nicht selbst.
• Menschliche Übergabe. Ist die KI unsicher, reicht sie das Gespräch an einen Mitarbeiter weiter, statt zu raten.

Zusätzlich hilft sauberes Prompt Engineering: Eine klare Anweisung wie „Wenn du es nicht sicher weißt, übergib an einen Menschen" reduziert Halluzinationen spürbar.

Beispiel aus dem Mittelstand

Ein Reisebüro in Hamburg setzt einen KI-Chatbot für Erstanfragen ein. Ein Kunde fragt: „Brauche ich für Kanada ein Visum?" Ohne Schutz würde das Modell vielleicht eine konkrete, aber veraltete Antwort erfinden.

Mit den richtigen Mechanismen läuft es anders. Die KI sucht in der hinterlegten Wissensdatenbank nach „Einreise Kanada". Findet sie dort keinen aktuellen Eintrag, sinkt der Konfidenzscore und die KI antwortet ehrlich: „Das prüfe ich kurz für Sie" – und übergibt an einen Reiseberater. Statt einer riskanten Falschauskunft bekommt der Kunde eine verlässliche Antwort von einem Menschen. So bleibt die Geschwindigkeit der Automatisierung erhalten, ohne dass das Reisebüro für erfundene Aussagen haftet.

Halluzinationen eindämmen mit SendSeven

SendSeven ist eine Unified-Messaging-Plattform für alle Kanäle in einem Posteingang – WhatsApp, Telegram, SMS, Instagram, Messenger, E-Mail, Live Chat und Browser Push. Der KI-Assistent ist von Grund auf gegen Halluzinationen abgesichert: Er antwortet per RAG aus Ihrer Wissensdatenbank, bewertet jede Antwort mit einem Konfidenzscore und übergibt bei Unsicherheit an Ihr Team.

Diese hybride Mensch-KI-Übergabe ist der Kern: Die KI übernimmt, was sie sicher beantworten kann, und gibt den Rest an Menschen weiter. So bekommen Ihre Kunden keine erfundenen Antworten. DSGVO-konform, in der EU gehostet, Made in Germany. 14 Tage kostenlos testen, ohne Kreditkarte.