Was ist eine KI-Halluzination?
Eine KI-Halluzination ist eine Antwort eines Sprachmodells, die flüssig und überzeugend klingt, inhaltlich aber falsch oder frei erfunden ist, etwa eine nicht existierende Quelle oder ein falsches Datum.
Auch genanntAI Hallucination
Warum das für Unternehmen zählt
Halluzinationen sind ein zentrales Risiko, sobald eine KI mit Kunden spricht oder Entscheidungen vorbereitet.
Mehr dazu
Sie entsteht, weil das Modell wahrscheinliche Formulierungen erzeugt, keine geprüften Fakten.
Ganz ausschließen lassen sie sich nicht, aber stark eindämmen: mit eigenen Quellen, klaren Grenzen und Prüfschritten. Planen Sie diese Schutzmaßnahmen von Anfang an ein, nicht erst nach dem ersten Fehler beim Kunden.
Subtile Fehler
Gefährlicher als offensichtlicher Unsinn sind kleine Abweichungen: ein falscher Betrag, eine vertauschte Frist, ein erfundener Paragraf.
Quellen statt Gedächtnis
Mit RAG antwortet das Modell aus Ihren Dokumenten und nennt die Fundstelle, die sich nachprüfen lässt.
Grenzen setzen
Findet die KI keine passende Quelle, soll sie das sagen und an einen Menschen übergeben, statt zu raten.
- EingabeEine Frage, eine Nachricht, ein Dokument
- KontextIhre Daten, per Suche gefunden
- SprachmodellLiest, folgert und schreibt
- ErgebnisEine Antwort oder eine Aktion in Ihren Tools
Was es kostet
Einstiegspreise unserer Leistungen zum Thema, in Ihrer Währung.
KI-Halluzination in der Praxis
Eine Antwort einer KI, die überzeugend klingt, aber inhaltlich falsch oder frei erfunden ist.
Beispiel
- Eine Immobilienverwaltung in Hannover setzt einen Chatbot für Mieterfragen ein.
- Ohne Anbindung an die Mietverträge nennt er auf die Frage nach der Kündigungsfrist eine plausible, aber für den Vertrag falsche Frist.
- Mit RAG antwortet er aus dem jeweiligen Vertrag und verweist bei Unklarheiten an die Verwaltung.
Welcher Begriff ist das?
Ein großes Sprachmodell, das Text versteht und erzeugt: die Grundlage von ChatGPT, Chatbots und KI-Agenten.

Vom Gründer
Ich will KI, die in Ihren Tools echte Arbeit erledigt, und ein Mensch prüft, was wichtig ist. Wir testen sie mit Ihren eigenen Daten, bevor Sie sich darauf verlassen.
Anatoly MikhailovGründer von Pazl







