WEB3Wallet-Apps / dApp-Interfaces / Token-gated MembershipWeb3 entdecken →
KI und Automatisierung

Was ist eine KI-Halluzination?

Eine KI-Halluzination ist eine Antwort eines Sprachmodells, die flüssig und überzeugend klingt, inhaltlich aber falsch oder frei erfunden ist, etwa eine nicht existierende Quelle oder ein falsches Datum.

Auch genanntAI Hallucination

Warum das für Unternehmen zählt

Halluzinationen sind ein zentrales Risiko, sobald eine KI mit Kunden spricht oder Entscheidungen vorbereitet.

Mehr dazu

Sie entsteht, weil das Modell wahrscheinliche Formulierungen erzeugt, keine geprüften Fakten.

Ganz ausschließen lassen sie sich nicht, aber stark eindämmen: mit eigenen Quellen, klaren Grenzen und Prüfschritten. Planen Sie diese Schutzmaßnahmen von Anfang an ein, nicht erst nach dem ersten Fehler beim Kunden.

  • Subtile Fehler

    Gefährlicher als offensichtlicher Unsinn sind kleine Abweichungen: ein falscher Betrag, eine vertauschte Frist, ein erfundener Paragraf.

  • Quellen statt Gedächtnis

    Mit RAG antwortet das Modell aus Ihren Dokumenten und nennt die Fundstelle, die sich nachprüfen lässt.

  • Grenzen setzen

    Findet die KI keine passende Quelle, soll sie das sagen und an einen Menschen übergeben, statt zu raten.

KI-Halluzination in einem KI-System
  1. EingabeEine Frage, eine Nachricht, ein Dokument
  2. KontextIhre Daten, per Suche gefunden
  3. SprachmodellLiest, folgert und schreibt
  4. ErgebnisEine Antwort oder eine Aktion in Ihren Tools
KI-HalluzinationKontrollenRegeln, Grenzen, Protokolle und ein Mensch, der prüft

Was es kostet

Einstiegspreise unserer Leistungen zum Thema, in Ihrer Währung.

KI-Halluzination in der Praxis

Eine Antwort einer KI, die überzeugend klingt, aber inhaltlich falsch oder frei erfunden ist.

Beispiel
  1. Eine Immobilienverwaltung in Hannover setzt einen Chatbot für Mieterfragen ein.
  2. Ohne Anbindung an die Mietverträge nennt er auf die Frage nach der Kündigungsfrist eine plausible, aber für den Vertrag falsche Frist.
  3. Mit RAG antwortet er aus dem jeweiligen Vertrag und verweist bei Unklarheiten an die Verwaltung.

Welcher Begriff ist das?

Ein großes Sprachmodell, das Text versteht und erzeugt: die Grundlage von ChatGPT, Chatbots und KI-Agenten.
Anatoly Mikhailov

Vom Gründer

Ich will KI, die in Ihren Tools echte Arbeit erledigt, und ein Mensch prüft, was wichtig ist. Wir testen sie mit Ihren eigenen Daten, bevor Sie sich darauf verlassen.

Anatoly MikhailovGründer von Pazl

Eine Idee? Nur eine Nachricht entfernt.

Umfang vor der Entwicklung vereinbart, Festpreis, sechs Monate Garantie.