WEB3applis wallet / interfaces dApp / adhésion token-gatedExplorer Web3 →
IA et automatisation

Qu’est-ce qu’une hallucination en IA ?

Une hallucination IA est une réponse fausse ou inventée qu’un modèle d’IA présente avec assurance, par exemple un chiffre, une citation ou une référence qui n’existe pas.

Aussi appeléhallucination d’une IAhallucination d’un LLM

Pourquoi c’est important pour une entreprise

Une hallucination dans un devis, une réponse client ou une note juridique engage votre entreprise.

Voir plus

Elle vient du fonctionnement même du modèle, qui produit le texte le plus probable, pas le plus exact.

On ne la supprime pas complètement, mais on la réduit : réponses fondées sur vos documents, citation des sources, refus de répondre hors du périmètre, relecture humaine sur les sujets sensibles.

  • Pourquoi elle arrive

    Le modèle complète un texte de façon plausible ; sans source, il ne vérifie rien.

  • Comment la limiter

    RAG sur vos documents, consigne d’avouer qu’il ne sait pas, tests sur de vraies questions.

  • Comment la repérer

    Exiger une source pour chaque affirmation, puis vérifier que la source dit bien la même chose.

Hallucination IA dans un système d’IA
  1. EntréeUne question, un message, un document
  2. ContexteVos données, trouvées par recherche
  3. Modèle de langageLit, raisonne et rédige
  4. RésultatUne réponse ou une action dans vos outils
hallucination IAContrôlesRègles, limites, journaux et une personne qui vérifie

Combien ça coûte

Prix de départ des prestations liées à ce terme, dans votre devise.

Hallucination IA en pratique

Quand une IA affirme avec assurance une information fausse ou inventée, comme une source qui n’existe pas.

Exemple
  1. Un cabinet d’avocats à Paris teste un assistant de recherche.
  2. Sans garde-fou, l’outil cite un arrêt de la Cour de cassation introuvable.
  3. Branché sur la base documentaire du cabinet et obligé de citer ses sources, il répond « je ne trouve pas » quand la source manque.

De quel terme s’agit-il ?

Le modèle d’IA entraîné sur d’immenses volumes de texte, que l’on trouve derrière ChatGPT, Claude ou Le Chat de Mistral AI.
Anatoly Mikhailov

Le mot du fondateur

Je veux une IA qui fait un vrai travail dans vos outils, avec une personne qui vérifie l’essentiel. Nous la testons sur vos propres données avant que vous vous y fiiez.

Anatoly MikhailovFondateur de Pazl

Une idée ? À un message près.

Périmètre convenu avant le développement, prix fixe, garantie de six mois.