Skip to content

NOUVEAU

AI Search : vos visiteurs méritent une meilleure expérience de recherche

Découvrir
Back to Homepage
Démo

Hallucination de l'IA

IA

Une hallucination de l'IA est une réponse fausse ou inventée qu'un modèle d'IA générative présente avec assurance, comme si elle était vraie. En e-commerce, il peut s'agir d'une caractéristique produit, d'un prix ou d'une condition de retour qui n'existe pas.

Comment ça marche

Un LLM (Large Language Model) génère sa réponse mot après mot, en choisissant à chaque étape la suite la plus probable. Il ne vérifie pas ce qu'il écrit. Quand l'information lui manque, il comble le vide avec quelque chose de plausible plutôt que de dire qu'il ne sait pas.

Les causes les plus fréquentes :

  • Une donnée absente : la fiche produit ne mentionne pas la compatibilité, le modèle la suppose.
  • Une question ambiguë, que le modèle interprète à sa façon.
  • Une connaissance datée : le modèle répond avec ce qu'il a appris à l'entraînement, pas avec le catalogue du jour.

Pour les limiter, on ancre les réponses dans des sources vérifiées (catalogue, base de connaissances), on demande au modèle de répondre uniquement à partir de ces sources, et on prévoit une sortie quand il ne trouve pas : dire qu'il ne sait pas ou passer la main à un conseiller.

Pourquoi c'est important en e-commerce

Sur un site marchand, une réponse inventée se transforme vite en commande. Le client achète sur la foi de l'assistant, reçoit un produit qui ne correspond pas et le renvoie. Résultat : un retour à traiter, un client déçu, parfois un litige, et une confiance dans l'assistant qui ne revient pas.

Une hallucination engage aussi la marque. Une promesse de délai, une remise ou une caractéristique annoncée par l'assistant est lue par le client comme une parole du vendeur.

Pour aller plus loin : Il est temps de virer votre chatbot — Fire the Chatbot!

Exemple concret

Un visiteur demande si une poêle est compatible avec les plaques à induction. La fiche produit ne le précise pas. Un assistant mal ancré répond « oui, sans problème ». Le client commande, constate que la poêle ne chauffe pas et la renvoie. Un assistant ancré dans le catalogue répond qu'il ne trouve pas l'information, propose deux modèles dont la fiche confirme la compatibilité, ou transmet la question à un conseiller.

Confusion fréquente

Toutes les erreurs de l'IA ne sont pas des hallucinations. Si la fiche produit affiche un mauvais poids et que l'assistant le répète, il n'a rien inventé : il a fidèlement relayé une donnée fausse. Dans ce cas, c'est la source qu'il faut corriger, pas le modèle.

L'approche iAdvize

Des réponses tirées du catalogue de la marque

L'Assistant Shopping IA d'iAdvize répond à partir du catalogue et des contenus importés par la marque (FAQ, contenus produit). Ses prompts propriétaires, entraînés sur des millions de conversations, génèrent des réponses précises pour chaque scénario, et des garde-fous encadrent les échanges. Quand l'assistant ne sait pas répondre, la demande passe à un conseiller ou devient un ticket, avec toute la conversation.

 

Questions fréquentes

Peut-on supprimer complètement les hallucinations ?

Non, pas avec les modèles actuels. On peut en revanche les réduire fortement en ancrant les réponses dans des sources vérifiées et en prévoyant une sortie quand l'information manque.

Pourquoi l'IA invente-t-elle au lieu de dire qu'elle ne sait pas ?

Parce qu'un modèle de langage est conçu pour produire une réponse plausible. Sans consigne claire ni source à consulter, il préfère compléter que s'abstenir.

Comment repérer les hallucinations d'un assistant IA ?

En le testant avec les vraies questions des visiteurs, en relisant régulièrement des conversations et en vérifiant les réponses qui portent sur des données sensibles : prix, stock, compatibilité, délais, retours.