Comment ça marche
Un LLM (Large Language Model) génère sa réponse mot après mot, en choisissant à chaque étape la suite la plus probable. Il ne vérifie pas ce qu'il écrit. Quand l'information lui manque, il comble le vide avec quelque chose de plausible plutôt que de dire qu'il ne sait pas.
Les causes les plus fréquentes :
- Une donnée absente : la fiche produit ne mentionne pas la compatibilité, le modèle la suppose.
- Une question ambiguë, que le modèle interprète à sa façon.
- Une connaissance datée : le modèle répond avec ce qu'il a appris à l'entraînement, pas avec le catalogue du jour.
Pour les limiter, on ancre les réponses dans des sources vérifiées (catalogue, base de connaissances), on demande au modèle de répondre uniquement à partir de ces sources, et on prévoit une sortie quand il ne trouve pas : dire qu'il ne sait pas ou passer la main à un conseiller.
Pourquoi c'est important en e-commerce
Sur un site marchand, une réponse inventée se transforme vite en commande. Le client achète sur la foi de l'assistant, reçoit un produit qui ne correspond pas et le renvoie. Résultat : un retour à traiter, un client déçu, parfois un litige, et une confiance dans l'assistant qui ne revient pas.
Une hallucination engage aussi la marque. Une promesse de délai, une remise ou une caractéristique annoncée par l'assistant est lue par le client comme une parole du vendeur.
Pour aller plus loin : Il est temps de virer votre chatbot — Fire the Chatbot!
Exemple concret
Un visiteur demande si une poêle est compatible avec les plaques à induction. La fiche produit ne le précise pas. Un assistant mal ancré répond « oui, sans problème ». Le client commande, constate que la poêle ne chauffe pas et la renvoie. Un assistant ancré dans le catalogue répond qu'il ne trouve pas l'information, propose deux modèles dont la fiche confirme la compatibilité, ou transmet la question à un conseiller.
Confusion fréquente
Toutes les erreurs de l'IA ne sont pas des hallucinations. Si la fiche produit affiche un mauvais poids et que l'assistant le répète, il n'a rien inventé : il a fidèlement relayé une donnée fausse. Dans ce cas, c'est la source qu'il faut corriger, pas le modèle.