Comment ça marche
Pendant l'entraînement, le modèle apprend à prédire la suite d'un texte sur des milliards de phrases. Il en tire une connaissance générale de la langue, des faits courants et des raisonnements simples. Au moment de répondre, il génère sa réponse morceau par morceau, à partir de la question et du contexte qu'on lui fournit.
Deux limites comptent pour un site e-commerce :
- Ses connaissances s'arrêtent à la date de son entraînement. Il ne connaît ni les prix du jour, ni le stock, ni la dernière collection.
- Sans la bonne information sous la main, il peut produire une réponse plausible mais fausse. On parle d'hallucination.
C'est pour cela qu'on lui donne, au moment de la question, les contenus utiles : fiches produit, FAQ, politique de retour. Cette méthode s'appelle le RAG (retrieval-augmented generation).
Pourquoi c'est important en e-commerce
Les LLM permettent au visiteur de poser sa question avec ses mots, par exemple « un matelas ferme pour quelqu'un qui a mal au dos », au lieu de deviner les bons mots-clés. Ils sont aussi derrière ChatGPT, Gemini et les autres assistants que les consommateurs utilisent pour chercher des produits.
Une marque a donc affaire aux LLM à deux endroits : sur son site, où ils rendent la recherche et le conseil conversationnels, et en dehors, où ils décident quels produits citer.
Pour aller plus loin : Claude for Commerce : ce qu'Anthropic a livré, et ce qu'il reste à construire
Exemple concret
Un visiteur demande : « Ce sac à dos passe-t-il comme bagage cabine ? » Un LLM seul répond à partir de ses connaissances générales et peut inventer des dimensions. Le même LLM, relié à la fiche produit et à la FAQ de la marque, lit les vraies dimensions du sac et répond avec les informations de la marque.
Confusion fréquente
On pense souvent qu'un LLM connaît le catalogue d'une marque, parce qu'il sait citer des produits connus. Il ne connaît que ce qu'il a vu pendant son entraînement, souvent incomplet ou daté. Les prix, le stock et les nouveautés doivent lui être fournis au moment de la question.