Qu'est-ce que l'inférence ?
L'inférence, c'est le modèle qui tourne : il lit votre entrée et génère une réponse.
~/ai-glossary
$ glossary
6 of 14 in #the-basics
L'entraînement est l'étape où un modèle apprend, une seule fois, à grands frais. L'inférence, c'est chaque fois qu'il est utilisé par la suite.
Le modèle ne change pas pendant l'inférence. Il ne peut pas apprendre de votre conversation, c'est précisément pourquoi la mémoire doit être construite par-dessus.
Was this page helpful?