O que é inferência?
Inferência é o modelo rodando: lendo sua entrada e gerando uma resposta.
~/ai-glossary
$ glossary
6 of 14 in #the-basics
Treinamento é onde um modelo aprende, uma vez, de forma cara. Inferência é toda vez que ele é usado depois disso.
O modelo não muda durante a inferência. Ele não pode aprender com a sua conversa, e é exatamente por isso que a memória precisa ser construída por cima.
Was this page helpful?