¿Qué es la inferencia?
La inferencia es el modelo ejecutándose: leyendo tu entrada y generando una respuesta.
~/ai-glossary
$ glossary
6 of 14 in #the-basics
El entrenamiento es donde un modelo aprende, una vez, de forma costosa. La inferencia es cada vez que se usa después de eso.
El modelo no cambia durante la inferencia. No puede aprender de tu conversación, que es exactamente la razón por la que la memoria tiene que construirse encima.
Was this page helpful?