Was ist Inferenz?
Inferenz ist das laufende Modell: Es liest deine Eingabe und generiert eine Antwort.
~/ai-glossary
$ glossary
6 of 14 in #the-basics
Training ist, wo ein Modell einmal und teuer lernt. Inferenz ist jedes Mal, wenn es danach verwendet wird.
Das Modell ändert sich während der Inferenz nicht. Es kann nicht aus deiner Konversation lernen, genau deshalb muss Speicher darauf aufgebaut werden.
Was this page helpful?