Cosa sono i token di output?
I token di output sono ciò che il modello scrive in risposta, e sono la metà costosa.
~/ai-glossary
$ glossary
11 of 14 in #the-basics
Costano molte volte il costo degli input, perché generare testo richiede molto più lavoro che leggerlo.
Questo è quello a cui prestare attenzione. Chiedere un riassunto invece di una riscrittura, o un "diff" invece dell'intero file, fa la differenza tra raggiungere il limite all'ora di pranzo e non raggiungerlo affatto.
Was this page helpful?