Cosa sono i token di cache?
I token di cache sono la parte del tuo input che è già stata elaborata e non deve essere pagata di nuovo per intero.
~/ai-glossary
$ glossary
12 of 14 in #the-basics
Le tue regole e i tuoi file di contesto sono identici all'inizio di ogni richiesta in una sessione. Inviarli di nuovo è uno spreco, quindi vengono mantenuti e addebitati a una frazione del costo.
È il motivo per cui una conversazione lunga può diventare più economica per turno anziché costantemente peggiore, e perché riordinare ciò che invii può silenziosamente romperla.
Was this page helpful?