Vad är cache-tokens?
Cache-tokens är den del av din input som redan har bearbetats och inte behöver betalas för igen till fullo.
~/ai-glossary
$ glossary
12 of 14 in #the-basics
Dina regler och dina kontextfiler är identiska i början av varje förfrågan i en session. Att skicka dem igen är slöseri, så de hålls kvar och debiteras till en bråkdel av priset.
Det är därför en lång konversation kan bli billigare per tur istället för stadigt sämre, och varför omordning av det du skickar tyst kan förstöra det.
Was this page helpful?