Was sind Cache-Tokens?
Cache-Tokens sind der Teil deiner Eingabe, der bereits verarbeitet wurde und nicht erneut vollständig bezahlt werden muss.
~/ai-glossary
$ glossary
12 of 14 in #the-basics
Deine Regeln und Kontextdateien sind zu Beginn jeder Anfrage in einer Session identisch. Sie erneut zu senden, ist verschwenderisch, daher werden sie gespeichert und zu einem Bruchteil des Preises berechnet.
Deshalb kann ein langes Gespräch pro Runde günstiger werden, anstatt stetig schlechter, und warum das Umordnen dessen, was du sendest, es stillschweigend kaputt machen kann.
Was this page helpful?