¿Qué son los tokens de caché?
Los tokens de caché son la parte de tu entrada que ya ha sido procesada y no tiene que pagarse de nuevo por completo.
~/ai-glossary
$ glossary
12 of 14 in #the-basics
Tus reglas y tus archivos de contexto son idénticos al inicio de cada solicitud en una sesión. Enviarlos de nuevo es un desperdicio, por lo que se retienen y se cobran a una fracción de la tarifa.
Es por eso que una conversación larga puede volverse más barata por turno en lugar de empeorar constantemente, y por qué reordenar lo que envías puede romperla silenciosamente.
Was this page helpful?