Que sont les jetons de cache ?

Les jetons de cache sont la partie de votre entrée qui a déjà été traitée et qui n'a pas à être payée à nouveau en totalité.

Navid Moazzezby Navid MoazzezUpdated Sept. 12, 20261 min read
~/ai-glossary
$ glossary
12 of 14 in #the-basics

Vos règles et vos fichiers de contexte sont identiques au début de chaque requête d'une session. Les envoyer à nouveau est un gaspillage, ils sont donc conservés et facturés à une fraction du tarif.

C'est pourquoi une longue conversation peut devenir moins chère par tour plutôt que de s'aggraver régulièrement, et pourquoi réorganiser ce que vous envoyez peut discrètement la casser.