Apa itu token cache?
Token cache adalah bagian dari input kamu yang sudah diproses dan tidak perlu dibayar penuh lagi.
~/ai-glossary
$ glossary
12 of 14 in #the-basics
Aturan dan file konteks kamu itu identik di awal setiap permintaan dalam satu sesi. Mengirimnya lagi itu buang-buang, jadi mereka disimpan dan dikenakan biaya dengan sebagian kecil dari tarif biasa.
Itulah mengapa percakapan panjang bisa jadi lebih murah per giliran daripada terus-menerus memburuk, dan mengapa mengubah urutan yang kamu kirim bisa diam-diam merusaknya.
Was this page helpful?