Wat zijn output tokens?
Output tokens zijn wat het model terugschrijft, en zij zijn de dure helft.
~/ai-glossary
$ glossary
11 of 14 in #the-basics
Ze kosten vele malen meer dan inputkosten, omdat het genereren van tekst veel meer werk is dan het lezen ervan.
Dit is degene om in de gaten te houden. Vragen om een samenvatting in plaats van een herschrijving, of een diff in plaats van het hele bestand, is het verschil tussen je limiet bereiken tijdens de lunch en deze helemaal niet bereiken.
Was this page helpful?