Prompt Caching 與 Batch 投資回報計算器Meta
Meta: Llama 3.1 8B Instruct Prompt Caching Calculator
Base Input Rate$0.02/M
快取命中讀取價$0.020/M(-0%)
Cache Write SurchargeFree (Automatic)
Output Rate$0.04/M
Simulation Parameters
月度請求量 (Requests)100,000
單次輸入代幣 (Input Tokens)8,000
Prompt 快取命中率 (Cache Hit)75%
單次輸出代幣 (Output Tokens)800
未優化原始成本$19.20
實際淨帳單$19.20
快取節省金額$0.00 (-0%)