Prompt Caching＆Batch ROI カリキュレーターMeta
Meta: Llama 3.1 70B Instruct Prompt Caching Calculator
Base Input Rate$0.72/M
キャッシュ読み取り単価$0.720/M(-0%)
Cache Write SurchargeFree (Automatic)
Output Rate$0.72/M
Simulation Parameters
月間リクエスト数 (Requests)100,000
入力トークン数/回 (Input Tokens)8,000
Prompt キャッシュヒット率 (Cache Hit)75%
出力トークン数/回 (Output Tokens)800
未最適化の定価コスト$633.60
実質請求額$633.60
キャッシュ削減額$0.00 (-0%)