Prompt Caching＆Batch ROI カリキュレーターNVIDIA
NVIDIA: Nemotron 3 Nano 30B A3B Prompt Caching Calculator
Base Input Rate$0.06/M
キャッシュ読み取り単価$0.012/M(-80%)
Cache Write SurchargeFree (Automatic)
Output Rate$0.24/M
Simulation Parameters
月間リクエスト数 (Requests)100,000
入力トークン数/回 (Input Tokens)8,000
Prompt キャッシュヒット率 (Cache Hit)75%
出力トークン数/回 (Output Tokens)800
未最適化の定価コスト$67.20
実質請求額$38.40
キャッシュ削減額$28.80 (-43%)