Prompt Caching 및 Batch ROI 계산기NVIDIA
NVIDIA: Nemotron 3.5 Super VL Prompt Caching Calculator
Base Input Rate$0.15/M
캐시 적중 읽기 단가$0.020/M(-86.67%)
Cache Write SurchargeFree (Automatic)
Output Rate$0.47/M
Simulation Parameters
월간 요청 건수 (Requests)100,000
요청당 입력 토큰 (Input Tokens)8,000
프롬프트 캐시 적중률 (Cache Hit Rate)75%
요청당 출력 토큰 (Output Tokens)800
최적화 전 원가$157.60
실제 청구액$79.60
캐시 절감액$78.00 (-49%)