#caching

캐시 적중 요금은 장문 컨텍스트 제품의 원가를 좌우하기 때문에 이번 인하는 파급력이 크다. DeepSeek는 전체 API 시리즈의 입력 캐시 가격을 기존의 10분의 1로 낮췄고 V4-Pro 75% 할인도 유지한다고 적었다.

Cloudflare는 2026년 4월 2일 AI bot traffic이 주당 100억 요청을 넘어서면서 CDN cache 설계 전제가 바뀌고 있다고 밝혔다. 회사는 human과 AI가 섞인 workload에서 SEIVE·S3FIFO 같은 AI-aware replacement policy와 장기적으로는 AI 전용 cache tier가 필요할 수 있다고 설명했다.