Reddit가 주목한 DeepSeek DualPath: 에이전트형 LLM의 KV-Cache I/O 병목 해소

커뮤니티에서 왜 화제가 됐나

r/LocalLLaMA의 게시글 DualPath는 2026-02-26 UTC 기준 점수 134, 댓글 10을 기록했다. 게시물은 “에이전트형 LLM 추론에서 계산보다 KV-Cache 저장소 I/O가 병목이 된다”는 문제를 전면에 내세웠다. 실제 운영 환경에서 긴 세션과 다회전 추론이 늘어나면서, 연산 성능보다 데이터 이동 경로가 먼저 한계에 도달한다는 공감이 커지고 있다.

DualPath의 핵심 아이디어

arXiv(2602.21548) 초록에 따르면 기존 분리형(disaggregated) 아키텍처에서는 대규모 KV-Cache를 외부 저장소에서 prefill 엔진으로 가져오는 경로가 병목을 만든다. DualPath는 여기에 storage-to-decode 경로를 추가하고, decode 엔진에서 prefill 엔진으로 RDMA 전송을 수행해 트래픽 불균형을 줄인다.

요약하면, 단일 로딩 경로를 고집하지 않고 네트워크와 엔진 자원을 병렬적으로 활용해 전체 처리량을 끌어올리는 접근이다. 또한 글로벌 스케줄러를 통해 prefill/decode 부하를 동적으로 재분배해 특정 지점의 NIC 포화를 완화한다.

보고된 성능 수치

• 오프라인 추론 처리량: 인하우스 시스템에서 최대 1.87배 향상
• 온라인 서빙 처리량: SLO를 유지하면서 평균 1.96배 향상
• 평가 대상: 생산형 agentic workload를 포함한 3개 모델

레딧 반응과 검증 포인트

댓글에서는 “하드웨어 구성이 달라져도 이득이 유지되는지”, “장시간 세션에서 KV 관리 부담을 얼마나 줄일 수 있는지”가 주요 질문이었다. 즉, 아이디어 자체보다도 실제 데이터센터 토폴로지와 스토리지 계층에서 재현 가능한지가 다음 관문이다.

운영 관점에서 이 논문은 모델 구조 혁신이 아니라 시스템 경로 최적화로 체감 성능을 키우는 전형적 사례다. 에이전트 워크로드를 다루는 팀이라면 KV-Cache 흐름을 별도 성능 지표로 추적할 필요가 있다.

출처: Reddit 스레드, arXiv 2602.21548