Redditが注目したDeepSeek DualPath: エージェント型LLMのKV-Cache I/Oボトルネック解消

なぜ話題になったのか

r/LocalLLaMAのDualPath投稿は134ポイント、10コメントを獲得した。注目点はモデルそのものではなく、運用時の推論パス最適化だ。マルチターンのエージェント運用では、計算性能よりもKV-Cacheの保存・転送I/Oが先に限界に達するケースが増えている。

論文が示すボトルネック

arXiv 2602.21548によると、分離型推論アーキテクチャでは、外部ストレージからprefillエンジンへKV-Cacheを読み込む経路に負荷が偏りやすい。結果としてprefill側NICが飽和し、decode側の帯域が遊ぶ非対称が発生し、全体スループットを抑えてしまう。

DualPathの設計

DualPathは従来のstorage-to-prefillに加えて、storage-to-decode経路を導入する。decode側で受けたKV-CacheをRDMAでprefillへ転送することで、データ移動を単一路に集中させない。さらにグローバルスケジューラでprefill/decode負荷を動的配分し、局所的な輻輳を回避する。

報告された性能

オフライン推論: 最大1.87倍のスループット向上

オンラインサービング: SLOを守りつつ平均1.96倍向上

対象: 実運用に近いagentic workload上の3モデル

コミュニティの論点

コメントでは「異なるハードウェア構成でも同等の効果が出るか」「長時間セッションでKV管理負荷をどこまで下げられるか」が主要論点になった。ここは今後の再現検証で確認すべき部分だ。

実務的には、重み更新なしでもシステム経路最適化で大幅改善が可能であることを示す好例と言える。エージェント運用チームは、GPU使用率だけでなくKV-Cache転送経路を主要KPIとして計測する価値が高い。

出典: Redditスレッド、arXiv 2602.21548