DeepSeek V4.1-Flash, 입력 8B만 활성화…KV 캐시 HBM 4분의 1로 축소
552B MoE 모델이 입력 처리에는 8B, 출력 생성에는 16B 파라미터만 활성화한다. 이전 세대보다 KV 캐시의 HBM 요구량은 4분의 1, SSD 저장량은 8분의 1로 줄었고, DeepSeek는 기존 V4-Pro 트래픽까지 새 Flash 모델로 돌릴 계획이다.
원문: Introducing DeepSeek-V4.1-Flash: smarter, faster, more efficient. 원문 보기 →
552B 규모의 MoE 모델이 매 토큰마다 전체 파라미터를 깨우지 않는다. 입력을 읽는 구간에서는 8B, 출력을 만드는 구간에서는 16B만 활성화한다. DeepSeek-V4.1-Flash 공식 공개 자료에서 가장 눈에 띄는 대목은 모델 크기보다 이 비대칭 설계다. 큰 모델의 능력을 유지하면서 에이전트 서비스의 반복 입력 비용과 메모리 병목을 직접 겨냥했다.
새 Causal Encoder–Decoder 구조는 입력과 출력에 같은 계산량을 쓰는 관행을 바꾼다. 긴 문서, 대화 기록, 도구 실행 결과처럼 이미 주어진 맥락을 처리할 때는 8B 활성 파라미터로 계산을 억제하고, 답을 생성할 때는 16B로 용량을 늘린다. DeepSeek는 새로운 사전학습 방식과 더 큰 규모의 강화학습 후처리를 함께 적용했으며, 자체 에이전트 벤치마크 묶음에서 기존 주력 모델인 V4-Pro를 앞섰다고 설명한다.
운영 비용에서 더 직접적인 변화는 KV 캐시다. V4.1-Flash가 요구하는 HBM은 이전 세대의 4분의 1, SSD 저장 공간은 8분의 1이다. 동일한 시스템 프롬프트나 긴 대화 앞부분을 반복해서 읽는 에이전트 워크로드에서는 캐시 적중 요청이 전체 비용의 큰 부분을 차지한다. 캐시 크기를 줄이면 한 서버가 동시에 유지할 수 있는 세션 수와 긴 맥락 처리의 경제성이 함께 달라진다.
모델은 2026년 9월 10일부터 DeepSeek API에서 deepseek-flash라는 이름으로 이용할 수 있으며, 시각 입력도 기본으로 처리한다. 기존 deepseek-v4-flash와 deepseek-v4-flash-vision-exp는 종료됐고, 호환성을 위해 당분간 해당 이름의 요청도 V4.1-Flash로 연결된다. 새 요금 역시 9월 10일 04:00 UTC부터 적용됐으며 비혼잡 시간 요금은 혼잡 시간의 50%다.
Flash가 Pro를 임시로 대체한다는 운영 결정도 이례적이다. DeepSeek는 여러 외부 시험에서 V4.1-Flash가 V4-Pro보다 성능, 비용, 속도, 전체 실행 시간에서 앞섰다는 결과를 근거로 V4-Pro를 단계적으로 내린다. 9월 14일 04:00 UTC부터 V4.1-Pro가 나오기 전까지 모든 deepseek-v4-pro 요청은 V4.1-Flash로 연결되고 Flash 요금이 부과된다.
다만 공식 자료의 비교 점수는 공급사가 고른 벤치마크 결과다. 실제 배포 판단에는 한국어 품질, 도구 호출 안정성, 긴 세션에서의 오류율, 자체 데이터 기준 비용을 따로 확인해야 한다. 모델 가중치는 Hugging Face에 공개됐지만 552B급 모델의 자체 운영은 여전히 대규모 장비를 요구한다. DeepSeek가 대규모 배포 상담 기준으로 GPU 2,000대와 저장 클러스터를 언급한 이유다.
이번 변화의 경쟁력은 단순히 작은 활성 파라미터 수가 아니다. 입력과 출력을 서로 다른 계산 예산으로 처리하고 KV 캐시를 크게 압축한 구조가 실제 API 요금과 구형 모델 교체로 이어졌다는 데 있다. 다음 관전 지점은 공개 추론 엔진의 지원 속도, 독립 벤치마크의 재현 여부, 그리고 같은 구조를 확장한 V4.1-Pro가 Flash의 비용 우위를 얼마나 유지하는지다.
관련 기사
DeepSeek V4에 HN 폭주, 문서 링크보다 더 크게 번진 건 곧바로 뜬 가중치
HN은 이번 스레드를 단순한 모델 공개로 보지 않았다. API 문서보다 먼저 Hugging Face 가중치와 base 모델이 모습을 드러내자, 커뮤니티의 관심은 홍보보다 실물 검증으로 곧장 옮겨갔다.
Reddit가 주목한 DeepSeek DualPath: 에이전트형 LLM의 KV-Cache I/O 병목 해소
r/LocalLLaMA에서 화제가 된 DualPath 논문은 KV-Cache 로딩 경로를 분리해 I/O 병목을 완화하는 시스템 설계를 제안한다. arXiv 초록 기준으로 오프라인 최대 1.87배, 온라인 평균 1.96배 처리량 개선을 보고했다.
LLM이 직접 고르는 attention 범위, KV cache 읽기 절반으로
긴 문맥 전체를 매 토큰마다 훑지 말고 모델이 필요한 구간을 직접 선언하게 하자는 단순한 발상이 연구자들의 눈길을 끌었다. Declarative Attention은 기존 모델을 재학습하지 않고도 총 attention 대상 토큰을 최대 52.0% 줄였지만 정확도 손실과 실제 지연 시간 검증이 과제로 남는다.