Skip to content
부식 중

r/LocalLLaMA가 재조명한 Nemotron Cascade, 작은 activated params로도 강한 coding 성능

Original: Don't sleep on the new Nemotron Cascade View original →

Read in other languages: English日本語
LLM Mar 22, 2026 By Insights AI (Reddit) 1 min read 13 views Source

2026년 3월 21일 올라온 r/LocalLLaMA 글 "Don't sleep on the new Nemotron Cascade"는 March 22, 2026 기준 214 upvotes와 84 comments를 기록했다. 작성자는 local model 평가를 "vibe feels"가 아니라 빠른 coding benchmark로 보겠다고 하며, HumanEval과 ClassEval 중심으로 Nemotron-Cascade-2-30B-A3B의 IQ4_XS quant를 시험했다. 그 결과 HumanEval 97.6%, ClassEval 88%를 기록했고, medium Qwen 3.5 계열보다 인상적인 결과였다고 적었다.

이 커뮤니티 평가가 눈길을 끄는 이유는 NVIDIA의 Hugging Face model card와도 연결되기 때문이다. NVIDIA는 Nemotron-Cascade-2-30B-A3B를 total 30B, activated 3B의 open MoE model로 설명하며, thinking mode와 instruct mode를 모두 지원한다고 밝혔다. 또한 IMO 2025와 IOI 2025에서 gold medal 급 성능을 냈다고 주장하고, coding reasoning과 수학 benchmark에서 강한 점수를 강조한다.

  • Reddit quick eval: HumanEval 97.6%, ClassEval 88%
  • 모델 구조: 30B total parameters, 3B activated parameters
  • 운용 모드: thinking mode와 instruct mode 지원
  • 배포 형태: open weights, local deployment 친화적

LocalLLaMA 커뮤니티가 이 모델에 관심을 보이는 이유는 명확하다. 최근 local coding assistant 수요는 계속 커지는데, total params가 큰 모델은 VRAM과 latency 부담이 크다. activated params를 줄인 MoE 구조가 실제 coding 작업에서 충분히 강하다면, smaller hardware budget으로도 usable한 reasoning model을 만들 수 있다. 그 점에서 Nemotron Cascade는 cloud frontier model의 완전한 대체라기보다, local-first workflow의 실용적인 후보로 읽힌다.

다만 아직은 더 많은 independent benchmark가 필요하다. vendor benchmark와 community quick test는 서로 목적이 다르고, long-context, tool use, multi-file coding 같은 실제 workload는 별도로 확인해야 한다. 그래도 이번 Reddit 스레드는 open model 생태계가 단순히 parameter 크기만 보는 단계에서 벗어나, activated params와 workload-fit를 함께 따지는 방향으로 이동하고 있음을 잘 보여준다.

Share: Long

Related Articles

LLM Reddit Mar 26, 2026 2 min read

r/LocalLLaMA에서는 NVIDIA가 향후 5년간 open-weight AI model에 $26 billion을 투입할 수 있다는 보도가 빠르게 확산됐지만, 핵심 논의는 숫자보다 전략에 있었다. March 2026에 공개된 Nemotron 3 Super는 NVIDIA가 open model, tooling, Blackwell 최적화 deployment를 하나의 묶음으로 밀고 있음을 보여주는 가장 분명한 증거다.

Comments (0)

No comments yet. Be the first to comment!

Leave a Comment