Qwen 3.6 27B、local開発モデルの現実的なsweet spotか
Original: Qwen 3.6 27B is the sweet spot for local development View original →
Quesmaの記事は、Qwen 3.6 27Bをlocal developmentの実用的なsweet spotとして紹介している。筆者は、より高速なQwen 3.6 35B A3B MoEより、denseな27B版のほうが能力面で扱いやすいと見る。試した内容は、制約付き文章生成、小さなゲーム実装、landing page生成などだ。
重要なのは、frontier hosted modelを超えたという主張ではない。llama.cpp経由で個人のhardware上に置いたモデルが、package構成を守り、小規模なprojectを作り、日常的なcoding補助に届き始めた点にある。コードを外部providerへ送らないという条件では、この差は大きい。
HNの議論は、すぐに費用と発熱へ移った。128GB MacBook Proなら実行はできるが、coding agentのように長時間使うと熱と騒音が問題になる。同じ予算でOpenRouterやfrontier labのcreditを大量に買えるという指摘もあった。
それでも注目された理由は明確だ。local LLMの話題は「動くか」から「どの仕事なら任せられるか」へ進んでいる。Qwen 3.6 27Bはhosted modelを全面的に置き換えない。ただ、privacy、latency、costを自分で制御したい開発者にとって、基準線を一段上げた。
Related Articles
公開から数週間が経ち、r/LocalLLaMA では Qwen3.5 に対して 1 つの既定値ではなく、task ごとの sampler と reasoning budget を使い分ける方向へ知見が集まりつつある。
r/LocalLLaMAで、CPUにoffloadした重みを先読みしてprompt処理速度の低下を抑えるllama.cpp実験が話題になった。長いcontextでのhybrid CPU/GPU推論のボトルネックを減らす狙いだ。
r/LocalLLaMAの高シグナル benchmark 投稿は、Qwen 3.5 27Bをmainline llama.cppからik_llama.cppへ切り替えると、Blackwell RTX PRO 4000上でprompt evaluationが約43 tok/secから1,122 tok/secへ伸び、generationも7.5 tok/secから26 tok/secへ上がったと伝えた。