128B denseでざわついたLocalLLaMA Mistral Medium 3.5の本当の刺さりどころ

LocalLLaMAでのMistral Medium 3.5スレッドは、丁寧なベンチマーク比較が出そろう前からかなり熱かった。理由はコメントの最初の数行にそのまま出ている。denseだ。巨大MoEの新しいスライドではなく、256k contextとopen weightsを掲げた128B dense flagship。その一点で、このコミュニティはもう「手元で回せるか」「quantizeしやすいか」「既存のagent stackに挿せるか」という話へ移った。だからこのスレッドは普通のモデル公開反応と少し違った。ベンチ表を眺めるだけではなく、最初からhardware fitとlocal workflowの価値が中心に来ていた。

公式情報もその反応を強めた。Hugging FaceのカードとMistralの 公開記事 は、Medium 3.5をinstruction following、reasoning、codingを一つにまとめた最初のflagship merged modelとして位置づける。128B dense、256k context、multimodal input、requestごとのreasoning effort調整、そしてLe Chatの既定モデルでありVibe remote agentsの中核でもあるという説明だ。Mistralはas few as four GPUsでself-hosting可能だとし、SWE-Bench Verified 77.6%も示した。licenseがmodified MITであることも大きい。LocalLLaMAにとっては“public preview”という言い回しより、実際に何を落として試せるかのほうがずっと重要だからだ。

コメント欄はその価値観を隠さなかった。上位反応のひとつはleaderboard感想ではなく、Strix Halo上でQ4 quantを即座に試す報告だった。別のコメントはtoken-per-minuteを冗談にしつつ、また別のコメントは「128B denseというniche自体が面白い」と言った。つまりこのコミュニティで“面白いモデル”とは、主流AIのローンチ文法とは違う。すぐquantizeできるか、手元でbenchmarkできるか、agent toolchainに載せられるか、QwenやGemmaと実用比較できるか。そこで価値が決まる。コミュニティが反応したのは、その実行可能性だった。

Mistralが同時に押し出したremote cloud agentsの話も、スレッドではむしろ輪郭をはっきりさせた。同じモデルを二つの世界にまたがらせようとしているからだ。席を外している間も走り続けるcloud agentのエンジンであり、同時にopen-weight実験の対象でもある。LocalLLaMAがより強く反応したのは後者だったが、その二面性こそが投稿を遠くまで運んだ。128B denseは普通に見れば軽くない。それでもこのコミュニティでは、dense、open weights、coding-agent志向が一つに揃うと、すぐdownloadとquantizationの話になる。Medium 3.5はそのボタンを正確に押した。