675コメントで広がったLocalLLaMAの本音、ローカルLLMでのコーディングは割に合うのか

いまのLocalLLaMAの空気をよく表しているスレッドをひとつ選ぶなら、これがかなり近い。投稿者は、Qwen 27B、Gemma 4 31B、そして複数のエージェント系ツールを使って数週間ローカルモデルでコーディングやOS作業を試した末に、生産性の落ち込みが見合わないと書いた。不満はかなり具体的で、ツール呼び出しの判断が弱い、長時間コマンドの扱いが下手、出力を確認せずに思い込みで次の行動に進む、プロンプトキャッシュが安定しない、大きなホスト型モデルに比べて摩擦が多すぎる、というものだった。

この投稿が800超のアップボートと675コメントまで伸びたのは、その不満が多くの読者にとって見覚えのあるものだったからだ。最上位のコメントは、「自分が何か間違っているのかと思っていたが、このサブレが期待値を上げすぎたのかもしれない」という内容だった。別の人気コメントは、Xで流れ続ける「全部すぐ動く」系の誇張に対する解毒剤のようだと書いた。ローカルモデルの終わりを宣言したからではなく、Docker buildのタイムアウト、ログで文脈が埋まる問題、途中で作業の筋を見失うエージェントといった、地味で現実的な失敗例を並べたからこそ刺さった。

同時に、反論も強かった。複数のコメントは、この投稿がモデルの質とハーネスの質を混ぜていると指摘した。同じモデルでも、エージェントシェル、システムプロンプト、文脈エンジニアリングによって結果は大きく変わるという話だ。実際、ローカル推論でClaude Codeの挙動を改善する設定ガイドを貼るコメントもあったし、投稿者が言う「こちらの意図を読んでくれる感じ」の差は、モデルそのものよりツール設計の差が大きいのではないかという意見も目立った。

だからこのスレッドの価値は、「ローカルは駄目」で片付けなかったところにある。投稿者自身も、自動化、軽い調査、テキスト遊びではローカルモデルを使い続けると認めている。ただ、長時間コマンドと複雑な状態管理を伴うコーディングでは、まだ懐疑が強い。期待と実態のギャップをここまで具体的に言語化したことが、このスレッドを大きな議論にした。