LLMはなぜベクトルで考えないのか LocalLLaMA 140コメントの争点

このLocalLLaMAスレッドが面白いのは、最初の数秒だけ素朴に見えて、すぐにかなり本質的な設計論へ変わるところだ。元の投稿は単純だ。LLMの内部計算はもともと高次元ベクトル空間で動いているのに、なぜreasoningはchain-of-thoughtのような自然言語で外に出てくるのか。内部ではベクトルで考え、最後の答えだけ言葉に戻す形のほうが速く、圧縮され、直感的な処理に向くのではないか。推論最適化やアーキテクチャ論文の話が日常なコミュニティだからこそ、この問いは雑談で終わらず140コメント級の議論になった。

最も多かった答えは意外に率直だ。まだそれをうまく学習させる方法が分かっていない、というものだ。コメントでは COCONUT やJEPA方向の話も出たが、何度も繰り返された注意点は同じだった。latent spaceは固定された記号ボードではない。学習と一緒に動く。だからその中にある“中間思考”を安定して監督するのが難しい。別のコメントはさらに根本的な問いを投げた。そもそもどういうデータセットで訓練するのか。自然言語reasoningなら集めて、採点して、フィルタして再利用できる。だが隠れたvector scratchpadは意図的にラベルを付けにくい。

スレッドはchain-of-thoughtへの誤解も整理した。人はしばしば、言語のreasoningを人間の思考字幕のように捉える。だが実際のモデルでは、それは次の生成に再投入される追加コンテキストとして働くことが多い。つまり説明文であるだけでなく、可読な作業メモリでもある。だから自然言語には説明可能性以上の利点がある。人間が途中を監査し、デバッグし、制約をかけられる点だ。コミュニティが特に気にしたのもそこだった。reasoningを完全にlatentに隠すと、圧縮や速度は得られても、数学、coding、法的ロジック、安全のような領域で検証可能性をかなり失う。

結局のところ、スレッドの結論は「ベクトルが正しい」でも「言葉のままで十分」でもない。現在のシステムはinspectabilityのためにあえて効率コストを払っており、現場ではその交換条件をまだ妥当だと見る人が多い。LocalLLaMAもlatent reasoningそのものを否定してはいない。むしろ次の研究筋として真剣に見ている。ただ、明日すぐ差し替えられる実装スイッチではないこともはっきりした。この問いはUIの好みではなく、学習安定性、監督方法、評価、そして信頼にまで触れている。だからコメント欄がここまで長くなった。