Whisperを別で立てなくていいのか、Redditが見たGemma 4音声対応の最初の手応え

r/LocalLLaMAがこの投稿にすぐ反応したのは、local speech stackがかなりすっきりするかもしれないからだ。もし llama-server がGemma 4でaudioをそのまま扱えるなら、毎回Whisperを別serviceとして横に置く必要が薄くなる。元のReddit threadには376 upvotesと65 commentsが付き、deployを楽にできるかどうかに敏感な層がすぐ集まった。

投稿本文は短く、llama.cpp の llama-server 側でaudio processingが入り、Gemma-4 E2AとE4A modelでspeech-to-textが動くようになったと伝えている。文量は少ないが示唆は大きい。text推論とaudio入力を同じruntime、同じAPI surfaceの内側に置けるなら、local stackはかなり壊れにくくなる。横に付け足すserviceが減り、tool間の変換も減り、speech対応assistantを組むときのデバッグ箇所も少なくなるからだ。

コメント欄は期待一色ではなく、かなり実務的だった。まず「Whisperより良いのか」という直球の問いが出る。一方で、別のユーザーはseparate Whisper pipelineを回さなくて済むなら、それだけで待っていた変化だと書いていた。同時に、初期testerからは5分を超えるaudioではまだ失敗し、現時点ではVoxtralの方が良く動いた、さらにE4B Q8_XL quantとBF16 mmproj の組み合わせが重要だったという報告も上がっている。この熱量とcaveatが同時に並ぶ感じが、いかにもLocalLLaMAらしい。

だからこの話のポイントは、Whisperは終わった、ではない。multimodal local servingが、別枠のexperimental featureではなく、chatやcodingと同じtoolchainの中に当然あるべきものとして期待され始めた、ということだ。Redditの流れもfandomというよりearly-adopter QAに近い。便利さはもう十分に魅力的で、コミュニティはその次の段階として、どこで壊れるのかを先回りで埋め始めている。