300億パラメータのエージェントが一般向けマシンへ

常時稼働する個人向けエージェントを、クラウドではなく手元のMacやPCで動かすためのハードルが下がった。MetaのMuse Glimmerは300億パラメータを維持しながら、言語モデルの重みを20GB未満に圧縮している。単体の高性能な一般向けGPUを備えたPCを想定し、スケジュール、メッセージ、ファイルなどの個人情報を継続的に外部サーバーへ送らずに処理できる構成を目指す。

「Muse Glimmerは、ローカルで常時動くエージェントのワークフローに最適化した300億パラメータのオープンウェイトモデルだ」— AI at Meta

元の投稿は、モデルの重みをApache 2.0ライセンスで公開したと説明している。AI at Metaは、Metaの研究モデル、データセット、評価結果を扱う公式研究アカウントだ。今回も短い投稿だけでなく、学習方法と評価を記した技術記事、Hugging Faceのモデルリポジトリ、開発者向け資料へ読者を導いている。

約4ビット量子化とDFlashで実行範囲を拡大

300億パラメータのモデルは、フル精度では55GBを超えるメモリを必要とする。Metaは約4ビット精度の量子化を使い、言語モデルを20GB未満に縮小した。残った容量には、長い文脈を保持するKVキャッシュ、画像入力用の認識エンコーダー、投機的デコードを担う補助モデルを収める。想定する全体のメモリ枠は24GBまたは32GBだ。Metaはエージェント課題で劣化がほぼなかったとしているが、これは開発元の評価であり、第三者による再現が重要になる。

生成速度にはDFlashを基にした軽量なドラフターモデルを利用する。補助モデルが複数のトークン候補をまとめて出し、主モデルが並列に検証する仕組みだ。Metaの測定では、デコード速度はRTX 5090で3.1倍、M5 Maxで1.8倍、M4 Maxで1.5倍に上がった。推論、ツール呼び出し、結果の確認、失敗からの復旧を何度も繰り返すエージェントでは、単発の応答より遅延の積み重ねが効くため、この差は実用性に直結する。

同規模モデルとの比較と次の検証点

技術資料では、Muse GlimmerをGemma4-31BとQwen3.6-27Bに比較している。評価対象にはDeepSearch QA、MCP-Atlas、τ-Bench、SWE-Benchが含まれ、ツール利用、コーディング、複数段階の作業完了を測る。テキストと画像を組み合わせた入力に対応し、100を超える言語のデータで学習され、OpenClawのようなエージェント実行基盤との互換性も掲げる。Metaが強調するのは単一ランキングの首位ではなく、同じ規模での性能、ツール利用、ローカル実行をまとめた点だ。

重みはHugging Faceのリポジトリから取得できる。llama.cpp、MLX、ExecuTorch向け最適化は数日以内に追加され、Ollama、LM Studio、Unslothの対応も予定されている。次に見るべきなのは、24GB環境での実測トークン速度、長時間のツール呼び出しにおける安定性、ベンチマーク表の独立再現、そしてApache 2.0の重みがプライベートなローカルエージェントの普及をどこまで速めるかだ。

#muse-glimmer

Metaの30B Muse Glimmer、20GB未満でローカルAIを駆動しRTX 5090で3.1倍高速化