#model-architecture

NVIDIA AIが、30B・23B・12Bの推論モデルを1つのチェックポイントに統合した「Star Elastic」を公開。ゼロショットスライシングにより、別途ダウンロードなしにモデル規模を動的に切り替えられる。

LocalLLaMA の技術解説は、Gemma 4 E2B/E4B の効率が Per-Layer Embeddings にあると説明する。重要なのは、それらの多くのパラメータが常時重い計算を行う層ではなく、大きな token lookup table のように振る舞うため、推論時のコスト感覚が変わるという点だ。