#gemini-nano

Googleのon-device最適化は、配備済みモデルを再学習せず速度だけを上げる設計だ。Pixel 9・10のGemini Nano v3にfrozen Multi-Token Predictionを追加し、token生成50%以上、standalone drafter比130MB削減を示した。

反応は「ブラウザだけでローカルLLM」という手軽さと、WebGPU、モデルの正体、制限条件への補足に分かれた。

Google Chromeがユーザーの同意なしに4GBのGemini Nanoモデルを端末に自動インストールしていることが判明。削除しても再インストールされ、GDPR違反の疑いと環境負荷の問題も浮上している。

HNはローカル推論、APIキー不要、プライバシー面のうまみをすぐ理解した。その一方で、ブラウザAIが実用品になるには保存容量とハードウェア条件がまだ重いという反応も強かった。