#browser-ai

HNはMozillaのPrompt API反対を単なる標準論争ではなく、ブラウザAIの囲い込み警告として受け取った。モデルごとのプロンプト調整とベンダー規約が、互換性の分岐を呼び戻すという見方だ。

HNはローカル推論、APIキー不要、プライバシー面のうまみをすぐ理解した。その一方で、ブラウザAIが実用品になるには保存容量とハードウェア条件がまだ重いという反応も強かった。

LocalLLaMAが反応したのは、demoの分かりやすさだった。約290MBの1.7B Bonsai modelがWebGPUでbrowser内に走る。同じthreadはすぐにtokens per second、hallucination、llama.cpp support、そして1-bit modelがnarrow task以外で使えるのかを確認しにいった。