Hacker News、ブラウザ内で Gemma 4 を動かす on-device agent「Gemma Gem」に注目

Hacker NewsのShow HNスレッドは、Gemma Gemを「browserの中へagent loopを持ち込む」実例として押し上げた。projectの要点は、screenshotやDOM情報をremote APIへ送るのではなく、GoogleのGemma 4をWebGPU上で直接動かし、pageの理解と操作をlocalで完結させるところにある。

READMEが面白いのは、architectureをかなり具体的に公開している点だ。offscreen documentがmodel inferenceとagent loopを担当し、service workerがmessage routing、screenshot capture、JavaScript executionを受け持つ。content scriptはchat UIとDOM toolをpageへ注入する。この分割によってGemma Gemは単なるlocal chatbotではなく、read_page_content、click_element、type_text、scroll_page、take_screenshot、run_javascriptを実際のbrowser contextで実行できるextensionになっている。

同時に、このprojectはon-device browser AIの制約も隠していない。READMEによれば、Gemma 4 E2Bは約500MB、E4Bは約1.5GBのdisk cacheを必要とし、ChromeのWebGPU対応が前提になる。userはmodel選択、thinking mode、max iterationなどを自分で調整する必要がある。つまり「local inferenceは何の代償もなく使える」とは言わず、制約込みで試せる形に整えている。

だからこそ、このShow HNには意味がある。多くのagent demoは依然としてcloud inferenceやhosted browser、server-side orchestrationに依存しているが、Gemma Gemはmodel、context、tool surfaceをclient側に残す。privacy-sensitiveなbrowsing taskでは、そのlocal-by-default設計自体が価値になる。

元の議論はHacker Newsにあり、実装の詳細はGitHub repositoryで確認できる。developer向けprototypeの色は強いが、WebGPUとbrowser extension、open Gemma modelが合流するとどんなon-device agent stackが見えてくるかをはっきり示す例だ。