Hacker News, 브라우저 안에서 Gemma 4를 돌리는 on-device agent 'Gemma Gem' 주목

Hacker News의 Show HN 스레드는 Gemma Gem을 브라우저 안으로 agent loop를 밀어 넣는 흥미로운 실험으로 끌어올렸다. 이 프로젝트의 핵심은 screenshot이나 DOM 데이터를 remote API로 보내지 않고, Google의 Gemma 4를 WebGPU 위에서 직접 돌리면서 page를 읽고 조작하는 일을 로컬에서 끝내겠다는 데 있다.

README가 특히 구체적인 이유는 architecture를 숨기지 않기 때문이다. offscreen document가 model inference와 agent loop를 맡고, service worker는 message routing과 screenshot capture, JavaScript execution을 처리한다. content script는 chat UI와 함께 DOM tool을 page 위에 주입한다. 덕분에 Gemma Gem은 단순한 local chatbot이 아니라 read_page_content, click_element, type_text, scroll_page, take_screenshot, run_javascript 같은 도구를 실제 browser context에서 실행하는 extension이 된다.

프로젝트는 local inference의 trade-off도 숨기지 않는다. README 기준으로 Gemma 4 E2B는 약 500MB, E4B는 약 1.5GB의 disk cache가 필요하고, Chrome의 WebGPU 지원이 전제된다. 사용자는 model 선택, thinking mode, max iteration 같은 설정을 직접 조절해야 한다. 다시 말해 이것은 “로컬도 cloud만큼 공짜처럼 편하다”는 식의 데모가 아니라, 제약을 드러낸 채 실사용 가능성을 테스트하는 구조다.

그래서 HN에서 이 Show HN이 의미를 가진다. 많은 agent demo가 여전히 cloud inference, hosted browser, server-side orchestration에 의존하는 반면, Gemma Gem은 model과 context, tool surface를 모두 client에 남겨 둔다. privacy-sensitive browsing이나 개인 workflow에서 이 local-by-default 선택은 단순한 최적화가 아니라 설계의 목적에 가깝다.

원문 토론은 Hacker News에 있고, 구현 세부사항은 GitHub repository에 정리돼 있다. developer-oriented prototype 성격이 강하지만, WebGPU와 browser extension, open Gemma model이 합쳐지면 어떤 on-device agent stack이 가능한지 꽤 선명하게 보여 주는 사례다.