LLM 레딧
Gemma 4의 on-device Agent Skills, Reddit가 주목
Reddit는 Google의 Gemma 4 edge 발표를 통해 on-device Agent Skills와 LiteRT-LM runtime을 주목했다. 1.5GB 미만 메모리, 128K context, Raspberry Pi 5와 Qualcomm NPU benchmark가 핵심 포인트다.
2분 소요 48 조회
태그
#edge-ai
#edge-ai 태그가 달린 기사
LLM X/Twitter
Google, Gemma 4 공개… Apache 2.0 license와 최대 256K context 제공
Google은 2026년 4월 2일 Gemma 4를 가장 강력한 open model family라고 소개하며, Gemini 3와 같은 기술 기반 위에서 만들어졌다고 밝혔다. 회사는 E2B, E4B, 26B MoE, 31B Dense를 제공하고, function-calling·structured JSON output·최대 256K context·Apache 2.0 license를 지원한다고 설명했다.
2분 소요 39 조회
LLM 레딧
Reddit가 직접 시험한 PrismML Bonsai 1-bit 모델, 발표 이상으로 가벼운 local LLM
r/LocalLLaMA의 반응은 PrismML Bonsai 발표가 단순한 compression headline 이상으로 받아들여지고 있음을 보여 준다. 회사가 내세운 end-to-end 1-bit 설계와, 실제 사용자가 체감한 사용성 개선이 함께 이야기되고 있다.
2분 소요 43 조회
LLM 레딧
Reddit가 주목한 Liquid AI의 LFM2.5-350M, 350M 파라미터로 agentic edge를 노린다
LocalLLaMA에서 화제가 된 LFM2.5-350M은 작은 범용 모델이 아니라 tool use와 structured output에 맞춘 350M edge model이라는 점에서 주목받았다. Liquid AI는 10T에서 28T token으로 pretraining을 늘리고 large-scale RL을 더했다고 설명한다.
1분 소요 43 조회
LLM 해커뉴스
Show HN: 1-Bit Bonsai가 던진 질문, 초저메모리 LLM은 edge에서 어디까지 갈 수 있나
Hacker News에 올라온 Prism ML의 1-Bit Bonsai는 1.15GB 8B model부터 iPhone급 1.7B model까지, 1-bit weight로 edge inference economics를 다시 쓰겠다는 시도다. 핵심은 parameter count보다 intelligence density와 hardware fit을 전면에 내세운 점이다.
1분 소요 52 조회
LLM 레딧
PrismML, 1-bit Bonsai로 온디바이스 LLM 압축 경쟁에 진입
r/LocalLLaMA에서 주목받은 PrismML의 1-bit Bonsai는 8.2B 파라미터를 1.15GB로 줄인 end-to-end 1-bit LLM을 전면에 내세운다. 온디바이스 배포, throughput, energy efficiency를 동시에 노린 launch라는 점이 핵심이다.
2분 소요 52 조회
AI
NVIDIA, 통신사와 AI grid 구축으로 분산 inference 상용화 겨냥
NVIDIA가 2026년 3월 17일 GTC 2026에서 통신 사업자들과 AI grid 구축 움직임을 공개했다. latency와 cost, data locality가 중요한 inference를 network edge로 끌어내려 통신사의 AI monetization 기반을 만들려는 구상이다.
2분 소요 40 조회
AI 해커뉴스
Hacker News가 주목한 초소형 CPU용 TTS, Kitten TTS v0.8
Kitten TTS v0.8의 Show HN 글은 15M~80M ONNX 모델, 25MB급 배포 크기, CPU 중심 설계로 관심을 모았고, 실사용 품질과 데이터 출처에 대한 질문도 함께 끌어냈다.
2분 소요 49 조회
LLM
IBM Granite 4.0 1B Speech 공개... 소형 다국어 음성 모델로 edge 배치 겨냥
IBM은 2026년 3월 9일 Granite 4.0 1B Speech를 공개했다. 절반 수준의 파라미터로 이전 모델보다 더 높은 영어 전사 정확도, speculative decoding 기반 빠른 추론, 일본어를 포함한 다국어 지원을 제공한다고 밝혔다.
2분 소요 39 조회
LLM
Microsoft, 초소형 추론 모델로 on-device AI 성능 확대 제시
Microsoft Research는 tiny language models(TLM) 기반의 새로운 추론 확장 접근을 공개했다. 발표는 2-bit ternary weight, 최대 8배 속도 향상, 4배 메모리 절감 등 edge 환경 중심의 성능 개선 수치를 강조했다.
2분 소요 28 조회
AI 해커뉴스
Moonshine 오픈 웨이트 STT, HN에서 주목: Whisper Large v3 비교 지표 공개
Show HN를 통해 Moonshine Voice가 빠르게 확산됐다. 프로젝트는 실시간 음성 제품을 겨냥해 정확도와 지연시간을 함께 개선했다고 주장한다.
2분 소요 44 조회
AI 해커뉴스
zclaw: 888KB 미만으로 ESP32에서 동작하는 개인 AI 어시스턴트
ESP32 마이크로컨트롤러에서 단 888KB로 실행되는 Claw 기반 개인 AI 어시스턴트 'zclaw'가 공개됐습니다. Hacker News에서 161포인트를 받으며 임베디드 AI 가능성을 보여줬습니다.
1분 소요 34 조회