LLM 해커뉴스
Show HN: 1-Bit Bonsai가 던진 질문, 초저메모리 LLM은 edge에서 어디까지 갈 수 있나
Hacker News에 올라온 Prism ML의 1-Bit Bonsai는 1.15GB 8B model부터 iPhone급 1.7B model까지, 1-bit weight로 edge inference economics를 다시 쓰겠다는 시도다. 핵심은 parameter count보다 intelligence density와 hardware fit을 전면에 내세운 점이다.
1분 소요 52 조회