카테고리
Insights의 LLM 기사
Google DeepMind가 Gemini 3 research를 바탕으로 한 open model family Gemma 4를 공개했다. E2B·E4B는 edge device, 26B·31B는 consumer GPU 기반 local workflow를 겨냥하며 function calling, multimodal reasoning, 140개 언어 지원을 전면에 내세웠다.
felixrieseberg는 2026년 3월 17일 X에서 Claude Cowork의 research preview 기능인 Dispatch를 소개하며, desktop에서 계속 실행되는 하나의 persistent Claude conversation을 phone에서도 이어갈 수 있다고 설명했다. 이어 Anthropic은 3월 23일 Claude Cowork와 Claude Code에 computer use를 추가해 Dispatch가 local files, connectors, plugins, 그리고 desktop apps까지 활용하는 cross-device workflow가 된다고 밝혔다.
stitchbygoogle는 2026년 3월 18일 X에서 Stitch를 “vibe design partner”로 재정의하며 AI-Native Canvas, Smarter Design Agent, Voice, Instant Prototypes, Design Systems and DESIGN.md를 공개했다. 같은 날 Google Labs는 Stitch가 natural language에서 high-fidelity UI와 prototype까지 이어지는 AI-native software design canvas로 진화했고, MCP server와 SDK를 통해 design-to-code 흐름도 확장한다고 설명했다.
r/LocalLLaMA의 반응은 PrismML Bonsai 발표가 단순한 compression headline 이상으로 받아들여지고 있음을 보여 준다. 회사가 내세운 end-to-end 1-bit 설계와, 실제 사용자가 체감한 사용성 개선이 함께 이야기되고 있다.
r/LocalLLaMA는 llama.cpp PR #21038 병합 소식을 빠르게 끌어올리며, Hadamard 기반 회전으로 Q, K, V를 처리하는 방식이 TurboQuant 계열 이득을 더 낮은 마찰로 가져올 수 있다고 보고 있다. 포인트는 새 quantization format 없이 기존 스택에 붙는다는 점이다.
Hacker News는 KV cache를 추상적 architecture 용어가 아니라 GPU memory 비용 문제로 설명한 Future Shock 글을 다시 끌어올렸다. 이 설명은 GPT-2에서 Llama 3, DeepSeek V3, Gemma 3, Mamba 계열까지 memory 설계가 어떻게 달라졌는지 한 흐름으로 보여 준다.
Hacker News는 FreeBSD RPCSEC_GSS 경로의 stack buffer overflow인 CVE-2026-4747과, Claude가 실험 환경에서 원격 exploit chain을 작성했다는 주장에 주목하고 있다. 이 토론의 핵심은 취약점 자체만이 아니라 AI-assisted exploit development의 현실성이다.
GitHub는 2026년 3월 31일 X 게시물에서 programmable execution이 AI application의 interface가 되고 있다고 강조하며 3월 10일 Copilot SDK 블로그 글을 다시 연결했다. GitHub는 SDK가 production-tested planning·execution engine을 노출하고, MCP 기반 context grounding과 제품 내부 agent workflow 내장을 지원한다고 설명했다.
r/MachineLearning의 한 실험 글이 dot-product attention을 Euclidean distance 기반 RBF attention으로 바꾸며 생기는 구현 문제와 작은 성능 신호를 정리해 화제가 됐다.
공개 소스를 시각화한 비공식 explorer가 Claude Code의 agent loop, 도구 체계, 숨은 기능을 한눈에 보여주며 Hacker News에서 큰 반응을 얻었다.
Together Research는 2026년 3월 31일 live inference trace를 학습해 speculative draft model을 serving 중단 없이 비동기적으로 갱신하는 open-source framework Aurora를 공개했다. 회사의 블로그와 논문은 Aurora가 문제를 asynchronous RL로 재정의하며, traffic shift 상황에서 강한 static speculator 대비 1.25x 추가 속도 향상을 낼 수 있다고 설명한다.
LocalLLaMA에서 화제가 된 LFM2.5-350M은 작은 범용 모델이 아니라 tool use와 structured output에 맞춘 350M edge model이라는 점에서 주목받았다. Liquid AI는 10T에서 28T token으로 pretraining을 늘리고 large-scale RL을 더했다고 설명한다.