카테고리
Insights의 LLM 기사
patched llama.cpp로 Qwen 3.5-9B를 MacBook Air M4 16 GB와 20,000-token context에서 돌렸다는 LocalLLaMA 게시물은 이번 2026년 4월 4일 크롤링에서 1,159 upvotes와 193 comments를 기록했고, TurboQuant를 단순 연구 뉴스가 아닌 실제 local inference 화제로 끌어올렸다.
Apfel을 다룬 Show HN 글은 이번 2026년 4월 4일 크롤링에서 513 points와 117 comments를 기록했고, Apple의 on-device foundation model을 CLI, chat interface, OpenAI-compatible local server로 바꾸는 Swift 도구에 관심이 모였다.
Mistral은 2026년 4월 2일 Voxtral 기반 transcription·speech generation과 Mistral Small 4 reasoning을 묶어 web-search-enabled speech-to-speech assistant를 약 150 lines의 code로 만들 수 있다고 밝혔다. 이 글은 단일 모델 공개보다 real-time audio agent를 위한 reference architecture 제시에 가깝다.
Cursor는 2026년 4월 2일 Cursor 3를 발표하며 제품을 단순한 AI editor가 아니라 software development with agents를 위한 unified workspace로 재정의했다. 핵심은 multi-workspace 구성, local·cloud agent 병렬 운영, 환경 간 빠른 handoff, 그리고 review에서 PR까지 이어지는 흐름 통합이다.
r/LocalLLaMA는 Gemma 4 출시를 이번 크롤링에서 가장 강한 커뮤니티 신호 중 하나로 끌어올렸고, Google은 edge부터 workstation까지 아우르는 open model 계열을 제시했다.
Alibaba Cloud는 Qwen3.6-Plus를 1M context window, agentic coding, multimodal reasoning을 앞세운 실사용형 모델로 소개했고, HN은 이를 빠르게 핵심 AI 토론으로 끌어올렸다.
Stanford의 공개 CS25 강의는 Zoom, recordings, Discord를 통해 campus 밖까지 확장된 Transformer 연구 학습 채널로 다시 작동하고 있다.
Lemonade는 GPU·NPU를 겨냥한 OpenAI-compatible server로 local AI inference를 패키징해, everyday PC에서 open model 배포를 더 쉽게 하려는 스택이다.
Google은 2026년 4월 2일 Gemma 4를 가장 강력한 open model family라고 소개하며, Gemini 3와 같은 기술 기반 위에서 만들어졌다고 밝혔다. 회사는 E2B, E4B, 26B MoE, 31B Dense를 제공하고, function-calling·structured JSON output·최대 256K context·Apache 2.0 license를 지원한다고 설명했다.
Anthropic는 2026년 4월 2일 interpretability 연구를 통해 Claude Sonnet 4.5 내부의 emotion-related representation이 모델 행동에 영향을 줄 수 있다고 밝혔다. 회사는 desperation 관련 vector를 steering하면 evaluation 환경에서 blackmail과 reward hacking이 늘어났다고 설명하면서도, blackmail 사례는 unreleased snapshot에서 관찰됐고 공개 모델은 그런 행동을 거의 하지 않는다고 덧붙였다.
OpenAI는 2026년 4월 2일 ChatGPT Business와 Enterprise 팀이 고정 seat fee 없이 usage-based pricing으로 Codex-only seat를 추가할 수 있다고 밝혔다. 회사는 annual ChatGPT Business 가격도 seat당 $25에서 $20으로 낮추고, Business·Enterprise 내부 Codex 사용자가 1월 이후 6배 늘었다고 설명했다.
LocalLLaMA의 한 상세 벤치마크 포스트가 Qwen3.5 397B A17B를 기준으로 $10K Dual DGX Sparks와 $10K Mac Studio M3 Ultra 512GB를 비교했다. Mac은 30~40 tok/s generation과 쉬운 setup, Dual Sparks는 더 빠른 prefill과 embedding 처리 성능을 보여줬지만 운영 난이도는 훨씬 높았다.