카테고리
Insights의 LLM 기사
LocalLLaMA의 한 post는 Liquid AI의 LFM2-24B-A2B가 M4 Max browser에서 약 50 tokens per second로 동작한다고 주장하며 79 points와 11 comments를 모았다. Community의 관심은 sparse MoE architecture, ONNX packaging, 그리고 WebGPU가 local AI deployment target을 어디까지 넓힐 수 있는지에 집중됐다.
Claude's Code dashboard는 since_launch 기준 20.8 million observed commits, 1.08 million active repositories, 최근 7일 신규 repos 114,785개를 제시하며 Claude Code의 공개 GitHub footprint를 수치화했다. Hacker News는 이 독립 추적기를 274 points와 164 comments까지 끌어올리며 AI coding adoption을 어떤 metric으로 읽어야 하는지 토론했다.
GitHub는 2026-03-25, Copilot Free·Pro·Pro+의 interaction data를 2026-04-24부터 opt-out 방식으로 model training에 활용하겠다고 밝혔다. Hacker News는 이 소식을 303 points와 143 comments까지 끌어올리며 privacy, default settings, 그리고 개인 요금제와 business 요금제의 차이를 집중적으로 논의했다.
Amazon과 OpenAI는 2026년 2월 27일 Amazon Bedrock 기반 Stateful Runtime Environment, AWS를 통한 Frontier 유통, 장기 Trainium capacity를 포함한 multi-year strategic partnership를 발표했다. Amazon은 OpenAI에 $50 billion을 투자하겠다고도 밝혔다.
Anthropic는 2026년 2월 25일 Vercept를 인수해 Claude의 computer use capability를 강화한다고 밝혔다. 회사는 이번 거래를 Sonnet 4.6의 OSWorld 72.5% 성과와 live application 안에서 행동하는 agent 전략의 연장선으로 설명했다.
Anthropic는 2026년 3월 12일 Claude Partner Network를 출범시키고 초기 자금 $100 million을 투입한다고 밝혔다. 이 프로그램은 service partner가 Claude enterprise 구축을 PoC에서 production 단계로 옮기도록 지원하는 데 초점이 있다.
r/LocalLLaMA의 llama.cpp 비교 글은 55 upvotes와 81 comments를 기록했다. RTX 5090, DGX Spark, AMD AI395, single과 dual R9700를 같은 parameter로 비교해 local inference hardware의 현실적인 trade-off를 보여줬다.
r/LocalLLaMA에서 Intel Arc Pro B70/B65 출시 소식은 213 upvotes와 133 comments를 기록했다. Intel은 B70을 2026년 3월 25일부터 $949에 판매하고, B65는 mid-April에 출시한다고 밝혔다.
Google Research는 2026년 3월 24일 TurboQuant를 공개하며 KV cache와 vector search의 memory bottleneck을 정면으로 다뤘다. HN에서는 491 points와 129 comments를 기록하며 long-context inference 비용을 바꿀 수 있는 접근으로 주목받았다.
AWS와 Cerebras는 2026년 3월 13일 Amazon Bedrock에서 활용할 초고속 inference 협업을 발표했다. AWS Trainium이 prefill을, Cerebras CS-3가 decode를 담당하는 분리형 구조가 핵심이다.
NVIDIA는 2026년 3월 25일 Nemotron Nano 12B v2 VL이 온프레미스 video understanding을 지원하며, 자사 설명 기준으로 MediaPerf benchmark에서 30B급 대안에 가까운 성능을 더 작은 footprint로 낸다고 밝혔다. NVIDIA 모델 카드는 이를 multi-image reasoning, video understanding, visual Q&A, summarization을 위한 상용 가능 멀티모달 모델로 소개한다.
r/LocalLLaMA는 GigaChat 3.1에 강하게 반응했다. 이번 공개는 local-friendly 10B A1.8B MoE와 702B frontier-scale MoE를 모두 아우르며, 둘 다 MIT terms 아래 공개됐고 둘 다 scratch부터 학습했다고 제시됐다.