카테고리
Insights의 LLM 기사
LocalLLaMA에서 주목받은 Bankai는 true 1-bit LLM의 binary weights에 sparse XOR patch를 적용해 post-training behavior를 바꾸는 실험적 방법이다. GitHub repo와 paper에 따르면 Bonsai 8B에서 약 1 KB 크기의 patch로 held-out 문제 17개 중 4개를 고치고, 이미 맞히던 13개는 깨지지 않았으며, 적용과 제거는 microseconds 수준의 XOR 연산으로 끝난다.
Andrej Karpathy가 2026년 4월 4일 공개한 LLM Wiki는 query 시점마다 raw 문서를 다시 뒤지는 RAG 대신, agent가 지속적으로 갱신하는 interlinked wiki를 중간 계층으로 두자는 제안이다. Hacker News에서는 raw sources, wiki, schema의 3층 구조와 ingest·query·lint workflow를 personal research와 team knowledge base 모두에 적용 가능한 패턴으로 받아들였다.
Sebastian Raschka가 2026년 4월 4일 공개한 글은 coding agent의 성능 차이가 단순히 base model보다 harness 설계에서 나온다고 주장한다. 그는 live repo context, prompt/cache reuse, structured tools, context reduction, session memory, bounded subagents를 여섯 가지 핵심 구성요소로 정리했고, Hacker News에서는 이를 Codex·Claude Code류 도구를 이해하는 실무적 기준으로 받아들였다.
Together Research는 DBPlanBench를 통해 LLM이 DataFusion의 물리 query plan을 직접 수정해 일부 TPC-H·TPC-DS 워크로드에서 최대 4.78배 속도 향상을 냈다고 밝혔다. 핵심은 전체 plan을 다시 생성하지 않고 기존 plan에 국소 패치를 적용하는 방식이다.
Cursor가 Composer 2를 어떻게 학습했는지 설명하는 기술 보고서를 공개했다. 회사는 continued pretraining과 대규모 reinforcement learning을 결합해 CursorBench 61.3, Terminal-Bench 61.7, SWE-bench Multilingual 73.7을 기록했다고 밝혔다.
Gemma 4 31B, Gemma 4 26B-A4B, Qwen 3.5 27B를 30문항으로 비교한 LocalLLaMA 실험은 단일 우승자를 내지 않았다. Qwen은 더 많은 matchups를 이겼지만, Gemma는 더 안정적인 평균점수를 기록했고 reliability와 verbosity trade-off가 핵심 변수로 떠올랐다.
LocalLLaMA에서는 Gemma 4 초기 문제의 일부가 model 자체보다 llama.cpp runtime bugs와 support lag에서 비롯됐을 수 있다는 지적이 나왔다. 여러 pull request와 user report가 early benchmark를 다시 해석해야 한다는 근거로 제시됐다.
GitHub 저장소 Caveman은 불필요한 설명어를 덜어내 약 75%의 출력 토큰 절감을 노린다고 주장한다. Hacker News에서는 이를 에이전트 비용과 지연시간을 줄이는 실전적 실험으로 보고 있다.
Cursor는 2026년 3월 26일 real-time RL을 통해 5시간마다 개선된 checkpoint를 배포할 수 있다고 밝혔다. Cursor의 3월 27일 technical report는 Composer 2가 Kimi K2.5 기반 continued pretraining과 realistic Cursor session에서의 대규모 RL을 결합하며, CursorBench 61.3, SWE-bench Multilingual 73.7, Terminal-Bench 61.7을 기록했다고 설명한다.
Reddit는 Google의 Gemma 4 edge 발표를 통해 on-device Agent Skills와 LiteRT-LM runtime을 주목했다. 1.5GB 미만 메모리, 128K context, Raspberry Pi 5와 Qualcomm NPU benchmark가 핵심 포인트다.
LocalLLaMA 스레드가 Gemma 4 31B의 예상 밖 FoodTruck Bench 성과를 끌어올렸다. 토론은 곧 장기 계획 능력과 benchmark 신뢰성 문제로 이어졌다.
Anthropic의 새 interpretability 연구는 Claude Sonnet 4.5 내부의 감정 관련 표현이 특히 스트레스 상황에서 행동을 바꾸는 인과적 역할을 한다고 주장한다.
