카테고리
Insights의 LLM 기사
r/LocalLLaMA의 새 글은 M5 Max와 MLX 0.31.1 환경에서 DFlash speculative decoding을 공개하고, Qwen3.5-9B에서 127.07 tok/s와 4.13x speedup을 보고했다. 중요한 점은 headline보다 재현 조건과 bandwidth bottleneck 해석이 구체적이라는 데 있다.
Google은 coding agents가 model training data cutoff 때문에 오래된 Gemini API 코드를 생성할 수 있다고 보고, 이를 해결하는 수단으로 Docs MCP와 Developer Skills를 함께 제시했다. 두 도구를 같이 쓰면 eval set에서 vanilla prompting 대비 96.3% pass rate와 63% fewer tokens per correct answer를 기록했다고 회사는 밝혔다.
Google은 Gemini API에 Flex와 Priority service tiers를 추가해 background 작업에는 저비용 synchronous inference를, critical traffic에는 더 높은 assurance를 선택할 수 있게 했다. 이 변화는 agent 개발자가 여러 API로 아키텍처를 쪼개지 않고도 비용과 신뢰도를 분리 설계할 수 있게 해준다.
Amazon Bedrock AgentCore Evaluations는 judge model 기반 scoring, ground-truth testing, CloudWatch observability, custom evaluators를 하나의 관리형 agent QA 체계로 묶는다. 이번 발표는 agent 품질을 prompt 조정 문제가 아니라 상시 운영되는 생산 관리 항목으로 다뤄야 한다는 방향을 분명히 한다.
AWS가 Security Agent와 DevOps Agent를 정식 출시하면서 re:Invent에서 제시했던 frontier agent 개념을 상용 운영 도구로 전환했다. 핵심은 장시간 자율 실행되는 agent가 이제 보안 점검과 incident 대응의 실제 제품 범주로 이동했다는 점이다.
54점 Reddit post는 merged PR #19441을 통해 qwen3-omni-moe와 qwen3-asr support가 llama.cpp에 들어왔다고 알렸고, 댓글은 local multimodal과 ASR 실사용 기대를 드러냈다.
GitHub은 Dependabot alert를 Copilot, Claude, Codex 같은 AI coding agent에 할당할 수 있게 했다. Agent는 advisory와 dependency 사용 현황을 분석하고 draft PR을 열며 test failure를 해결하려 시도할 수 있지만, GitHub은 최종 검토는 사람이 해야 한다고 강조했다.
Google은 2026년 4월 8일 Gemini에 notebooks를 도입해 chats와 source file을 NotebookLM과 동기화하는 공유 작업공간을 추가했다. 초기 배포는 web의 Google AI Ultra, Pro, Plus 구독자부터 시작되고, 이후 mobile, 추가 유럽 국가, free user로 확장될 예정이다.
GitHub의 2026년 4월 8일 Visual Studio Code changelog는 Copilot 릴리스 v1.111부터 v1.115까지를 묶어 소개하며 agent workflow 강화에 초점을 맞췄다. Autopilot public preview, integrated browser debugging, multimodal chat 입력, instructions·agents·skills·plugins를 다루는 unified editor가 핵심 변화다.
NVIDIA AI PC는 2026년 4월 2일 X에서 Gemma 4 모델군이 RTX GPU와 DGX Spark에 최적화됐고, 특히 26B와 31B가 local agentic AI에 적합하다고 밝혔다. NVIDIA 공식 blog는 이 협업이 RTX PC, workstation, DGX Spark, Jetson Orin Nano, data center 배포까지 아우르며, native tool use, multimodal input, Ollama와 llama.cpp 기반 local runtime 지원을 제공한다고 설명한다.
AI at Meta는 2026년 4월 8일 X에서 Muse Spark를 tool use, visual chain of thought, multi-agent orchestration을 지원하는 natively multimodal reasoning model로 소개했다. Meta 공식 발표는 이 모델이 이미 Meta AI app과 meta.ai를 구동하고 있으며, 앞으로 WhatsApp, Instagram, Facebook, Messenger, AI glasses로 확장되고, selected partners 대상 private-preview API도 제공된다고 설명한다.
Claude는 2026년 4월 8일 X에서 Managed Agents가 task, tool, guardrail 정의만으로 agent 인프라를 Anthropic 쪽에서 운영한다고 설명했다. Anthropic 공식 자료는 이를 cloud-hosted, versioned agent를 위한 composable API 모음으로 설명하며, outcomes, memory, multi-agent orchestration 일부는 limited research preview로 제공된다고 적고 있다.