카테고리

LLM

Insights의 LLM 기사

LLM 해커뉴스

NVMe-to-GPU로 RTX 3090 단일 GPU에서 Llama 3.1 70B 실행

CPU RAM을 우회하고 NVMe 저장장치에서 GPU로 직접 가중치를 스트리밍하는 방식으로, RTX 3090 단일 소비자용 GPU에서 700억 파라미터 Llama 3.1 모델을 실행하는 오픈소스 프로젝트가 공개됐습니다.

2026년 2월 22일 1분 소요 40

#llama #gpu #open-source

LLM 해커뉴스

Karpathy: "Claws"는 LLM 에이전트 위의 새로운 레이어

Andrej Karpathy가 새로운 AI 에이전트 패러다임 "Claws"를 소개했습니다. OpenClaw와 같은 시스템이 LLM 에이전트 위에서 오케스트레이션, 스케줄링, 컨텍스트, 도구 호출, 지속성을 제공하는 새로운 AI 스택 레이어입니다.

2026년 2월 22일 1분 소요 44

#llm-agents #karpathy #openclaw

LLM

Anthropic, Claude Code ARR 25억 달러 돌파 — 엔터프라이즈 매출 절반 차지

Bloomberg 보도에 따르면 Anthropic의 AI 코딩 에이전트 Claude Code의 연간반복매출(ARR)이 25억 달러를 돌파했다. 출시 6개월 만에 10억 달러를 달성한 후 계속 성장해 현재 Anthropic 전체 엔터프라이즈 지출의 50% 이상을 차지하며, 사용자들은 평균 주당 20시간씩 사용하고 있다.

2026년 2월 22일 1분 소요 37

#anthropic #claude-code #funding

LLM

xAI, 배포 후에도 매주 스스로 개선하는 'Grok 4.20 베타' 공개

Elon Musk의 xAI가 2월 17일 Grok 4.20 공개 베타를 출시했다. 배포 이후에도 매주 사용자 피드백을 반영해 능력을 업데이트하는 지속학습 아키텍처를 탑재한 시리즈 최초 모델로, 4개 전문 에이전트 협업 시스템과 의료 문서 분석 기능이 추가됐다.

2026년 2월 22일 1분 소요 35

#xai #grok #product-launch

LLM X/Twitter

GitHub Copilot, Anthropic Claude Sonnet 4.6 도입 — 에이전틱 코딩 대폭 강화

GitHub가 Anthropic의 Claude Sonnet 4.6을 Copilot에 공식 도입했다. 에이전틱 코딩과 검색 작업에서 뛰어난 성능을 보이며 VS Code와 Copilot CLI에서 바로 사용할 수 있다.

2026년 2월 22일 1분 소요 41

#anthropic #claude #sonnet-4.6

LLM X/Twitter

Google DeepMind, 전반적 지능을 대폭 향상시킨 Gemini 3.1 Pro 출시

Google DeepMind가 Gemini 3.1 Pro를 공개했다. 더 어려운 문제를 해결할 수 있도록 모델 전반의 지능을 대폭 향상시켰으며, Google AI Pro 및 Ultra 사용자를 시작으로 Gemini 앱과 NotebookLM, API를 통해 순차 제공된다.

2026년 2월 22일 1분 소요 34

#google-deepmind #gemini #gemini-3.1

LLM 레딧

ggml.ai 팀, Hugging Face 합류 발표... llama.cpp 오픈소스 유지·확장 강조

r/LocalLLaMA 고반응 글이 ggml.ai 팀의 Hugging Face 합류 소식을 확산시켰다. GitHub 공지는 ggml/llama.cpp의 full-time 유지보수 지속과 Local AI 생태계 확장을 핵심 메시지로 제시했다.

2026년 2월 22일 2분 소요 49

#ggml #llama-cpp #hugging-face

LLM 레딧

Reddit 기술 이슈: llama.cpp PR #19765 병합, Qwen3-Coder-Next 파서 경로 통합 및 Tool Calling 보완

r/LocalLLaMA 인기 기술 글은 2026년 2월 20일 병합된 llama.cpp PR #19765를 공유했다. 해당 변경은 Qwen3-Coder-Next 파싱 문제 대응용 stop-gap으로, parallel tool calling과 JSON schema 지원 보완을 포함한다.

2026년 2월 21일 1분 소요 37

#llama-cpp #qwen3-coder-next #parser

LLM 레딧

Reddit 화제: arXiv 2602.15322가 제시한 Magma, LLM 사전학습 옵티마이저 업데이트 마스킹 접근

r/singularity 고반응 게시물은 arXiv 2602.15322를 공유했다. 논문은 masked adaptive update와 Magma 기법이 1B 모델 설정에서 Adam·Muon 대비 perplexity를 개선하면서 오버헤드는 작다고 보고한다.

2026년 2월 21일 2분 소요 49

#llm-training #optimizers #rmsprop

LLM 해커뉴스

HN 주목: CDLM이 제시한 블록 단위 KV 캐시와 스텝 축소로 확산형 LLM 추론 가속

Hacker News 고득점 스레드는 Together AI의 CDLM 글을 공유했다. 해당 글은 확산형 언어모델에서 trajectory-consistent step reduction과 exact block-wise KV caching을 결합해 최대 14.5배 지연시간 개선을 보고한다.

2026년 2월 21일 2분 소요 38

#diffusion-language-models #llm-inference #kv-cache

LLM 해커뉴스

HN 주목: ggml.ai 팀의 Hugging Face 합류와 함께 llama.cpp 오픈 거버넌스 유지 선언

Hacker News 고득점 스레드는 ggml-org/llama.cpp 공지 #19759를 조명했다. ggml.ai 핵심 팀은 Hugging Face에 합류하지만, ggml/llama.cpp는 기존처럼 오픈소스·커뮤니티 중심으로 운영된다고 명시했다.

2026년 2월 21일 2분 소요 47

#llama-cpp #ggml #hugging-face

LLM 레딧

LocalLLaMA 화제: Kitten TTS v0.8, 초경량 온디바이스 TTS 공개

LocalLLaMA 인기 스레드에서 Kitten TTS v0.8이 주목받았다. 80M/40M/14M 오픈 모델과 CPU 구동, 25MB 미만 경량 모델이 핵심 포인트로 제시됐다.

2026년 2월 20일 1분 소요 35

#tts #localllama #edge-ai