DeepSeek이 DeepSeek-V4-Pro와 V4-Flash 두 가지 모델을 공개했다. Pro는 1.6조 파라미터(활성 49B)의 Mixture-of-Experts 구조로, 현재까지 공개된 오픈웨이트 모델 중 최대 규모다. 가격은 GPT-5.4와 Gemini 3.1 Pro 대비 절반 이하로, 비용 효율성이 핵심 차별점이다.

2026년 5월 2일 1분 소요 40

#deepseek #llm #open-weights

LLM 레딧

RTX 3090에서 llama.cpp 대비 10배 빠른 프리필 오픈소스 PFlash 등장

Luce-Org의 PFlash가 128K 컨텍스트에서 vanilla llama.cpp 대비 10배 프리필 속도를 달성했다. C++/CUDA만으로 구현한 추측적 프리필 기법으로, RTX 3090에서 실측 결과를 공개했다.

2026년 5월 2일 1분 소요 41

#llama.cpp #inference #prefill

LLM 레딧

NVIDIA DGX Spark 16대 클러스터 구축기 — 통합 메모리로 대형 LLM 서빙

LocalLLaMA 유저가 NVIDIA DGX Spark 16대를 200Gbps 패브릭으로 연결한 클러스터 구축을 완료했다. 통합 메모리 극대화를 목표로 DeepSeek, Kimi 등 대형 모델 서빙을 테스트 중이다.

2026년 5월 2일 1분 소요 45

#nvidia #dgx-spark #inference

LLM

OpenAI Symphony, 코딩 에이전트를 위한 오케스트레이션 오픈소스 공개

OpenAI가 코딩 에이전트를 자율 운용하는 오케스트레이션 레이어 Symphony를 오픈소스로 공개했다. Linear 이슈보드를 제어 플레인으로 삼아 각 태스크마다 에이전트를 자동 실행하고 PR 생성까지 처리한다.

2026년 5월 2일 1분 소요 37

#openai #open-source #coding-agents

LLM 레딧

Qwen 3.6 vs Gemma 4, Pac-Man 한 판에서 갈린 local LLM 평가축

LocalLLaMA 댓글은 토큰 속도보다 끝까지 굴러가는 결과물에 더 민감했다. 같은 MacBook Pro M5 Max에서 Qwen 3.6 27B는 더 길고 빠르게 썼지만, Gemma 4 31B는 훨씬 적은 토큰으로 게임 로직과 상호작용을 먼저 정리했다.

2026년 5월 1일 2분 소요 40

#qwen #gemma #local-llm

LLM X/Twitter

ERNIE 5.1 Preview, 글로벌 13위… 사전학습 비용은 비교 모델의 6%까지 압축

중요한 이유는 리더보드 순위가 더 싼 학습비와 함께 나왔다는 점이다. Baidu는 ERNIE 5.1 Preview가 LMArena Text에서 글로벌 13위, 중국 랩 1위를 기록했고, 비슷한 모델 대비 사전학습 비용은 약 6% 수준이라고 적었다.

2026년 5월 1일 1분 소요 40

#baidu #ernie #benchmarks

LLM X/Twitter

Anthropic IA 연구, LoRA 하나로 백도어·숨은 misalignment 신호까지 끌어올려

중요한 이유는 미세조정 뒤 숨어버린 행동을 잡는 일이 아직도 대부분 추론에 의존하기 때문이다. Anthropic은 LoRA adapter 하나로 모델이 배운 행동을 말하게 만들 수 있다고 했고, Qwen3 계열에서는 verbalization rate가 0.6B 37.7%에서 14B 77.3%까지 올라갔다.

2026년 5월 1일 2분 소요 46

#anthropic #alignment #auditing

LLM 레딧

3090 한 장에서 218K 문맥, LocalLLaMA가 속도보다 안정성에 반응한 이유

LocalLLaMA가 본 포인트는 최고 속도가 아니었다. RTX 3090 한 장으로 218K 문맥을 밀어 올리고 긴 tool output에서도 덜 무너지는 구성이 더 중요했다.

2026년 5월 1일 2분 소요 38

#qwen #rtx-3090 #vllm