LLM 레딧
Qwen3+ streaming parser, LocalLLaMA가 반긴 작은 vLLM 수정
Qwen3.6-27B를 vLLM에서 agent loop로 돌리던 사용자들이 멈춤과 streaming tool call 오류에 예민하게 반응했다. nightly parser 수정은 작지만, 로컬 에이전트 운용에서는 체감이 큰 문제를 겨냥한다.
1분 소요 36 조회
태그
#qwen
#qwen 태그가 달린 기사
LLM 해커뉴스
로컬 모델, 이제 코딩 에이전트의 보조 엔진으로 충분한가
HN의 관심은 “로컬 LLM이 프런티어 모델을 대체했나”보다 “어떤 작업부터 로컬로 내려올 수 있나”에 모였다. Gemma 4와 Qwen 계열을 둘러싼 체감 성능, 비용, 프라이버시 논의가 한꺼번에 붙었다.
2분 소요 39 조회
LLM 레딧
Qwen3.6-27B로 2주간 agent orchestration, 실행보다 계획에 강한 이유
LocalLLaMA의 관심은 “Claude 대체”보다 tool call 오류율 12%라는 구체적 한계에 모였다.
2분 소요 46 조회
LLM 레딧
Qwen3.6 35B, 업무 방식을 바꾸다 — 스킬 기반 프롬프팅 실전 활용기
LocalLLaMA에서 Qwen3.6 35B A3B 모델이 업무 워크플로우를 바꿨다는 경험담이 화제입니다. Codex로 작업을 수행하고 과정을 스킬 문서로 기록해 pi 에이전트에 공급하는 방식으로 VPS 관리, PDF 변환 등을 자동화했습니다.
1분 소요 40 조회
LLM 레딧
RTX 4070 12GB에서 35B 모델 110 tok/s — ik_llama.cpp 최적화 효과
LocalLLaMA에서 RTX 4070 Super 12GB로 Qwen3.6 35B A3B 모델을 110 토큰/초로 구동하는 데 성공한 벤치마크가 공유됐습니다. MTP 지원과 CPU 오프로딩 최적화에 특화된 ik_llama.cpp 포크 덕분입니다.
1분 소요 39 조회
LLM 해커뉴스
Qwen3.7-Max, 에이전트 최전선에서 GPT-5.4와 어깨 나란히
Alibaba Qwen 팀이 에이전트 중심 설계의 신모델 Qwen3.7-Max를 공개했다. Artificial Analysis 평가에서 GPT 5.4와 동급인 5위를 기록하며 오픈 웨이트 프론티어 모델의 새 기준을 제시했다.
1분 소요 40 조회
LLM 레딧
12GB VRAM으로 Qwen3.6 35B 모델 초당 80 토큰 달성
llama.cpp MTP 기능을 활용해 12GB VRAM GPU에서 Qwen3.6 35B A3B 모델을 초당 80토큰 이상, 128K 컨텍스트로 실행하는 설정이 공유됐다.
1분 소요 45 조회
LLM 레딧
Qwen 3.6 27B + MTP로 로컬 추론 속도 2.5배 향상, 48GB에서 262k 컨텍스트
llama.cpp의 새 MTP 지원 PR을 활용해 Qwen 3.6 27B의 추론 속도를 2.5배 높이는 방법이 공유됐다. 48GB 메모리에서 262,000 토큰 컨텍스트로 로컬 에이전틱 코딩이 가능해졌다.
1분 소요 48 조회
LLM 레딧
RTX 3090 하나로 SimpleQA 95.7%: Qwen3.6-27B + 에이전틱 검색의 위력
로컬 LLM 연구자가 단일 RTX 3090에서 Qwen3.6-27B와 에이전틱 검색을 결합해 SimpleQA 벤치마크 95.7%를 달성했다.
1분 소요 38 조회
LLM 레딧
Qwen 3.6 vs Gemma 4, Pac-Man 한 판에서 갈린 local LLM 평가축
LocalLLaMA 댓글은 토큰 속도보다 끝까지 굴러가는 결과물에 더 민감했다. 같은 MacBook Pro M5 Max에서 Qwen 3.6 27B는 더 길고 빠르게 썼지만, Gemma 4 31B는 훨씬 적은 토큰으로 게임 로직과 상호작용을 먼저 정리했다.
2분 소요 40 조회
LLM 레딧
3090 한 장에서 218K 문맥, LocalLLaMA가 속도보다 안정성에 반응한 이유
LocalLLaMA가 본 포인트는 최고 속도가 아니었다. RTX 3090 한 장으로 218K 문맥을 밀어 올리고 긴 tool output에서도 덜 무너지는 구성이 더 중요했다.
2분 소요 38 조회
LLM X/Twitter
Qwen FlashQLA 공개… 선형 attention 커널 전방 2~3배·역전파 2배 가속
중요한 점은 장문맥과 edge-side agent가 말만 그럴듯한지, 실제로 돌릴 만한지의 갈림길이 결국 커널 최적화에 있다는 데 있다. Qwen는 FlashQLA가 NVIDIA Hopper에서 FLA Triton 대비 전방 2~3배, 역전파 2배 속도를 냈다고 적었다.
1분 소요 41 조회