LLM 레딧
RTX 3090 하나로 SimpleQA 95.7%: Qwen3.6-27B + 에이전틱 검색의 위력
로컬 LLM 연구자가 단일 RTX 3090에서 Qwen3.6-27B와 에이전틱 검색을 결합해 SimpleQA 벤치마크 95.7%를 달성했다.
1분 소요 38 조회
태그
#local-llm
#local-llm 태그가 달린 기사
LLM 레딧
Qwen 3.6 vs Gemma 4, Pac-Man 한 판에서 갈린 local LLM 평가축
LocalLLaMA 댓글은 토큰 속도보다 끝까지 굴러가는 결과물에 더 민감했다. 같은 MacBook Pro M5 Max에서 Qwen 3.6 27B는 더 길고 빠르게 썼지만, Gemma 4 31B는 훨씬 적은 토큰으로 게임 로직과 상호작용을 먼저 정리했다.
2분 소요 40 조회
LLM 레딧
3090 한 장에서 218K 문맥, LocalLLaMA가 속도보다 안정성에 반응한 이유
LocalLLaMA가 본 포인트는 최고 속도가 아니었다. RTX 3090 한 장으로 218K 문맥을 밀어 올리고 긴 tool output에서도 덜 무너지는 구성이 더 중요했다.
2분 소요 38 조회
LLM 레딧
Qwen3.6 27B를 16GB GPU 두 장으로 204k까지, LocalLLaMA가 붙은 이유
LocalLLaMA가 이 글에 반응한 이유는 홍보 문구가 아니라 숫자였다. RTX 5060 Ti 16GB 두 장으로 Qwen3.6 27B를 약 60 tok/s, 204k 컨텍스트까지 밀어본 실측값이 나왔다.
2분 소요 45 조회
LLM 레딧
Gemma 4 tool calling이 흔들린 이유, LocalLLaMA가 잡아낸 작은 Jinja 버그
LocalLLaMA가 이 글을 반긴 이유는 'Gemma 4가 왠지 약하다'로 끝나지 않았기 때문이다. nullable JSON Schema가 빈 type 필드로 납작해지는 구체적 실패 지점을 잡아냈고, 작은 Jinja 수정으로 tool calling이 다시 살아났다.
2분 소요 41 조회
LLM 레딧
Qwen3.6 토큰 낭비 확 줄인 GBNF 트릭, LocalLLaMA가 들썩인 이유
LocalLLaMA가 바로 반응한 이유는 체감 포인트가 분명해서다. 작은 GBNF 제약만으로 Qwen3.6의 reasoning drag를 줄이고, 긴 작업의 토큰 낭비와 시간을 같이 깎았다는 주장이 나왔다.
2분 소요 43 조회
LLM 레딧
LocalLLaMA 675댓글… 로컬 코딩 LLM 회의론 커진 이유
LocalLLaMA에서 675댓글이 붙은 이유는 단순한 “로컬 모델 별로” 한마디가 아니었다. 과장된 기대를 걷어내자는 공감과, 그래도 하니스와 설정을 분리해서 봐야 한다는 반론이 한 스레드 안에서 정면충돌했다.
2분 소요 41 조회
LLM 레딧
AMD용 추론 엔진 Hipfire, LocalLLaMA가 반긴 이유
LocalLLaMA가 Hipfire에 몰린 이유는 새 repo 하나가 아니라 RDNA 사용자들이 오래 기다린 “우리 쪽 최적화”에 가까웠기 때문이다. 댓글도 곧바로 실제 카드에서 나온 속도 수치와 호환성 질문으로 채워졌다.
2분 소요 44 조회
LLM 레딧
MacBook Air M5에서 local coding LLM 21개 비교, LocalLLaMA가 원한 건 vibe 아닌 숫자
r/LocalLLaMA의 MacBook Air M5 benchmark 글은 Qwen 3.6 35B-A3B의 89.6% HumanEval+ 결과뿐 아니라, RAM과 tok/s를 함께 본 실사용 관점을 제공했다.
1분 소요 42 조회
LLM 레딧
LocalLLaMA의 Gemma 4 번역 사례, "직접 돌려야 내 것"이라는 반응
r/LocalLLaMA에서 올라온 번역 실험담은 benchmark가 아니라 체감 사례지만, local model이 drift와 censorship risk를 피하는 실용적 선택지로 보인다는 커뮤니티 감각을 잘 보여 준다.
2분 소요 40 조회
LLM 레딧
Qwen3.6-27B에 LocalLLaMA 들썩… 27B dense와 262K context
LocalLLaMA는 Qwen3.6-27B를 model card가 아니라 바로 quantize하고 돌려볼 수 있는 ownership 순간으로 받아들였다.
1분 소요 42 조회
LLM 레딧
Rust·llama.cpp manga translator, LocalLLaMA가 본 local OCR pipeline의 손맛
LocalLLaMA가 반응한 포인트는 “번역 앱”이 아니라 detection, visual OCR, inpainting, local LLM을 한 번에 묶은 실제 workflow였다.
1분 소요 52 조회