LLM 레딧
Cohere 미공개 coding model, LocalLLaMA가 먼저 만진 30B/3B MoE
LocalLLaMA의 관심은 “또 하나의 coding model”보다, Cohere 직원이 release 전 weights를 직접 커뮤니티에 맡긴 방식에 쏠렸다.
1분 소요 34 조회
카테고리
LLM
Insights의 LLM 기사
LLM 해커뉴스
Anthropic vuln harness, 제품보다 실험대에 가까운 이유
530점 넘게 오른 관심은 “Claude가 보안 버그를 찾는다”보다, 팀마다 직접 고쳐 쓸 수 있는 harness의 모양에 모였다.
1분 소요 36 조회
LLM
ChatGPT Lockdown Mode 전면 적용… prompt injection 방어가 기본 논점으로
OpenAI는 6월 4일 ChatGPT Lockdown Mode를 모든 로그인 사용자와 워크스페이스에 제공하고, API 생성 요청에는 입력·출력 moderation 점수를 함께 받을 수 있게 했다. AI agent가 외부 서비스에 닿는 시대에 데이터 유출 방어가 제품 기능으로 올라왔다.
1분 소요 37 조회
LLM X/Twitter
Nemotron 3 Ultra, 550B MoE로 에이전트 추론 5배 속도와 30% 비용 절감 제시
오픈 모델 경쟁이 단순 성능표에서 장시간 에이전트 비용으로 이동하고 있다. NVIDIA는 Nemotron 3 Ultra가 550B MoE 구조로 5배 빠른 추론과 최대 30% 낮은 복잡 작업 비용을 낸다고 밝혔다.
1분 소요 38 조회
LLM 해커뉴스
Gemma 4 12B, encoder 없는 multimodal 구조에 모인 관심
댓글의 관심은 “encoder-free”라는 표현이 실제 아키텍처에서 무엇을 뜻하는지에 모였다.
1분 소요 39 조회
LLM X/Twitter
Gemma 4 12B, 별도 인코더 없이 노트북용 멀티모달 추론으로 Apache 2.0 공개
로컬 멀티모달 모델 경쟁이 12B급으로 좁혀졌다. Google Gemma는 Gemma 4 12B를 Apache 2.0으로 공개하며 이미지·오디오 입력을 별도 인코더 없이 처리한다고 밝혔다.
1분 소요 38 조회
LLM
Copilot 앱, agent 작업을 데스크톱·클라우드·sandbox로 확장
GitHub Copilot 앱 기술 미리보기가 유료 Copilot 고객 전체로 넓어지고, 로컬·클라우드 sandbox가 공개 미리보기로 붙었다. agent가 코드를 고치고 명령을 실행하는 시대의 핵심 쟁점이 모델 성능에서 실행 격리와 검증 흐름으로 이동하고 있다.
2분 소요 38 조회
LLM X/Twitter
Opus 4.8, ARC-AGI-3에서 1.5%·약 $10K로 새 SOTA 기록
ARC Prize가 Opus 4.8을 ARC-AGI-3 새 SOTA로 기록하며 benchmark 경쟁의 기준을 다시 낮은 숫자로 보여줬다. 점수는 1.5%, 비용은 약 $10K로, 향상은 분명하지만 일반 지능과는 아직 거리가 있다.
1분 소요 40 조회
LLM 레딧
Qwen3.6-27B로 2주간 agent orchestration, 실행보다 계획에 강한 이유
LocalLLaMA의 관심은 “Claude 대체”보다 tool call 오류율 12%라는 구체적 한계에 모였다.
2분 소요 46 조회
LLM 해커뉴스
10년 된 Xeon으로 Gemma 4 구동, local AI의 병목을 다시 묻는 글
711점까지 오른 관심은 “GPU 없이 가능하다”보다 memory bandwidth와 inference 최적화의 현실에 쏠렸다.
2분 소요 43 조회
LLM 해커뉴스
Stanford CS336, language model을 밑바닥부터 다시 배우는 코스
530점 넘게 오른 관심은 “LLM을 쓰는 법”보다 “LLM이 어떻게 만들어지는지”를 다시 배우려는 수요에 모였다.
1분 소요 43 조회
LLM
로컬 LLM의 두 번째 벽, QVAC TurboQuant가 KV cache를 5배 압축
QVAC SDK 0.12.0이 TurboQuant를 넣어 로컬 LLM의 KV cache를 최대 5배 줄인다. 8GB RTX 5060에서도 4B 모델의 262K context를 목표로 한다는 점이 온디바이스 AI의 실용성을 바꾼다.
1분 소요 35 조회