본문으로 건너뛰기

태그

#llm

#llm 태그가 달린 기사

RSS 피드
LLM 레딧

LocalLLaMA가 추적한 NVIDIA Nemotron license 변경, derivative model에는 무엇이 달라졌나

3월 15일 LocalLLaMA에서 높은 반응을 얻은 Nemotron license thread는 model release에서 weights만큼 중요한 것이 license wording임을 다시 보여 줬다. 공식 NVIDIA Nemotron Model License와 이전 Open Model License를 비교하면, community가 주목한 포인트는 예전 guardrail termination clause와 Trustworthy AI 참조가 사라지고, 대신 NOTICE 중심의 attribution 구조가 더 전면으로 나온 점이었다.

2분 소요 46 조회
LLM 레딧

LocalLLaMA가 끌어올린 GreenBoost, NVIDIA GPU memory를 RAM과 NVMe로 확장하는 Linux driver

LocalLLaMA에서 확산된 GreenBoost는 limited vRAM 문제를 우회하려는 experimental Linux kernel module이다. 2026년 3월 14일 Phoronix 보도에 따르면 이 GPLv2 프로젝트는 kernel module과 CUDA shim을 결합해, 큰 allocation을 on-card vRAM 밖의 pinned system RAM과 NVMe tier로 넘기면서도 CUDA application 수정 없이 더 큰 LLM workload를 돌리는 것을 목표로 한다.

2분 소요 48 조회
LLM 레딧

Reddit, Manus engineer의 Unix-style agent 글을 계기로 function calling을 다시 보다

전 Manus backend lead의 r/LocalLLaMA 글은 agent에게 typed function catalog보다 단일 run(command="...") interface가 더 잘 맞는 경우가 많다고 주장했다. 이 글은 Unix text stream과 token-based model interface를 연결한 뒤, pipe, progressive help, stderr visibility, overflow handling 같은 설계 패턴으로 그 주장을 뒷받침했다.

2분 소요 36 조회
LLM 해커뉴스

Hacker News가 Claude Code용 context-aware permission guard를 검토하다

Show HN로 올라온 nah는 blanket allow-or-deny 대신 tool call의 실제 효과를 분류하는 PreToolUse hook를 제안했다. README는 path check, content inspection, optional LLM escalation을 강조했고, HN discussion은 sandboxing, command chain, policy engine이 정말 agentic tool을 통제할 수 있는지에 집중했다.

2분 소요 33 조회
LLM 해커뉴스

HN 스포트라이트: Sarvam, IndiaAI 기반의 풀스택 전략으로 30B·105B 공개

Hacker News에서 주목받은 Sarvam AI의 발표는 IndiaAI mission 기반으로 인도에서 학습한 reasoning 중심 MoE 모델 Sarvam 30B와 105B를 오픈소스로 공개했다는 점에 있다. 공개 범위가 단순한 weights를 넘어 제품 배치, inference 최적화, Indian-language benchmark 성과까지 포함한다는 점이 핵심이다.

2분 소요 44 조회