본문으로 건너뛰기

태그

#vram

#vram 태그가 달린 기사

RSS 피드
LLM 레딧

r/LocalLLaMA가 밀어올린 Gemma 4 로컬 fine-tuning, 8GB VRAM 가이드와 bug fix 묶음

r/LocalLLaMA에서 빠르게 퍼진 Unsloth Gemma 4 가이드는 Gemma-4-E2B와 E4B를 8GB VRAM으로 로컬 fine-tuning할 수 있다고 주장한다. 게시물은 약 1.5배 빠른 학습, FA2 대비 약 60% 적은 VRAM, 그리고 초기 Gemma 4 training·inference bug fix를 함께 묶어 practical workflow로 제시한다.

1분 소요 47 조회
게이밍 레딧

NVIDIA Neural Texture Compression, VRAM 예산을 다시 설계하게 만들다

지금 r/Games에서 가장 강하게 반응이 나온 hardware 성격의 글은 frame generation이 아니라 memory 압박에 관한 이야기다. NVIDIA의 최신 Neural Texture Compression demo는 장면 하나의 VRAM 사용량을 약 6.5GB에서 970MB로 낮췄다고 전해졌고, NVIDIA의 개발자 문서는 이를 richer texture를 더 현실적인 메모리 예산 안에 넣기 위한 실용 기술로 설명한다.

2분 소요 36 조회
LLM 레딧

LocalLLaMA가 끌어올린 GreenBoost, NVIDIA GPU memory를 RAM과 NVMe로 확장하는 Linux driver

LocalLLaMA에서 확산된 GreenBoost는 limited vRAM 문제를 우회하려는 experimental Linux kernel module이다. 2026년 3월 14일 Phoronix 보도에 따르면 이 GPLv2 프로젝트는 kernel module과 CUDA shim을 결합해, 큰 allocation을 on-card vRAM 밖의 pinned system RAM과 NVMe tier로 넘기면서도 CUDA application 수정 없이 더 큰 LLM workload를 돌리는 것을 목표로 한다.

2분 소요 48 조회