LLM 레딧
80-160B 로컬 모델 공백, unified memory 사용자가 원하는 중간지대
LocalLLaMA의 관심은 더 큰 모델 자체가 아니라 96-128GB unified memory에서 쓸 만한 “느리지만 큰” 실사용 모델 구간에 모였다.
1분 소요 31 조회
태그
#unified-memory
#unified-memory 태그가 달린 기사
LLM 레딧
NVIDIA DGX Spark 16대 클러스터 구축기 — 통합 메모리로 대형 LLM 서빙
LocalLLaMA 유저가 NVIDIA DGX Spark 16대를 200Gbps 패브릭으로 연결한 클러스터 구축을 완료했다. 통합 메모리 극대화를 목표로 DeepSeek, Kimi 등 대형 모델 서빙을 테스트 중이다.
1분 소요 45 조회