LLM X/Twitter
NVIDIA·SGLang, DeepSeek R1 추론 성능 대폭 향상 주장
NVIDIA AI Developer는 SGLang 협업으로 GB300 NVL72에서 DeepSeek R1 추론 성능이 H200 대비 최대 25배 빨라졌다고 밝혔다. 또한 GB200 NVL72에서도 수개월 내 8배 개선을 달성했다고 설명했다.
1분 소요 36 조회
태그
#deepseek-r1
#deepseek-r1 태그가 달린 기사