LLM 레딧
LocalLLaMA, Mi50에서 ROCm 7과 Vulkan을 비교한 llama.cpp 벤치마크 공유
r/LocalLLaMA의 Mi50 벤치마크 글은 llama.cpp에서 ROCm 7 nightly와 Vulkan을 비교하며, 짧은 문맥에서는 Vulkan이 강하지만 긴 문맥과 MoE에서는 ROCm이 앞선다는 관찰을 제시했다.
2분 소요 37 조회
태그
#amd-gpu 태그가 달린 기사
r/LocalLLaMA의 Mi50 벤치마크 글은 llama.cpp에서 ROCm 7 nightly와 Vulkan을 비교하며, 짧은 문맥에서는 Vulkan이 강하지만 긴 문맥과 MoE에서는 ROCm이 앞선다는 관찰을 제시했다.
Hacker News에서 주목받은 BarraCUDA는 CUDA `.cu` 코드를 LLVM 의존성 없이 AMD GFX11 `.hsaco`로 직접 변환하는 오픈소스 C99 컴파일러로 소개됐다.