Hacker News가 끌어올린 AMD ROCm 전략: CUDA moat를 넘기 위한 'one step after another'

2026년 4월 13일 KST 기준 Hacker News thread는 EE Times의 Anush Elangovan 인터뷰를 다시 끌어올렸다. 제출은 집계 시점에 236 points와 177 comments를 기록했고, 이는 data center GPU 경쟁에서 여전히 핵심 쟁점이 silicon 자체보다 software stack이라는 점을 보여준다. AMD가 Nvidia의 CUDA moat에 맞서고 싶다면, 결국 ROCm이 개발자에게 “그냥 된다”는 경험을 줘야 한다는 뜻이다.

인터뷰에서 Elangovan은 이 싸움을 한 번의 대승이 아니라 꾸준한 등반으로 설명한다. 그는 CUDA의 설치 기반과 ecosystem을 넘는 일은 “산을 오르는 것과 같다”고 말한다. Nod.ai 인수 이후 AMD에 합류한 팀은 Shark, Torch.MLIR, IREE 같은 compiler와 infra 작업 경험을 ROCm 정비에 투입했고, 예전처럼 firmware 조각을 억지로 묶던 구조에서 벗어나 더 일관된 platform으로 바꾸는 데 집중했다고 설명했다. 이 맥락에서 ROCm은 hardware enablement 묶음이 아니라 실제 AI software product로 다뤄지고 있다.

AMD가 내세우는 핵심 단어는 portability와 boring reliability다. Elangovan에 따르면 개발자는 예전처럼 CUDA kernel을 일일이 HIP으로 옮기기보다 Triton, vLLM, SGLang 같은 상위 계층에서 움직이고 있다. AMD는 Triton을 practical한 equalizer로 보고 여기에 계속 투자하고 있으며, OneROCm으로 CPU, GPU, FPGA 경로를 더 일관되게 묶으려 한다.

• OneROCm은 서로 다른 AMD hardware에서 acceleration path를 더 비슷하게 만들려는 시도다.
• Triton은 vendor lock-in을 줄이는 portability layer로 다뤄진다.
• 실제 adoption 판단 기준은 vLLM과 SGLang이 얼마나 쉽게 배포되고 tokens/sec가 잘 나오는가다.
• 목표는 ROCm version을 의식하지 않아도 되는 Chrome 같은 경험과 6주 release cadence다.

또 하나 중요한 포인트는 open ecosystem이다. AMD는 ROCm을 100% open-source stack으로 설명하고, HPC 쪽을 위한 HIPify도 유지한다. 동시에 Triton과 MLIR에 투자해 vendor-specific code로 내려가지 않아도 되는 길을 넓히고 있다. LLM infrastructure 관점에서 보면, CUDA moat를 약화시키는 방법은 단일한 compatibility breakthrough가 아니라 packaging, kernel coverage, framework integration, release cadence, developer trust를 차근차근 쌓는 일이라는 메시지가 분명하다.