NVIDIA, Dynamo 1.0를 AI factories용 inference OS로 production 단계에 투입

NVIDIA가 발표한 내용

2026년 3월 16일, NVIDIA는 X를 통해 Dynamo 1.0이 AI factories를 위한 범용 inference operating system으로 production 단계에 들어간다고 밝혔다. 공식 뉴스룸 발표는 Dynamo 1.0을 generative 및 agentic inference at scale를 위한 open source software로 설명하며, 대규모 cluster에서 GPU와 memory resource를 조정하는 production-grade 기반으로 위치시킨다.

핵심 메시지는 inference가 더 이상 모델만의 문제가 아니라 distributed systems 문제라는 점이다. agentic workload가 실제 운영에 들어가면 request 크기, modality, latency 목표, memory 수요가 크게 흔들린다. NVIDIA는 Dynamo가 AI factory의 operating system처럼 동작하면서 작업을 적절히 분산하고 상태 이동을 효율화해, 대규모 inference에서 낭비되는 compute를 줄인다고 주장한다.

공식 자료가 덧붙인 사실

NVIDIA 공식 발표는 네 가지 구체적 포인트를 제시한다. 첫째, Dynamo 1.0은 production-grade이며 무료 open source software다. 둘째, TensorRT-LLM과 함께 LangChain, llm-d, LMCache, SGLang, vLLM 같은 open framework에 통합된다. 셋째, NVIDIA는 Dynamo가 Blackwell inference 성능을 최대 7배 높일 수 있다고 말한다. 넷째, AWS, Microsoft Azure, Google Cloud, OCI를 포함한 주요 cloud provider 전반에서 이미 지원된다고 밝힌다.

도입 기업 목록도 눈에 띈다. NVIDIA는 Alibaba Cloud, CoreWeave, Together AI, Nebius 같은 cloud partner가 지원하고, Cursor와 Perplexity 같은 AI-native company, Baseten·Deep Infra·Fireworks 같은 endpoint provider, ByteDance·Meituan·PayPal·Pinterest 같은 enterprise가 채택했다고 설명한다. 출시 발표 특유의 과장이 일부 있더라도, 실험실용 발표를 넘어 ecosystem momentum을 강조하려는 의도는 분명하다.

왜 중요한가

AI 업계에서 inference economics는 점점 더 전략적 병목이 되고 있다. training이 중요하지 않다는 뜻은 아니지만, 실제 서비스에서 모델과 agent를 계속 돌리는 비용이 제품의 상업적 성패를 좌우하는 경우가 많다. NVIDIA는 더 빠른 chip 자체보다, 같은 fleet에서 더 많은 유효 작업을 뽑아내는 software와 orchestration 계층으로 대화의 중심을 옮기려 한다.

Dynamo의 채택 주장이 실제 운영에서도 유지된다면, NVIDIA는 hardware를 넘어 inference software 자체를 대규모 agent system의 기본 coordination layer로 굳힐 수 있다. 이는 cloud provider, application company, model builder 모두에게 중요하다. AI 가치사슬의 더 큰 부분이 deploy 이후 runtime stack으로 이동하기 때문이다.

출처: NVIDIA Newsroom X 게시물 · NVIDIA Newsroom: Dynamo 1.0 · NVIDIA Dynamo 페이지