NVIDIA、Dynamo 1.0をAI factory向けinference OSとして本番投入

NVIDIAは2026年3月16日、Dynamo 1.0を公開し、AI factory運用の主戦場がtrainingだけでなくinference economicsにも移っていることを鮮明にした。NVIDIAはDynamoを、generativeおよびagentic inference at scaleのためのproduction-grade open-source foundationと位置づけ、cluster全体のGPUとmemoryを制御するdistributedな運用レイヤーとして説明している。

この位置づけは重要だ。Large model時代の課題は精度だけでなく、serving時のlatency、memory、token costをどう制御するかに変わってきた。NVIDIAによれば、Dynamoは関連するshort-term memoryを持つGPUへ要求をルーティングし、GPUと低コストstorageの間でデータを動かしながら無駄な計算を減らす。長いpromptやagent workflowに最適化された制御面を提供しようとしているわけだ。

発表の要点

NVIDIAは、Dynamo 1.0によりNVIDIA Blackwell GPUのinference性能が最大7倍向上すると主張している。また、LangChain、llm-d、LMCache、SGLang、vLLMなど主要なopen-source frameworkとnative統合し、TensorRT-LLM最適化も広く取り込む方針を示した。

DynamoをAI factoryのdistributed operating systemとして位置づけ

Blackwell GPUで最大7倍のinference性能向上を主張

KVBM、NIXL、Groveをmodularなbuilding blockとして提供

Open sourceとしてdeveloperに即日提供

戦略面では、NVIDIAがhardware vendorにとどまらずinference software standardまで取りに行っていることが見える。もしBlackwellとDynamoの組み合わせがcloud providerやAI native企業に広く浸透すれば、競争軸はmodel sizeだけでなくserving efficiencyへさらに移る。2026年のAI市場では、その変化が収益性と運用コストを左右する重要な差分になりそうだ。