NVIDIA Vera、agent loop向けCPUでx86比1.8倍のper-core性能

AI agentの速さはGPUだけでは決まらない。モデルが次の行動を選ぶと、CPUがツール呼び出し、コード実行、データ処理、KV-cache周辺の処理、結果確認を担い、それが次のモデル呼び出しへ戻る。NVIDIAがVera CPUをagentic AI時代の基盤として押し出す理由は、この中間処理がAI factoryの制約になっているからだ。

設計思想は明確である。agentic systemには、単に多いコア数ではなく、高負荷時にも速い単一コア性能が必要になる。agent loopは前の結果に次の行動が依存するため、ひとつのagentの内部では順次処理が続く。コア数を増やせば並列処理量は増えるが、一つの次ステップは短くならない。NVIDIAは、従来のデータセンターCPUが貸し出せるコア数とコスト効率を優先し、per-core性能とメモリアクセスで妥協してきたと見ている。

Veraの中心はNVIDIAのカスタムCPUコアであるOlympusだ。NVIDIAによれば、OlympusはGraceよりinstructions per cycleが50%高い。さらに最大1.2TB/sのLPDDR5Xメモリ帯域、40W未満のメモリ電力、3.4TB/sのcore-to-core帯域を持つモノリシックcompute dieにより、88コアがメモリ性能を使える構成になっている。agentic実行を想定した高負荷ワークロードでは、x86比1.8倍の持続per-core性能としている。

パートナーの実測例も示された。Perplexityは、リポジトリをcloneしてsandboxでtest suiteを走らせる実際のcoding workflowで、Veraがx86より約1.5倍速く完了し、同時sandbox起動は最大1.9倍速かったと報告した。Starburstは大規模SQL analyticsで3倍、Redpandaはreal-time streamingの遅延で最大6分の1を測定したという。agent製品が完了した仕事量で評価されるなら、CPU待ちはGPU収益の損失になる。VeraはCPUを裏方ではなく、agentの実行経路そのものとして位置づけ直している。