NVIDIA、通信事業者とAI gridを構築し分散inferenceの商用化を狙う

何が発表されたか

NVIDIAは2026年3月17日、通信事業者がAI gridの構築を進めていると発表した。AI gridとは、既存のnetwork footprintを活用したgeographically distributedでinterconnectedなAI infrastructureであり、AI inferenceをusers、devices、dataの近くで実行することを狙う。

NVIDIAは、telecomとdistributed cloud providerが世界で約100,000の分散network data centerを運営しており、長期的には100 gigawatts超の新しいAI capacityを提供できる余地があると主張した。つまり、通信網を単なるtraffic輸送路ではなく、AI serviceを直接走らせて収益化するcompute layerへ変えるという考え方だ。

参加する事業者

発表ではAT&T、Comcast、Spectrum、Akamai、Indosat Ooredoo Hutchison、T-Mobileが取り上げられた。Spectrumは1,000超のedge data centerと数百megawattsのcapacityを持ち、500 million devicesから10 milliseconds以内の場所にAI gridを置けると説明した。Akamaiは4,400超のedge locationでthousands of NVIDIA RTX PRO 6000 Blackwell Server Edition GPUを展開する方針を示し、IndosatはIndonesia国内でのsovereign AI基盤を打ち出した。

活用例も具体的だ。Personal AIはnetwork edgeでsmall language modelを動かし、end-to-end latencyをsub-500 milliseconds、cost-per-tokenを50%以上削減できたと述べた。Linker Visionはtraffic accident detectionを最大10x、disaster responseを15x高速化できるとし、Decartはsub-12-millisecond network latencyでinteractive video generationを支えるとしている。

なぜ重要か

この発表が示すのは、inferenceがhyperscale data centerだけの仕事ではなくなりつつあることだ。agent、robotics、video、smart cityのようにlatency、cost、data localityが重要なworkloadでは、network edgeが第一級のcompute環境になり得る。通信事業者には新たなAI revenueの道が開き、AI事業者には利用者に近い場所でserviceを動かす新しい配備地図が生まれる。