AWS·NVIDIA, 1 million GPU와 Bedrock integration으로 AI stack 확대

AWS는 2026년 3월 16일 NVIDIA와의 strategic collaboration을 AI system을 pilot에서 production으로 옮기기 위한 stack 전반으로 확대한다고 발표했다. 이번 발표는 단순히 GPU 공급을 늘리는 수준이 아니다. accelerator supply, interconnect software, inference service, data movement, analytics performance를 하나의 infrastructure roadmap으로 묶는다는 점이 핵심이다.

먼저 scale이 커진다

가장 눈에 띄는 수치는 AWS가 2026년부터 여러 AWS Region에 걸쳐 고객에게 1 million개가 넘는 GPU를 제공하겠다는 계획이다. AWS는 또 NVIDIA RTX PRO 4500 Blackwell Server Edition GPU를 제공하는 첫 major cloud provider가 될 것이라고 밝혔고, NVIDIA Blackwell system이 enterprise training과 inference capacity 확대에 중요한 역할을 한다고 설명했다.

협력 범위는 software와 data plumbing까지 이어진다. AWS는 NVIDIA NIXL library를 Elastic Fabric Adapter와 통합해 compute cluster 간 data 이동 효율을 높이겠다고 밝혔다. 또 Amazon EKS에서 NVIDIA G7e instance를 사용할 때 Apache Spark workload가 최대 3배 빨라질 수 있다고 설명했다. 많은 enterprise가 model training 전후 단계에서 여전히 Spark pipeline에 의존한다는 점에서 의미가 있다.

AI platform에는 무엇이 들어오나

AWS는 Amazon Bedrock이 NVIDIA Nemotron model에 접근하게 된다고 밝혔다.

NVIDIA NIM microservice와 NeMo tool은 Trainium3 기반 infrastructure로 확장된다.

AWS는 이번 협력을 pilot system에서 reliable production deployment까지의 경로를 줄이는 수단으로 설명했다.

GPU, interconnect, model service, analytics acceleration을 하나의 roadmap으로 결합하는 것이 목표다.

고객 입장에서 실질적인 가치는 integration이다. 대형 AI 프로젝트가 scale 단계에서 흔히 실패하는 이유는 compute, model hosting, data transfer, analytics tuning이 서로 분리된 procurement와 engineering 문제로 취급되기 때문이다. AWS와 NVIDIA는 이를 하나의 관리된 경로로 제시하려 하고 있으며, 이는 각 구성 요소를 직접 꿰맞추고 싶지 않은 enterprise 고객에게 매력적일 수 있다.

더 넓게 보면 의미는 경쟁 구도에 있다. hyperscaler의 차별화 포인트가 이제 누가 GPU를 더 많이 확보했느냐에만 있지 않기 때문이다. chip, networking, model runtime, managed service, developer tooling이 얼마나 매끄럽게 맞물리는지가 핵심이 되고 있다. AWS가 발표한 capacity와 software 개선을 일정대로 제공한다면, 이번 협력은 AI 실험을 반복 가능한 enterprise infrastructure로 바꾸는 경쟁에서 AWS의 위치를 강화할 가능성이 크다.