NVIDIA Blackwell 기반 오픈소스 추론, 토큰 비용 최대 10배 절감 사례 공개
NVIDIA는 2026년 2월 12일, Baseten·DeepInfra·Fireworks AI·Together AI가 Blackwell 기반 추론 스택으로 token cost를 크게 낮추고 있다고 밝혔다. 발표에는 Hopper 대비 최대 10배 절감, 개별 고객사별 지연시간·비용 개선 수치가 포함됐다.
태그
#nvidia 태그가 달린 기사
NVIDIA는 2026년 2월 12일, Baseten·DeepInfra·Fireworks AI·Together AI가 Blackwell 기반 추론 스택으로 token cost를 크게 낮추고 있다고 밝혔다. 발표에는 Hopper 대비 최대 10배 절감, 개별 고객사별 지연시간·비용 개선 수치가 포함됐다.
NVIDIA는 2026년 2월 17일 인도 대형 제조사와 글로벌 산업 소프트웨어 기업의 협력을 발표했다. Dassault, Siemens, Cadence, Ansys가 NVIDIA 가속 컴퓨팅·Omniverse와 결합해 설계·시뮬레이션·제조 최적화를 추진하며, 산업 소프트웨어가 2030년 인도 GDP에 1,340억 달러 이상 기여할 수 있다는 전망도 제시됐다.
NVIDIA는 2026년 2월 17일 인도 주요 SI가 NVIDIA AI를 기반으로 차세대 enterprise agents를 구축 중이라고 발표했다. Wipro·TCS·Infosys·Tech Mahindra·Accenture 사례와 함께, 인도 AI/GenAI 지출이 2028년 92억 달러를 넘길 것이라는 IDC 전망이 제시됐다.
NVIDIA는 2026년 2월 18일 인도 AI Impact Summit에서 IndiaAI Mission과 연계한 협력 현황을 공개했다. 핵심은 10억 달러 이상이 투입되는 국가 AI 계획에 맞춰 GPU 인프라, 주권형 모델 개발, 연구·스타트업 생태계를 동시에 확대하는 것이다.
NVIDIA는 2026년 2월 17일 Meta가 GB300 NVL72, RTX PRO 서버, Spectrum-X, Mission Control을 포함한 스택으로 AI 인프라를 확장한다고 발표했다. 대규모 Hopper 배치 경험 위에 Blackwell 기반 전환을 본격화하는 흐름이다.
NVIDIA는 2026년 2월 16일 Blackwell Ultra(GB300 NVL72) 기반 추론 지표를 공개하며, Hopper 대비 최대 50배 throughput-per-megawatt와 최대 35배 토큰 비용 절감을 제시했다. Microsoft, CoreWeave, OCI의 GB300 NVL72 배치 사례도 함께 공개했다.
NVIDIA와 CoreWeave는 2030년까지 5 gigawatts 이상 규모의 AI factories 구축 가속을 발표했다. NVIDIA는 CoreWeave Class A 주식에 주당 $87.20 기준 20억 달러를 투자했다고 밝혔다.
2026년 2월 13일 r/LocalLLaMA 게시글이 DMS(Dynamic Memory Sparsification)로 KV 캐시 메모리를 최대 8배 줄이면서 정확도를 유지할 수 있다는 내용을 공유했다. 커뮤니티는 추론 비용과 동시성 개선 가능성에 주목했지만, 1차 출처 검증 필요성도 함께 제기했다.
AI 동영상 생성 스타트업 Runway가 General Atlantic 주도의 $315M 투자를 유치하며 밸류에이션이 $5.3B로 상승했다. 월드 모델 GWM-1과 Gen-4.5로 로봇·영상 생성 시장을 공략한다.
Anthropic이 NVIDIA, Microsoft, Sequoia Capital 등이 참여하는 200억 달러 규모의 후기 단계 메가 펀딩 라운드를 추진 중. OpenAI의 1,000억 달러 펀딩과 경쟁하며 컴퓨팅 집약적 R&D 강화 목표.
NVIDIA가 대규모 컨텍스트 처리 전용 GPU Rubin CPX 발표. 소프트웨어 코딩과 생성형 비디오에서 100만 토큰 이상 처리 가능하며, 2026년 하반기 AWS, Google Cloud, Microsoft 등을 통해 제공 예정.
NVIDIA, Microsoft 등 전략적 파트너들이 주도하는 $200억 규모의 투자로 Anthropic이 차세대 AI 시스템 개발 경쟁을 가속화합니다.