#nvidia

소형 오픈 모델도 짧은 RL 루프로 특정 과제 성능을 크게 끌어올릴 수 있다는 신호다. NVIDIA는 Nemotron 3 Nano가 5달러 미만 실험에서 22%에서 91%로 올랐다고 전했다.

대형 모델 서빙의 병목이 가중치 이동으로 좁혀졌다. NVIDIA는 ModelExpress로 DeepSeek-V4 Pro 시작 시간을 8분에서 1분 44초 수준으로 줄였다고 밝혔다.

AI 인프라 경쟁은 모델 크기만큼 학습 처리량 숫자로 움직인다. NVIDIA는 Blackwell Ultra가 DeepSeek-V3 671B 사전학습에서 GPU당 1,648 TFLOPs를 기록해 이전 세대 대비 약 3배 성능을 냈다고 밝혔다.

Bristol Myers Squibb가 8대 DGX Vera Rubin NVL72 기반 두 번째 DGX SuperPOD를 도입해 전 세계 연구자가 쓰는 단일 AI 환경을 만든다. 기존 AI cluster에서 target identification 시간을 몇 주 줄인 뒤, drug discovery 전 과정으로 compute를 확대하는 결정이다.

로봇과 영상 검증을 클라우드 밖으로 밀어내는 숫자가 나왔다. NVIDIA는 SIGGRAPH에서 4B Cosmos 3 Edge, Synthetic Video Detector NIM, DGX Station용 Nemotron 3 Ultra 스택을 한꺼번에 공개하며 physical AI의 배포 지점을 edge와 로컬 워크스테이션으로 좁혔다.

NVIDIA의 Nemotron 3 Embed가 LMEB에서 8B 모델 1위, 1B 모델 2위를 기록하며 에이전트 기억 검색 경쟁을 넓혔다. Hugging Face 글에 따르면 8B는 LMEB 64.4, 1B BF16은 61.5를 기록해 장기 대화 검색 성능을 전면에 세웠다.

RAG와 에이전트의 품질 병목이 검색 모델로 이동하고 있다. NVIDIA는 Nemotron 3 Embed 8B가 RTEB 전체 1위에 올랐고 32k context와 1B 변형을 함께 제공한다고 밝혔다.

영상 분석 파이프라인 구축이 코드 중심 작업에서 자연어 지시와 coding agent 조합으로 이동하고 있다. NVIDIA DeepStream 9.1은 13개 agentic skills와 JetPack 7.2 지원을 포함한다.

865 FP4 TFLOPS를 절반 크기·전력대에 넣은 Jetson T3000이 로봇 엣지 AI의 비용선을 낮춘다. Cosmos 3 Edge와 agent skills까지 묶이며 휴머노이드와 산업용 로봇의 온디바이스 추론 경쟁이 더 가까워졌다.

NVIDIA가 Cosmos 3 Nano를 교통 안전 영상 QA에 맞춰 후처리해 정확도를 54.41%에서 93.35%까지 끌어올린 결과를 공개했다. agent가 LoRA와 AutoML을 실행한 점이 핵심이다.

NVIDIA가 LLM 구조를 GPU tile 크기에 맞추는 설계 원칙을 제시했다. 128 배수 정렬, 256·512 선호, NVFP4와 expert parallelism이 처리량과 지연시간을 함께 좌우한다는 내용이다.

NVIDIA가 agentic AI용 CPU Vera의 성능 근거를 공개했다. Olympus 코어는 Grace보다 IPC가 50% 높고, agentic 실행 부하에서 x86 대비 지속 per-core 성능 1.8배를 제시했다.