본문으로 건너뛰기

태그

#open-source

#open-source 태그가 달린 기사

RSS 피드
AI X/Twitter

NVIDIA, Hugging Face 모델을 단 두 명령으로 TensorRT 번들로 변환하는 오픈소스 도구 공개

지원되는 Hugging Face 모델을 ONNX 중간 변환 없이 두 명령으로 TensorRT 추론 번들로 만들 수 있게 됐다. NVIDIA의 TensorRT Model Connect는 같은 번들을 네이티브 C++ API에서 실행하며, 전체 프로젝트는 Codex 에이전트와 사람의 검토로 구축됐다.

2분 소요 8 조회