#model-routing

Fireworks는 약 1,030개 agentic task에서 Kimi K3와 Fable 5를 라우팅했을 때 93% accuracy를 얻었다고 설명했다. HN의 관심은 특정 모델 승패보다, single model 선택이 점점 비효율적이라는 주장에 모였다.

기업 AI 도입의 병목이 모델 부족에서 운영 복잡도로 이동하고 있다. NVIDIA는 내부 Enterprise Inference Hub가 100개 넘는 모델 엔드포인트와 매주 수조 토큰 규모의 사용을 처리한다고 밝혔다.

모델 선택이 정적 리더보드에서 실행 중 라우팅 문제로 바뀌고 있다. OpenRouter는 Benchmarks API로 Artificial Analysis와 Design Arena 등 실시간 점수를 에이전트가 조회할 수 있게 했고, GLM-5.2가 코딩과 디자인 모두에서 최상위라고 적었다.