LLM Hacker News May 16, 2026 1 min read Orthrus-Qwen3: 동일 출력 품질 유지하며 추론 속도 7.8배 향상 Orthrus 프레임워크가 Qwen3 모델에서 forward pass당 최대 7.8배 토큰 생성 속도를 달성했다. 단일 KV 캐시로 자동회귀와 확산 뷰를 통합하는 이중 뷰 아키텍처 덕분에 출력 분포는 원본과 동일하다. #inference#qwen3#speculative-decoding 22