LLM Reddit 2h ago 1 min read
DeepSeek 등이 도입해 주목받은 Multi-Token Prediction(MTP) 기능이 llama.cpp 마스터 브랜치에 공식 병합됐다. 로컬 LLM 추론 속도 향상에 기여할 오픈소스 이정표다.
DeepSeek 등이 도입해 주목받은 Multi-Token Prediction(MTP) 기능이 llama.cpp 마스터 브랜치에 공식 병합됐다. 로컬 LLM 추론 속도 향상에 기여할 오픈소스 이정표다.