본문으로 건너뛰기

태그

#intel-arc

#intel-arc 태그가 달린 기사

RSS 피드
LLM 레딧

Intel Arc Pro B70 32GB로 Qwen3.5-27B를 돌린 커뮤니티 실측

r/LocalLLaMA에 올라온 벤치마크는 Intel Arc Pro B70 32GB와 Intel vLLM fork 조합으로 Qwen3.5-27B int4를 어느 정도 실용적으로 서빙할 수 있음을 보여준다. 다만 tensor parallel보다 pipeline parallel이 더 유리했고, setup 안정화에도 적지 않은 시행착오가 필요했다.

1분 소요 50 조회