Qwen 2.5 → 3 → 3.5 세대별 최소 모델 비교: 압도적 성능 향상

Qwen 모델의 세대별 진화

Alibaba의 Qwen 시리즈가 세대를 거듭하며 놀라운 성능 향상을 이루고 있습니다. r/LocalLLaMA 커뮤니티에서는 Qwen 2.5, Qwen 3, Qwen 3.5 각 세대의 최소 모델들을 비교한 갤러리가 681점을 획득하며 큰 주목을 받았습니다.

세대별 밀도 개선

Qwen 3 시리즈는 Qwen 2.5 대비 약 50%의 모델 밀도 개선을 달성했습니다. 예를 들어 Qwen3-1.7B 모델이 Qwen2.5-3B와 동등한 성능을 보이고, Qwen3-4B는 Qwen2.5-7B와 동등합니다. 더 작은 모델로 더 큰 모델의 성능을 낸다는 의미입니다.

Qwen 3.5 소형 모델의 혁신

Qwen 3.5 소형 모델 시리즈(0.8B, 2B, 4B, 9B)는 모두 262K 컨텍스트를 지원하며 멀티모달을 기본으로 탑재했습니다. 주목할 만한 성능 수치는 다음과 같습니다:

• 9B 모델이 GPQA Diamond에서 80B 모델(77.2점)보다 높은 81.7점 기록
• 9B 모델이 GPT-5-Nano보다 MMMU-Pro에서 13점 이상, 문서 이해에서 30점 이상 앞섬
• 2B 모델이 OCRBench 84.5점, VideoMME 75.6점으로 많은 7B급 모델 능가
• 4B 모델이 8GB VRAM으로 텍스트·이미지·비디오 처리 가능

오픈 소스 AI의 빠른 발전

이번 비교는 오픈 소스 LLM 생태계가 얼마나 빠르게 발전하고 있는지를 생생하게 보여줍니다. 불과 몇 년 전만 해도 수십억 매개변수 이상의 독점 모델만이 달성할 수 있었던 성능이 이제는 소비자 하드웨어에서도 구동 가능한 소형 모델에서 구현되고 있습니다.