Qwen 2.5 → 3 → 3.5 세대별 최소 모델 비교: 압도적 성능 향상

Qwen 모델의 세대별 진화

Alibaba의 Qwen 시리즈가 세대를 거듭하며 놀라운 성능 향상을 이루고 있습니다. r/LocalLLaMA 커뮤니티에서는 Qwen 2.5, Qwen 3, Qwen 3.5 각 세대의 최소 모델들을 비교한 갤러리가 681점을 획득하며 큰 주목을 받았습니다.

세대별 밀도 개선

Qwen 3 시리즈는 Qwen 2.5 대비 약 50%의 모델 밀도 개선을 달성했습니다. 예를 들어 Qwen3-1.7B 모델이 Qwen2.5-3B와 동등한 성능을 보이고, Qwen3-4B는 Qwen2.5-7B와 동등합니다. 더 작은 모델로 더 큰 모델의 성능을 낸다는 의미입니다.

Qwen 3.5 소형 모델의 혁신

Qwen 3.5 소형 모델 시리즈(0.8B, 2B, 4B, 9B)는 모두 262K 컨텍스트를 지원하며 멀티모달을 기본으로 탑재했습니다. 주목할 만한 성능 수치는 다음과 같습니다:

9B 모델이 GPQA Diamond에서 80B 모델(77.2점)보다 높은 81.7점 기록

9B 모델이 GPT-5-Nano보다 MMMU-Pro에서 13점 이상, 문서 이해에서 30점 이상 앞섬

2B 모델이 OCRBench 84.5점, VideoMME 75.6점으로 많은 7B급 모델 능가

4B 모델이 8GB VRAM으로 텍스트·이미지·비디오 처리 가능

오픈 소스 AI의 빠른 발전

이번 비교는 오픈 소스 LLM 생태계가 얼마나 빠르게 발전하고 있는지를 생생하게 보여줍니다. 불과 몇 년 전만 해도 수십억 매개변수 이상의 독점 모델만이 달성할 수 있었던 성능이 이제는 소비자 하드웨어에서도 구동 가능한 소형 모델에서 구현되고 있습니다.