Qwen 모델, 뭘 골라야 하나 — Qwen3.8·3.6·3.5부터 Coder-Next까지, 모델별 강점과 필요한 GPU·맥 메모리 총정리 (0.8B~2.4T)

로컬 LLM이나 사내 LLM 서빙을 검토하면 거의 반드시 후보에 오르는 게 알리바바의 Qwen입니다. 문제는 모델이 너무 많다는 점입니다. 2026년에만 Qwen3.5(2월), Qwen3.6(4월), Qwen3.8(8월)이 연달아 나왔고, 같은 세대 안에서도 0.8B부터 2.4T까지 크기가 다르며, 이름 끝에 붙는 A3B·A17B·FP8·GPTQ-Int4 같은 꼬리표까지 붙습니다.

이 글은 Hugging Face에 공개된 Qwen 모델 카드를 기준으로(2026년 10월 27일 확인) 각 모델이 무엇이고, 어디에 강하며, 돌리려면 어떤 하드웨어가 필요한지를 한 번에 정리합니다.

1. 이름부터 읽는 법

• Qwen3.8-27B: 세대(3.8) + 전체 파라미터(27B). 꼬리표가 없으면 Dense 모델로, 모든 파라미터가 매 토큰 계산에 쓰입니다.
• Qwen3.6-35B-A3B: 전체 35B 중 토큰당 3B만 활성화(Activated)되는 MoE(Mixture of Experts) 모델입니다. 메모리는 35B만큼 필요하지만, 계산량은 3B 수준이라 속도가 빠릅니다.
• -FP8 / -GPTQ-Int4: 공식 양자화 버전입니다. FP8은 메모리를 절반으로, Int4는 약 1/4로 줄입니다.
• -Base: 사전학습만 된 모델입니다. 파인튜닝 출발점으로 쓰고, 대화용으로는 꼬리표 없는 post-trained 모델을 씁니다.

Qwen3.5 이후 범용 모델에는 공통점이 있습니다. Gated DeltaNet(선형 어텐션) 3층 + 일반 어텐션 1층을 반복하는 하이브리드 구조라서, 긴 컨텍스트에서도 KV 캐시가 일반 트랜스포머보다 훨씬 적게 듭니다. 기본 컨텍스트는 262K 토큰이고 약 1M까지 확장되며, 텍스트와 이미지를 같이 학습한 네이티브 비전 모델입니다. Thinking(추론) 모드는 요청마다 켜고 끌 수 있습니다.

2. Qwen3.8 — 최신 세대 (2026년 8월)

Qwen3.5 구조를 기반으로 코딩, 실무 작업, 리서치, 오래 걸리는 에이전트 작업을 크게 개선한 세대입니다. 모델 카드의 벤치마크도 Claude Code 같은 에이전트 하네스 위에서 SWE-bench Pro, Terminal Bench를 돌린 결과 위주로, "질문에 답하는 모델"보다 "일을 끝까지 해내는 모델"을 지향합니다. reasoning_effort로 추론 깊이를 조절하고, preserve_thinking으로 이전 턴의 추론 맥락을 이어갈 수 있습니다.

• Qwen3.8-27B (Dense, Apache 2.0): 이번 세대에서 로컬·사내 서빙의 주력입니다. 64층 Dense 모델에 이미지·영상 이해(시간 단위 영상까지)를 기본 지원합니다. Dense라서 양자화해도 품질이 안정적이고, 단일 GPU에 올리기 좋은 크기입니다. FP8 공식 버전도 있습니다.
• Qwen3.8-2.4T-A95B (MoE, 자체 라이선스): 전체 2.4조, 활성 950억 파라미터의 플래그십입니다. Qwen-Max급 모델이 오픈 웨이트로 나온 건 처음입니다. 전문가 512개 중 10+1개가 활성화되고, 92층 구조입니다. 오픈 웨이트는 텍스트 전용이며, 비전 입력과 1M 컨텍스트는 클라우드 API(Qwen3.8-Max)에서 제공됩니다. 라이선스가 Apache가 아닌 qwen3.8-max 라이선스라 상업 이용 전 조건 확인이 필요합니다.
• Qwen3.8-Flash-Next (실험적, qwen-community 라이선스): Qwen4에 들어갈 구조의 미리보기입니다. 일반 어텐션을 블록 단위로 골라 계산하는 Qwen Sparse Attention으로 바꿔 긴 컨텍스트 지연을 줄였고, 125B(활성 6B) MoE에 51B 규모의 n-gram 임베딩을 더했습니다. n-gram 임베딩은 계산이 거의 없어 CPU 메모리로 오프로드하기 좋은 파라미터라, GPU 메모리가 부족한 환경을 겨냥한 설계입니다.

3. Qwen3.6 — 안정성과 코딩 경험 (2026년 4월)

Qwen3.5에 대한 커뮤니티 피드백을 반영해 안정성과 실사용 코딩 경험에 집중한 버전입니다. 프론트엔드 작업과 저장소 단위 추론이 좋아졌고, 이전 대화의 추론을 유지하는 옵션이 처음 들어왔습니다.

• Qwen3.6-35B-A3B: 활성 3B라 같은 메모리에서 가장 빠른 체감 속도를 냅니다. 4bit로 20GB 안팎이라 24GB GPU나 32GB 맥에서도 돌아가서, 개인 개발 환경에서 가장 많이 내려받는 모델 중 하나입니다.
• Qwen3.6-27B: Qwen3.8-27B와 구조가 같은 Dense 모델입니다. 이미 3.6으로 파이프라인을 구축했다면 3.8-27B로 교체만으로 업그레이드할 수 있습니다.

4. Qwen3.5 — 가장 넓은 크기 선택지 (2026년 2월)

지금 쓰는 하이브리드 구조와 네이티브 멀티모달이 처음 도입된 세대입니다. 201개 언어를 지원하고, 크기 선택지가 가장 넓습니다.

• 397B-A17B: 대형 MoE입니다. 클라우드의 Qwen3.5-Plus에 해당하며, 사내에 큰 GPU 서버가 있다면 Apache 2.0 라이선스의 최대 모델이라는 점이 장점입니다.
• 122B-A10B: 중형 MoE입니다. FP8로 H200 한 장, Int4로 128GB 맥이나 H100 한 장에 들어가 "한 대로 돌리는 큰 모델"로 쓰기 좋습니다.
• 35B-A3B / 27B: 3.6의 전 세대입니다. 새로 시작한다면 3.6이나 3.8을 쓰는 게 낫습니다.
• 9B · 4B · 2B · 0.8B: 소형 모델입니다. 9B는 8~16GB GPU에서 쓸 만한 범용 모델이고, 4B 이하는 노트북 CPU, 모바일, 엣지 기기, 또는 큰 모델 앞단의 분류·라우팅용으로 적합합니다. 소형인데도 비전 입력을 지원한다는 점이 특징입니다.

5. 목적별 특화 모델

• Qwen3-Coder-Next (80B-A3B): 코딩 에이전트 전용입니다. 활성 3B로 활성 파라미터가 10~20배 큰 모델과 비슷한 성능을 낸다고 밝히고 있고, Claude Code, Qwen Code, Cline 같은 CLI/IDE 도구와 함께 쓰는 걸 전제로 학습됐습니다. 사내 망분리 환경에서 코딩 에이전트를 붙이려 할 때 1순위 후보입니다.
• Qwen3-ASR (0.6B·1.7B) / Qwen3-TTS (0.6B·1.7B): 음성 인식과 음성 합성입니다. TTS는 목소리 복제(CustomVoice)와 목소리 설계(VoiceDesign) 버전이 따로 있습니다.
• Qwen3-VL-Embedding / Reranker (2B·8B): 텍스트와 이미지를 같이 검색하는 RAG용 임베딩·재정렬 모델입니다.
• Qwen-Image 2.1: 이미지 생성·편집 모델입니다(10월 Turbo 버전 추가).
• Qwen3Guard: 입력·출력의 유해성을 판별하는 가드레일 모델입니다. 스트리밍 중 실시간 판별 버전도 있습니다.
• Qwen-AgentWorld-35B-A3B: 에이전트가 행동하면 환경이 어떻게 바뀔지 예측하는 월드 모델입니다. 에이전트 학습용 시뮬레이터로 쓰는 연구용 모델입니다.

6. 필요한 하드웨어: 계산하는 법

가장 간단한 계산은 전체 파라미터 수 × 정밀도별 바이트입니다. BF16은 파라미터당 2바이트, FP8은 1바이트, 4bit는 약 0.55바이트입니다. 여기에 KV 캐시와 런타임 여유로 20~30%를 더합니다. 위 표는 이 계산으로 낸 추정치이고, 긴 컨텍스트와 동시 요청이 많으면 KV 캐시가 더 필요합니다.

• MoE는 메모리 = 전체, 속도 = 활성: 35B-A3B는 35B만큼 메모리를 차지하지만 3B 모델처럼 빠릅니다. 메모리는 넉넉하지만 대역폭이 상대적으로 낮은 맥(통합 메모리)이나 DGX Spark와 궁합이 좋습니다.
• Dense는 GPU 대역폭이 곧 속도: 27B Dense는 매 토큰 27B를 모두 읽어야 해서, 같은 메모리라면 RTX 5090이나 H100처럼 메모리 대역폭이 높은 GPU에서 훨씬 빠릅니다.
• 하이브리드 구조의 이점: 4층 중 1층만 일반 어텐션이라 KV 캐시가 일반 모델의 약 1/4 수준입니다. 그래서 262K 같은 긴 컨텍스트도 생각보다 적은 메모리로 돌아갑니다.

목적별로 추천하면 이렇습니다.

1. 노트북·엣지: Qwen3.5-4B / 2B (4bit 1~3GB)
2. 개인 GPU 1장(16~24GB): Qwen3.5-9B, 또는 4bit Qwen3.6-35B-A3B
3. RTX 5090 32GB / 맥 32~64GB: Qwen3.8-27B 4bit~FP8, Qwen3.6-35B-A3B. 일반 업무·에이전트용으로 현재 가장 균형이 좋은 구간입니다.
4. 사내 코딩 에이전트(H100 1장 / 맥 64GB+ / DGX Spark): Qwen3-Coder-Next
5. H200 1장 / 맥 128GB: Qwen3.5-122B-A10B
6. 8-GPU 서버: Qwen3.5-397B-A17B(FP8), Qwen3.8-Flash-Next
7. 멀티 노드 클러스터: Qwen3.8-2.4T-A95B. 대부분의 조직에서는 직접 서빙보다 API가 현실적입니다.

맥과 GPU 중 무엇을 살지는 RTX 5090 vs 맥 4종 비교와 로컬 LLM용 메모리 용량 가이드를 같이 보시면 좋습니다.

7. 서빙할 때 체크할 것

• 엔진: 공식 권장은 vLLM, SGLang, TokenSpeed이고, 맥에서는 MLX나 llama.cpp(GGUF)를 씁니다. 하이브리드 구조와 Qwen Sparse Attention은 최신 버전에서만 지원되니 엔진 버전부터 확인하세요.
• 컨텍스트를 너무 줄이지 말 것: 모델 카드에서는 Thinking 품질을 위해 최소 128K 컨텍스트를 유지하라고 권장합니다. 메모리가 부족하면 컨텍스트보다 양자화 단계를 먼저 조정하는 게 낫습니다.
• 권장 샘플링: Thinking 모드 기준 temperature 1.0, top_p 0.95, top_k 20이 기본값입니다.
• 라이선스: 3.5·3.6·3.8-27B·Coder-Next는 Apache 2.0이지만, 2.4T(qwen3.8-max)와 Flash-Next(qwen-community-1.0)는 별도 라이선스입니다.
• Kubernetes에 올린다면: GPU 할당, startupProbe, /dev/shm, KV 캐시 설정은 vLLM on Kubernetes 7가지 함정 글에 정리해 두었습니다.

정리

Qwen은 이제 "가장 큰 모델"보다 크기와 구조를 고를 수 있는 폭이 강점인 패밀리입니다. 새로 시작한다면 개인·소규모 서빙은 Qwen3.8-27B(품질)나 Qwen3.6-35B-A3B(속도), 코딩 에이전트는 Qwen3-Coder-Next, 서버 한 대로 큰 모델이 필요하면 Qwen3.5-122B-A10B부터 검토하는 게 좋습니다. 그리고 Flash-Next는 지금 쓰기보다, 다음 세대 Qwen4가 어떤 방향(희소 어텐션, n-gram 임베딩 오프로드)으로 갈지 보여주는 신호로 볼 만합니다.

※ 모델 구성·라이선스·컨텍스트 길이는 2026-10-27 기준 Hugging Face Qwen 공식 모델 카드를 따랐습니다. 하드웨어 메모리는 파라미터 수 기반 추정치로, 실제 필요량은 엔진, 양자화 방식, 컨텍스트 길이, 동시 요청 수에 따라 달라집니다.