Mac mini M6 vs M5 Pro, 로컬 LLM용으로 뭘 사야 할까? 9월 22일 출시 전 구매 가이드
9월 22일, 새 Mac mini가 출시됩니다. 이번 세대는 M6와 M5 Pro 두 가지 칩으로 나오는데, 가격 차이가 $800이나 납니다. 일반 사무용이라면 M6로 충분하지만, 로컬 LLM을 돌릴 목적이라면 이야기가 달라집니다. 이 글에서는 아직 써보기 전인 출시 직전 시점에서, 공개된 사양만으로 "LLM용으로는 어떤 구성을 골라야 하는지"를 계산해 봅니다.
1. 스펙 비교: M6 vs M5 Pro Mac mini
| 항목 | Mac mini M6 | Mac mini M5 Pro |
|---|---|---|
| 시작 가격(미국) | $899 (16GB / 256GB) | $1,699 (24GB / 512GB) |
| CPU / GPU | 12코어 / 12코어 | 15~18코어 / 16~20코어 |
| 통합 메모리 | 16 / 24 / 32GB | 24 / 48 / 64GB |
| 메모리 대역폭 | 최대 170GB/s (16GB 구성은 더 낮음) | 307GB/s |
| Neural Engine | 듀얼 16코어 | 16코어 |
| GPU Neural Accelerator | 두 모델 모두 GPU 코어마다 탑재 | |
| 포트 | Thunderbolt 4 ×3 | Thunderbolt 5 ×3 |
| 공통 | HDMI, 2.5Gb 이더넷, Wi-Fi 7, 전면 USB-C 2개 | |
LLM 관점에서 봐야 할 줄은 딱 두 개입니다. 메모리 용량(최대 32GB vs 64GB)과 메모리 대역폭(170GB/s vs 307GB/s). 용량은 "어떤 모델까지 올라가는가"를, 대역폭은 "얼마나 빠르게 답하는가"를 결정합니다.
2. 어떤 모델까지 올라갈까
macOS는 통합 메모리를 전부 GPU에 주지 않습니다. 일반적으로 36GB 이하 구성은 약 2/3, 그 이상은 약 3/4이 GPU 기본 한도입니다. 이를 기준으로 Q4(4bit) 양자화 모델이 들어가는지 정리하면 다음과 같습니다.
| 구성 | GPU 가용(추정) | 8B (≈5GB) | 14B (≈9GB) | 32B (≈19GB) | 70B (≈40GB) |
|---|---|---|---|---|---|
| M6 16GB | ≈10GB | ○ | △ 빠듯 | ✕ | ✕ |
| M6 24GB | ≈16GB | ○ | ○ | ✕ | ✕ |
| M6 32GB | ≈21GB | ○ | ○ | △ 빠듯 | ✕ |
| M5 Pro 24GB | ≈16GB | ○ | ○ | ✕ | ✕ |
| M5 Pro 48GB | ≈36GB | ○ | ○ | ○ | ✕ |
| M5 Pro 64GB | ≈48GB | ○ | ○ | ○ | ○ (Q4) |
△는 가중치는 들어가지만 KV 캐시(컨텍스트) 여유가 거의 없어 짧은 컨텍스트로만 쓸 수 있다는 뜻입니다. sudo sysctl iogpu.wired_limit_mb로 한도를 올릴 수는 있지만, 32GB 기기에서 OS 몫을 너무 줄이면 스왑이 발생해 오히려 느려집니다.
3. 얼마나 빠를까 — 대역폭으로 계산한 이론 상한
토큰 생성 속도의 이론 상한은 메모리 대역폭 ÷ 모델 가중치 크기로 대략 추정할 수 있습니다. 실측은 이보다 낮게 나오지만, 두 기기 간 상대 비교에는 충분히 유용합니다.
| 모델 (Q4) | M6 (170GB/s) | M5 Pro (307GB/s) |
|---|---|---|
| 8B (≈5GB) | ≈34 tok/s | ≈61 tok/s |
| 14B (≈9GB) | ≈19 tok/s | ≈34 tok/s |
| 32B (≈19GB) | ≈9 tok/s | ≈16 tok/s |
| 70B (≈40GB) | 불가 | ≈8 tok/s |
같은 모델이라면 M5 Pro가 약 1.8배 빠릅니다. 사람이 읽는 속도가 대략 초당 5~10토큰이니, 14B급까지는 M6로도 "대화용"으로는 충분하지만, 코딩 에이전트처럼 긴 출력을 반복 생성하는 작업에서는 차이가 체감됩니다.
💡 MoE 모델은 예외입니다. 30B급이라도 활성 파라미터가 3B 수준인 MoE 모델은 토큰마다 읽는 양이 적어, M6 32GB에서도 꽤 빠르게 돌아갑니다. 단, 전체 가중치(Q4 기준 약 18GB)는 메모리에 올라가야 하므로 32GB 구성이 필요합니다.
4. 결론: 용도별 추천 구성
- Ollama 입문, 7~8B 모델로 챗봇·요약 테스트 → M6 24GB. 가장 저렴하게 로컬 LLM을 시작하는 구성입니다. 16GB는 LLM 용도로는 권하지 않습니다.
- 14B 모델 + 임베딩 모델로 개인 RAG, 30B급 MoE 모델 → M6 32GB. M6에서 LLM을 제대로 쓰려면 사실상 이 구성이 최소입니다.
- 32B 모델을 긴 컨텍스트로, 코딩 보조 상시 구동 → M5 Pro 48GB. 속도 1.8배 + 여유 메모리로 체감 차이가 가장 큰 구간입니다.
- 70B Q4까지 테스트, 소규모 팀 공용 LLM 박스 → M5 Pro 64GB. 그 이상이 필요하면 Mac Studio(M5 Max 128GB)로 넘어가는 것이 맞습니다.
한 줄 요약: "LLM이 주 목적이면 M6는 32GB, 그 이상 욕심이 있다면 처음부터 M5 Pro 48GB 이상". 통합 메모리는 나중에 업그레이드할 수 없으니, 돌리고 싶은 모델 크기에서 역산해서 고르는 것이 가장 후회 없는 선택입니다.
실제 기기를 받으면 Ollama / MLX로 직접 측정한 속도와 메모리 압력 결과를 사용기로 따로 정리해 보겠습니다.
참고: Apple Newsroom – M6 / M5 Ultra, MacRumors – 2024 vs 2026 Mac mini, Macworld – New Mac mini M6 and M5 Pro. 속도는 대역폭 기반 이론 추정치이며 실측과 다를 수 있습니다. 가격은 미국 기준입니다.
댓글
댓글 쓰기