RTX 5090 사기 전에 멈추세요: 32GB의 벽, 로컬 LLM용으로 비교되는 맥 4종 총정리 (M6·M5 Pro·M5 Max·M5 Ultra)
"5090 꽂았는데 70B가 왜 이렇게 느리죠?"
로컬 LLM 커뮤니티에서 요즘 제일 자주 보이는 질문입니다. RTX 5090은 분명 지구상에서 가장 빠른 소비자용 GPU인데, 70B 모델을 올리는 순간 초당 2~4토큰으로 주저앉습니다. 반대로 '느리다'던 맥은 같은 모델을 초당 20토큰 넘게 뽑아냅니다.
이유는 단 하나, 32GB입니다. 이 글에서는 5090으로 로컬 LLM을 돌리고 있거나 사려는 분이 반드시 같이 봐야 할 맥 4종(Mac mini M6 / M5 Pro, Mac Studio M5 Max / M5 Ultra)을 2026년 10월 기준 스펙으로 한 번에 비교합니다.
⚡ 결론부터
- 32B 이하 모델만 쓴다 → RTX 5090이 여전히 가장 빠릅니다.
- 70B 이상, 또는 120B·235B급 MoE를 쓰고 싶다 → 5090 한 장으로는 답이 없습니다. Mac Studio M5 Max 128GB 또는 M5 Ultra가 현실적인 선택입니다.
- Mac mini(M6, M5 Pro)는 5090의 비교 대상이 아닙니다. 입문·개인 비서용입니다.
1. 5090과 비교되는 맥, 정확히 어떤 사양인가
애플은 2026년 9월 22일 M6 Mac mini와 M5 Ultra Mac Studio를 출시했습니다(512GB M5 Ultra는 10월 말 출고). 로컬 LLM 관점에서 중요한 숫자는 딱 두 개, GPU가 쓸 수 있는 메모리 용량과 메모리 대역폭입니다.
| 기기 | 칩 구성 | 최대 메모리 | 대역폭 | 미국 시작가 |
|---|---|---|---|---|
| RTX 5090 | 21,760 CUDA 코어, TDP 575W | 32GB GDDR7 | 1,792GB/s | $1,999 (MSRP) |
| Mac mini M6 | 12코어 CPU / 12코어 GPU | 32GB | 153~170GB/s | $899 |
| Mac mini M5 Pro | 최대 18코어 CPU / 20코어 GPU | 64GB | 307GB/s | $1,699 |
| Mac Studio M5 Max | 18코어 CPU / 최대 40코어 GPU | 128GB | 460~614GB/s | $2,499 |
| Mac Studio M5 Ultra | 최대 36코어 CPU / 80코어 GPU | 512GB | 1.2TB/s | $5,499 |
※ M5 Max의 128GB·614GB/s는 40코어 GPU 옵션, M5 Ultra의 512GB는 36코어 CPU·80코어 GPU 최상위 구성에서만 선택 가능합니다. 국내 판매가는 애플 스토어에서 구성별로 확인하세요.
함정 하나: 5090의 $1,999는 출고가일 뿐입니다. 2026년 9월 기준 미국에서 재고 있는 가장 싼 5090이 약 $5,000으로, 출고가의 2.5배입니다. 이 가격이면 M5 Ultra 기본형($5,499)과 거의 같은 돈입니다. 5090만 사서 끝나는 것도 아니라 1000W급 파워와 본체까지 더해야 하죠.
2. 속도는 '대역폭'이 정한다 — 그런데 차이가 생각보다 작다
LLM이 토큰을 하나 만들 때마다 모델 가중치 전체를 메모리에서 읽어야 합니다. 그래서 생성 속도는 거의 메모리 대역폭 ÷ 모델 크기로 결정됩니다.
대역폭만 보면 5090(1,792GB/s)이 M5 Ultra(1.2TB/s)보다 약 1.5배 빠릅니다. 하지만 실제 측정에서는 차이가 훨씬 작습니다.
- Qwen 27B Q4: 5090 약 59 tok/s vs M5 Ultra 약 48 tok/s (약 23% 차이)
- 7B Q4: 5090 약 160 tok/s vs M5 Ultra 약 135 tok/s
체감상 둘 다 '읽는 속도보다 훨씬 빠른' 구간입니다. 작은 모델에서 5090의 우위는 분명하지만, 사람이 대화하는 용도라면 결정적인 차이는 아닙니다. 다만 프롬프트 처리(긴 문서 넣고 첫 토큰 나올 때까지)는 연산량 싸움이라 CUDA 쪽이 확실히 유리하다는 점은 기억해 두세요.
3. 진짜 승부처는 '용량' — 32GB를 넘는 순간 판이 뒤집힌다
5090의 32GB를 넘는 모델은 시스템 RAM으로 일부를 넘기는 오프로딩을 해야 합니다. 이때부터 PCIe 대역폭에 발목이 잡히면서 속도가 폭락합니다. 70B 모델 기준 5090 단일 구성의 측정치는 컨텍스트 64K에서 4.6 tok/s, 128K에서 2.9 tok/s, 256K에서 1.5 tok/s까지 떨어집니다. 같은 70B를 M5 Ultra는 메모리에 통째로 올려 20~25 tok/s를 냅니다.
맥은 통합 메모리 중 기본적으로 약 70~75%를 GPU가 쓸 수 있습니다(설정으로 상향 가능). 이걸 감안하면 현실적인 상한은 이렇습니다.
- Mac mini M6 32GB → 약 24GB: 8B는 여유, 27~32B Q4는 빠듯
- Mac mini M5 Pro 64GB → 약 48GB: 32B 여유, 70B Q4는 컨텍스트를 짧게
- Mac Studio M5 Max 128GB → 약 96GB 이상: 70B, gpt-oss-120b까지 쾌적
- Mac Studio M5 Ultra 512GB → 약 400GB 이상: Qwen3-235B-A22B, DeepSeek 671B Q4까지 단일 기기로
5090으로 235B급 MoE를 돌리려면 여러 장을 묶어야 하는데, 그 순간 전력·소음·발열·메인보드 레인 문제가 한꺼번에 따라옵니다.
4. 전기료와 소음 — 24시간 서빙이라면 무시 못 할 차이
- 5090 시스템: GPU만 575W, 풀로드 시 시스템 전체 700W 이상. 1000W 파워 권장. 팬 소음과 발열은 감수해야 합니다.
- M5 Ultra Mac Studio: 풀로드 시스템 전체 약 200~300W, 대기 시 한 자릿수 와트. 책상 위에 두고 24시간 켜둬도 조용합니다.
집이나 사무실에서 사내 API 서버처럼 상시로 띄워둘 계획이라면, 1년 전기료 차이만으로도 무시하기 어려운 금액이 됩니다.
5. 그래도 5090이어야 하는 사람
맥이 다 좋은 건 아닙니다. 아래 중 하나라도 해당되면 5090(또는 NVIDIA 계열)이 맞습니다.
- 파인튜닝·LoRA 학습을 직접 한다 — 학습 생태계는 여전히 CUDA가 압도적입니다.
- vLLM, TensorRT-LLM, Triton 등 운영 환경과 동일한 스택으로 테스트해야 한다.
- 동시 접속 다수를 배치 처리해야 한다 — 배치가 커질수록 연산 성능 차이가 벌어집니다.
- 이미지·영상 생성(ComfyUI 등)을 함께 돌린다.
반대로 "큰 모델을 혼자, 조용히, 오래" 돌리는 게 목적이라면 맥 쪽이 정답에 가깝습니다. MLX, llama.cpp, Ollama, LM Studio 모두 Apple Silicon을 잘 지원합니다.
6. 30초 구매 가이드
- 이미 5090이 있다 → 32B 이하는 5090으로, 70B 이상이 필요해지면 그때 M5 Max 128GB를 '두 번째 머신'으로 추가하는 조합이 가성비 최고입니다.
- 새로 산다 + 큰 모델이 목적 → 5090 실거래가($5,000 안팎)면 M5 Ultra 기본형, 예산을 줄이려면 M5 Max 128GB.
- 새로 산다 + 학습·CUDA가 목적 → 5090. 맥은 고려 대상이 아닙니다.
- 그냥 로컬 LLM이 궁금하다 → Mac mini M5 Pro 64GB로 시작해도 충분합니다.
마무리
5090 vs 맥은 '어느 쪽이 더 빠른가'의 문제가 아니라 "내가 돌리려는 모델이 32GB 안에 들어가는가"의 문제입니다. 들어가면 5090, 안 들어가면 맥. 이 한 줄만 기억해도 수백만 원짜리 실수를 피할 수 있습니다.
메모리 용량별로 더 자세한 계산이 궁금하다면 지난 글 「로컬 LLM 서빙용 맥, 메모리 몇 GB면 될까요?」와 「M5 Max 맥북 프로 128GB 사용기」도 함께 참고하세요.
※ 속도 수치는 공개 벤치마크 기준 참고치이며 프레임워크, 양자화 방식, 컨텍스트 길이에 따라 달라집니다. 가격은 2026년 9~10월 미국 기준입니다.
참고: PopSci, iClarified(맥 사양), besthub.dev(M5 Ultra vs RTX 5090 벤치마크), Keenable(5090 미국 실거래가)
댓글
댓글 쓰기