M5 Max 맥북 프로 128GB 메모리 사용기 — 로컬 LLM에 실제로 몇 GB까지 쓸 수 있을까?
M5 Max 맥북 프로를 128GB로 맞추는 이유는 대부분 로컬 LLM 때문입니다. 그런데 막상 128GB를 받으면 "그래서 모델은 몇 GB까지 올릴 수 있지?", "macOS가 얼마나 먹지?", "컨텍스트를 늘리면 얼마나 느려지지?" 같은 질문이 바로 생깁니다. 이 글은 M5 Max 128GB의 메모리를 실제로 어떻게 나눠 쓰게 되는지를 공개 벤치마크 수치와 macOS 메모리 구조를 기준으로 정리한 사용기 겸 가이드입니다.
1. 스펙 정리: 왜 128GB M5 Max인가
- 통합 메모리 최대 128GB — 현재 노트북 폼팩터에서 가장 큰 GPU 가용 메모리입니다.
- 메모리 대역폭 614GB/s(40코어 GPU 구성) — M4 Max(546GB/s) 대비 약 12% 향상. 토큰 생성 속도는 이 대역폭에 거의 비례합니다.
- GPU 코어마다 Neural Accelerator 탑재 — Apple 발표 기준 M4 Max 대비 LLM 프롬프트 처리 최대 4배.
- 14형 M5 Max 시작가 $3,599(미국), 128GB는 상위 옵션 선택이 필요합니다.
⚠️ 같은 M5 Max라도 32코어 GPU 구성은 대역폭이 더 낮습니다. LLM 용도라면 40코어 GPU + 128GB 조합을 확인하세요.
2. 128GB는 실제로 이렇게 나뉜다
128GB가 전부 모델에 쓰이는 것은 아닙니다. 실제 배분은 크게 세 덩어리입니다.
| 구분 | 용량 | 설명 |
|---|---|---|
| macOS + 앱 | 약 15~20GB | 브라우저, IDE, Docker, 메신저 등 일상 작업 |
| GPU 기본 한도 | 약 96GB (75%) | macOS가 GPU에 wired로 잡아줄 수 있는 기본 상한 |
| 모델 가중치 + KV 캐시 | 나머지 전부 | 컨텍스트가 길수록 KV 캐시가 커짐 |
GPU 한도는 아래 명령으로 올릴 수 있습니다. 다만 너무 높이면 macOS가 스왑을 쓰기 시작하면서 오히려 전체가 느려지므로, OS용으로 최소 16GB는 남기는 것을 권장합니다. 재부팅하면 기본값으로 돌아갑니다.
# GPU wired 한도를 약 112GB로 상향 (128GB 모델 기준)
sudo sysctl iogpu.wired_limit_mb=114688
# 현재 값 확인
sysctl iogpu.wired_limit_mb3. 모델별 메모리 점유와 속도
공개된 M5 Max 128GB 벤치마크(MLX 기준)를 정리하면 다음과 같습니다.
| 모델 | 메모리 점유 | 4K 컨텍스트 | 16K | 32K |
|---|---|---|---|---|
| gpt-oss 120B (Q8) | 약 64GB | 87.9 tok/s | 76.0 tok/s | 64.5 tok/s |
| Qwen3.5-122B (4bit) | 약 69.6GB | 65.9 tok/s | 60.6 tok/s | 54.9 tok/s |
| Qwen3-Coder-Next (8bit) | 약 84.7GB | 79.3 tok/s | 74.3 tok/s | 68.6 tok/s |
| 70B dense (Q4_K_M) | 약 40GB | 약 15~18 tok/s | ||
눈여겨볼 점은 두 가지입니다.
- MoE 모델이 압도적으로 빠르다. 120B급이라도 토큰마다 활성화되는 파라미터가 적어 60~90 tok/s가 나옵니다. 반면 70B dense 모델은 메모리는 덜 쓰는데도 15~18 tok/s 수준입니다. 128GB 맥북의 핵심 활용처는 "큰 MoE 모델"입니다.
- 컨텍스트가 길어지면 느려진다. 4K → 32K로 늘리면 약 13~27% 속도가 떨어지고, KV 캐시만큼 메모리도 더 필요합니다.
프롬프트 처리(prefill)는 gpt-oss 120B 기준 약 1,300~2,700 tok/s로, 긴 코드 파일이나 문서를 한 번에 넣는 에이전트형 작업도 충분히 감당합니다.
4. 메모리 사용 시나리오 3가지
- 시나리오 A — 코딩 에이전트 상시 구동: Qwen3-Coder-Next 8bit(약 85GB) 1개. GPU 한도를 약간 올려야 여유가 생기고, IDE·브라우저 외 무거운 앱은 줄이는 것이 좋습니다.
- 시나리오 B — 범용 모델 + RAG: gpt-oss 120B(약 64GB) + 임베딩 모델(1~2GB) + 벡터 DB. 32K 컨텍스트까지 여유 있게 운용 가능한 가장 균형 잡힌 구성입니다.
- 시나리오 C — 모델 2개 동시 로딩: 30B급 MoE 모델(약 20GB) 두세 개를 나란히 올려 비교·라우팅 테스트. 128GB의 장점이 가장 잘 드러나는 용도입니다.
5. 메모리 모니터링 방법
# 메모리 압력 확인 (normal/warn/critical)
memory_pressure
# 스왑 사용량 확인 — 0에 가까워야 정상
sysctl vm.swapusage
# GPU 사용률·전력 확인
sudo powermetrics --samplers gpu_power -i 1000활성 상태 보기(Activity Monitor)의 메모리 압력 그래프가 노란색/빨간색으로 바뀌거나 스왑이 늘어나면, 모델 양자화 단계를 낮추거나 컨텍스트 길이를 줄여야 한다는 신호입니다.
6. 운용 팁
- 모델은 필요할 때만 올려두기 — Ollama는
OLLAMA_KEEP_ALIVE로 유휴 모델 언로드 시간을 조절할 수 있습니다. - 컨텍스트는 필요한 만큼만 — 기본값을 128K로 두면 KV 캐시가 메모리를 크게 잡아먹습니다.
- 장시간 추론은 전원 연결 상태에서 — 배터리 상태에서는 성능이 제한될 수 있습니다.
- MLX 우선 — 같은 모델이라도 Apple Silicon에서는 MLX 포맷이 GGUF보다 빠른 경우가 많습니다.
마무리
M5 Max 128GB는 "70B dense 모델을 돌리는 노트북"보다는 "100B급 MoE 모델을 60~90 tok/s로 들고 다니는 노트북"으로 보는 것이 정확합니다. OS용 여유 16~20GB를 남기고, GPU 한도와 컨텍스트 길이만 잘 관리하면 로컬 코딩 에이전트나 사내 보안 환경의 LLM PoC 장비로 충분히 제 몫을 합니다.
참고: Apple Newsroom – MacBook Pro M5 Pro/M5 Max, M5 Max MacBook Pro for Local LLMs (openclawdc), Apple M5 for Local AI (localaimaster). 벤치마크 수치는 공개 자료 인용이며 모델 버전·런타임·설정에 따라 달라질 수 있습니다.
댓글
댓글 쓰기