M5 Max 맥북 프로 128GB 메모리 사용기 — 로컬 LLM에 실제로 몇 GB까지 쓸 수 있을까?
M5 Max 맥북 프로를 128GB로 맞추는 이유는 대부분 로컬 LLM 때문입니다. 그런데 막상 128GB를 받으면 "그래서 모델은 몇 GB까지 올릴 수 있지?", "macOS가 얼마나 먹지?", "컨텍스트를 늘리면 얼마나 느려지지?" 같은 질문이 바로 생깁니다. 이 글은 M5 Max 128GB의 메모리를 실제로 어떻게 나눠 쓰게 되는지 를 공개 벤치마크 수치와 macOS 메모리 구조를 기준으로 정리한 사용기 겸 가이드입니다. 1. 스펙 정리: 왜 128GB M5 Max인가 통합 메모리 최대 128GB — 현재 노트북 폼팩터에서 가장 큰 GPU 가용 메모리입니다. 메모리 대역폭 614GB/s (40코어 GPU 구성) — M4 Max(546GB/s) 대비 약 12% 향상. 토큰 생성 속도는 이 대역폭에 거의 비례합니다. GPU 코어마다 Neural Accelerator 탑재 — Apple 발표 기준 M4 Max 대비 LLM 프롬프트 처리 최대 4배. 14형 M5 Max 시작가 $3,599(미국), 128GB는 상위 옵션 선택이 필요합니다. ⚠️ 같은 M5 Max라도 32코어 GPU 구성은 대역폭이 더 낮습니다. LLM 용도라면 40코어 GPU + 128GB 조합을 확인하세요. 2. 128GB는 실제로 이렇게 나뉜다 128GB가 전부 모델에 쓰이는 것은 아닙니다. 실제 배분은 크게 세 덩어리입니다. 구분 용량 설명 macOS + 앱 약 15~20GB 브라우저, IDE, Docker, 메신저 등 일상 작업 GPU 기본 한도 약 96GB (75%) macOS가 GPU에 wired로 잡아줄 수 있는 기본 상한 모델 가중치 + KV 캐시 나머지 전부 컨텍스트가 길수록 KV 캐시가 커짐 GPU 한도는 아래 명령으로 올릴 수 있습니다. 다만 너무 높이면 macOS가 스왑을 쓰기 시작하면서 오히려 전체가 느려지므로, OS용으로 최소 16GB는 남기는 것 을 권장합니다. 재부팅하면 기본값...