로컬 LLM 서빙용 맥, 메모리 몇 GB면 될까요? M5 Max·M5 Ultra 맥북/맥 스튜디오 vs DGX Spark·Ryzen AI Max+ 비교
"회사 보안 때문에 외부 API는 못 쓰고, 로컬에서 LLM을 돌려보고 싶은데 맥북 몇 GB짜리를 사야 하나요?" 요즘 가장 많이 받는 질문입니다. 결론부터 말하면 맥에서 LLM 서빙 성능을 결정하는 건 CPU 코어 수가 아니라 ① 통합 메모리 용량 ② 메모리 대역폭 두 가지입니다. 이 글에서는 2026년 9월 기준 Apple Silicon 라인업(M5 Pro / M5 Max / M5 Ultra / M6)과, 비슷한 포지션의 경쟁 제품(NVIDIA DGX Spark, AMD Ryzen AI Max+ 395, RTX 5090 워크스테이션)을 LLM 서빙 관점에서 정리합니다. 1. 먼저 계산부터: 모델 크기별 필요한 메모리 LLM 가중치가 차지하는 메모리는 대략 파라미터 수 × (양자화 비트 ÷ 8) 입니다. 여기에 KV 캐시(컨텍스트 길이·동시 요청 수에 비례)와 OS·런타임 오버헤드를 더해야 합니다. 모델 규모 Q4 (4bit) 가중치 Q8 (8bit) 가중치 권장 통합 메모리 7~9B 약 5GB 약 9GB 16~24GB 14B 약 9GB 약 15GB 24~32GB 30~32B 약 18~20GB 약 34GB 48~64GB 70B 약 40GB 약 75GB 64GB(Q4) / 128GB(Q8) 120B급 MoE 약 65GB 약 125GB 128GB 이상 200B~400B+ MoE 110~230GB — 256~512GB 맥 전용 주의사항: macOS는 기본적으로 통합 메모리의 약 65~75%만 GPU가 쓸 수 있도록 제한합니다. 128GB 맥이라도 GPU에 할당 가능한 양은 약 96GB 수준이므로, 여유 있게 잡아야 합니다. (필요 시 sudo sysctl iogpu.wired_limit_mb=<값> 으로 상향 가능하나, 재부팅 시 초기화되고 시스템 안정성에 영향이 있을 수 있습니다.) 2. 속도는 메모리 대역폭이 결정한다 토큰 생성(decode) 단계는 매 토큰마다 가중치 전체를 메모리에서 읽어야 하...