디에스 DevOps Lab

"5090 꽂았는데 70B가 왜 이렇게 느리죠?" 로컬 LLM 커뮤니티에서 요즘 제일 자주 보이는 질문입니다. RTX 5090은 분명 지구상에서 가장 빠른 소비자용 GPU인데, 70B 모델을 올리는 순간 초당 2~4토큰으로 주저앉습니다. 반대로 '느리다'던 맥은 같은 모델을 초당 20토큰 넘게 뽑아냅니다. 이유는 단 하나, 32GB 입니다. 이 글에서는 5090으로 로컬 LLM을 돌리고 있거나 사려는 분이 반드시 같이 봐야 할 맥 4종(Mac mini M6 / M5 Pro, Mac Studio M5 Max / M5 Ultra) 을 2026년 10월 기준 스펙으로 한 번에 비교합니다. ⚡ 결론부터 32B 이하 모델만 쓴다 → RTX 5090이 여전히 가장 빠릅니다. 70B 이상, 또는 120B·235B급 MoE를 쓰고 싶다 → 5090 한 장으로는 답이 없습니다. Mac Studio M5 Max 128GB 또는 M5 Ultra 가 현실적인 선택입니다. Mac mini(M6, M5 Pro) 는 5090의 비교 대상이 아닙니다. 입문·개인 비서용입니다. 1. 5090과 비교되는 맥, 정확히 어떤 사양인가 애플은 2026년 9월 22일 M6 Mac mini와 M5 Ultra Mac Studio를 출시했습니다(512GB M5 Ultra는 10월 말 출고). 로컬 LLM 관점에서 중요한 숫자는 딱 두 개, GPU가 쓸 수 있는 메모리 용량 과 메모리 대역폭 입니다. 기기 칩 구성 최대 메모리 대역폭 미국 시작가 RTX 5090 21,760 CUDA 코어, TDP 575W 32GB GDDR7 1,792GB/s $1,999 (MSRP) Mac mini M6 12코어 CPU / 12코어 GPU 32GB 153~170GB/s $899 Mac mini M5 Pro 최대 18코어 CPU / 20코어 GPU 64GB 307GB/s $1,699 Mac Studio M5 Max 18코어 CPU / 최대 40코...

맥 스튜디오 M5 Ultra 512GB 는 10월 말 국내 출시가 예고된, 개인이 살 수 있는 사실상 가장 강력한 AI 워크스테이션입니다. 문제는 가격입니다. 512GB 메모리에 대용량 SSD까지 얹은 풀옵션은 3,000만원 안팎까지 갈 수 있는 금액이라, 이 정도면 "무이자 할부 몇 개월"로 해결되는 영역을 벗어납니다. 이 글은 카드 한도 상향과 무이자 할부 , 금융리스·운용리스와 잔존가치 , 신용대출·마이너스 통장 , 사업자 비용 처리 까지, 3,000만원짜리 맥 스튜디오를 현실적으로 들이는 금융 상품 조합을 정리한 구매 전 체크리스트입니다. ▲ 3,000만원 결제 로드맵: 한도 확보 → 무이자 할부 → (사업자) 잔존가치 금융리스 1. 맥 스튜디오 M5 Ultra 512GB, 지금 알려진 것과 가격 전망 애플은 2026년 8월 25일 M5 Max / M5 Ultra 칩을 탑재한 신형 Mac Studio를 발표했고, 기본 모델은 9월 22일부터 배송이 시작됐습니다. 국내 출고가는 M5 Max 모델 4,290,000원, M5 Ultra 모델(30코어 CPU, 64코어 GPU, 96GB 메모리, 1TB) 9,490,000원부터입니다. 핵심인 512GB 통합 메모리 구성 은 별도로 10월 말 출시 예정입니다. M5 Ultra는 최대 36코어 CPU, 80코어 GPU, 1.2TB/s 메모리 대역폭을 갖춘 쿼드 다이 구조로, 512GB 메모리를 얹으면 GPU 서버 없이도 수천억 파라미터급 LLM을 로컬에서 돌릴 수 있는 사양이 됩니다. 미국 매체들은 512GB 구성의 시작가를 1만 달러 이상, 저장 장치를 최대 옵션(16TB)으로 채우면 2만 달러를 넘길 것으로 내다봅니다. 국내 원화로 환산하면 512GB 기본 구성이 대략 1,500만~2,000만원대, 512GB + 대용량 SSD 풀옵션은 3,000만원 안팎 이 될 가능성이 큽니다. 국내 가격은 10월 말 공개 전까지 확정되지 않았으므로, 이 글에서는 실제로 사고 싶어지는 구성인 풀...

9월 22일, 새 Mac mini가 출시됩니다. 이번 세대는 M6 와 M5 Pro 두 가지 칩으로 나오는데, 가격 차이가 $800이나 납니다. 일반 사무용이라면 M6로 충분하지만, 로컬 LLM을 돌릴 목적 이라면 이야기가 달라집니다. 이 글에서는 아직 써보기 전인 출시 직전 시점에서, 공개된 사양만으로 "LLM용으로는 어떤 구성을 골라야 하는지"를 계산해 봅니다. 1. 스펙 비교: M6 vs M5 Pro Mac mini 항목 Mac mini M6 Mac mini M5 Pro 시작 가격(미국) $899 (16GB / 256GB) $1,699 (24GB / 512GB) CPU / GPU 12코어 / 12코어 15~18코어 / 16~20코어 통합 메모리 16 / 24 / 32GB 24 / 48 / 64GB 메모리 대역폭 최대 170GB/s (16GB 구성은 더 낮음) 307GB/s Neural Engine 듀얼 16코어 16코어 GPU Neural Accelerator 두 모델 모두 GPU 코어마다 탑재 포트 Thunderbolt 4 ×3 Thunderbolt 5 ×3 공통 HDMI, 2.5Gb 이더넷, Wi-Fi 7, 전면 USB-C 2개 LLM 관점에서 봐야 할 줄은 딱 두 개입니다. 메모리 용량(최대 32GB vs 64GB) 과 메모리 대역폭(170GB/s vs 307GB/s) . 용량은 "어떤 모델까지 올라가는가"를, 대역폭은 "얼마나 빠르게 답하는가"를 결정합니다. 2. 어떤 모델까지 올라갈까 macOS는 통합 메모리를 전부 GPU에 주지 않습니다. 일반적으로 36GB 이하 구성은 약 2/3, 그 이상은 약 3/4 이 GPU 기본 한도입니다. 이를 기준으로 Q4(4bit) 양자화 모델이 들어가는지 정리하면 다음과 같습니다. 구성 GPU 가용(추정) 8B (≈5GB) 14B (≈9GB) 32B (≈19GB) 70B (≈40GB) M6 16GB ≈10GB ○ △ 빠듯 ✕...