동일 칩, 동일 메모리, 동일 모델 — 근데 왜 속도가 다를까?
솔직히 처음엔 별 차이 없겠지 싶었다. M4 Max에 64GB RAM이면 두 기기 모두 스펙지에선 완전히 동일하다. 근데 실제로 LLM을 돌려보니 얘기가 달랐다.
테스트 환경
칩: Apple M4 Max (동일)
통합 메모리: 64 GB (동일)
SSD: 1 TB (동일)
런타임: LM Studio
모델: Qwen3 27B dense (quantized)
태스크: 단일 페이지 Kanban 보드 HTML 생성
결과: Mac Studio가 35.7% 빠르다
MacBook Pro M4 Max: 16.74 tok/s
Mac Studio M4 Max: 22.72 tok/s
차이: +5.98 tok/s, +35.7%
숫자만 보면 "같은 칩인데?" 싶지만, 체감상 35%는 결코 작은 차이가 아니다. 긴 코드 생성이나 장문 요약 태스크에선 누적 차이가 꽤 크게 느껴진다.
왜 차이가 날까?
이유는 폼 팩터 차이에 있다.
MacBook은 얇고 가벼운 노트북 바디에 M4 Max를 집어넣은 구조라 열 설계(thermal design)에 제약이 있다. TDP 한계 때문에 지속적인 고부하 작업에서는 클럭을 조금씩 낮춰 온도를 관리하게 된다.
반면 Mac Studio는 데스크탑 폼 팩터답게 방열 공간이 넉넉하다. 결과적으로 서스테인드 클럭(sustained clock)이 더 높게 유지되고, LLM 추론처럼 Neural Engine + GPU를 지속적으로 강하게 쓰는 작업에서 이 차이가 그대로 성능 격차로 나타난다.
그래서 뭘 사야 할까?
이동이 필요하다 → MacBook Pro
16.74 tok/s도 로컬 LLM 용도로는 충분히 쾌적한 속도다. Qwen3 27B를 이 속도로 돌릴 수 있다는 것 자체가 몇 년 전엔 상상도 못 할 얘기였다.
책상에서 AI 개발 or 에이전트 서버로 쓸 거다 → Mac Studio
35% 속도 차이는 반복 추론, 배치 처리, 에이전트 루프에서 체감이 확실하다. 같은 돈으로 이 속도 차이를 얻는다면 Mac Studio가 명확히 유리하다.
마치며
같은 칩이어도 패키징 방식이 성능을 결정한다는 걸 다시 확인했다. 로컬 LLM을 진지하게 쓸 생각이라면 폼 팩터 차이를 절대 무시하지 말자.
Runtime: LM Studio · Model: Qwen3-27B-dense · Task: kanban board generation
댓글 없음:
댓글 쓰기