AI PC 램, 16GB면 될까 32GB 가야 할까
클라우드 챗봇만 쓸 거라면 램 16GB로 충분하고, 윈도 온디바이스 AI(Copilot+ PC)의 최소 사양도 16GB다. 하지만 PC 안에서 직접 AI 모델을 돌릴 생각이라면 모델 크기와 다른 작업 병행 여부에서 16GB와 32GB가 갈린다. 많은 얇은 노트북은 램이 납땜돼 나중에 못 늘리므로, 이 결정은 구매하는 시점에 끝내야 한다.
왜 로컬 AI에서는 램이 먼저 막히나
AI를 쓴다고 다 같은 램이 필요한 건 아니다. 웹브라우저로 챗봇을 쓰는 건 연산이 남의 서버에서 돌아가니 내 PC 램과 거의 무관하다. 램이 갈림길이 되는 건 모델을 PC 안에서 직접 돌리는 '로컬 AI'를 할 때다.
이유는 단순하다. 로컬 모델은 작동하는 동안 그 가중치 전체가 메모리에 올라가 있어야 한다. 흔히 쓰는 4비트로 압축한(양자화한) 상태에서 70억 개 파라미터(7B)급 모델은 가중치만 4GB 안팎, 130억(13B)급은 7GB 안팎을 차지한다.
문제는 표기된 램을 전부 쓸 수 없다는 점이다. 운영체제와 켜져 있는 앱이 먼저 상당량을 가져가고, 모델에 긴 문서를 물릴수록 문맥을 저장하는 공간이 추가로 늘어난다. 그래서 '가중치 4GB짜리 모델이니 8GB면 되겠지'라는 계산은 실제로는 빠듯하게 돌아간다. 외장 그래픽이 없는 노트북은 이 모든 걸 시스템 램 하나로 감당해야 해서 더 쪼들린다.
16GB로 되는 일, 안 되는 일
Matheus Bertelli
16GB는 '밑선'이자 많은 사용자에게 '충분선'이다. 클라우드 AI 서비스를 쓰는 데는 차고 넘치고, 마이크로소프트가 윈도 온디바이스 AI를 위해 내건 Copilot+ PC 최소 사양도 16GB다(여기에 40 TOPS 이상 NPU와 256GB SSD가 함께 요구된다, 2024년 발표 기준).
로컬 모델도 7B급 하나 정도는 16GB에서 돌아간다. 다만 조건이 붙는다. 모델을 켜둔 채 브라우저 탭을 잔뜩 열거나 영상 편집 같은 무거운 작업을 겹치면 속도가 눈에 띄게 처진다. 16GB는 '로컬 AI를 가끔 가볍게 맛보는' 선까지다.
32GB 이상이 갈리는 지점
32GB가 값을 하는 건 다음 경우다.
- 13B급 이상 모델을 쓰거나 더 똑똑한 응답을 원할 때
- 긴 문서를 통째로 넣어 요약·분석시킬 때(문맥이 길수록 메모리 소모가 커진다)
- 로컬 AI를 상시 켜둔 채 다른 작업을 병행할 때
- PC에서 로컬로 이미지를 생성할 때
정리하면 용도별로 이렇게 갈린다.
| 용도 | 16GB | 32GB 이상 |
|---|---|---|
| 클라우드 챗봇·검색 | 충분 | 불필요 |
| 7B급 로컬 모델 1개 | 빠듯하게 가능 | 여유 |
| 13B급·긴 문맥 작업 | 어려움 | 적합 |
| 로컬 AI + 작업 병행 | 버벅임 | 권장 |
참고로 수십억을 넘어 700억(70B)급으로 가면 데스크톱용 고성능 그래픽카드나 대용량 구성의 영역이라, 일반 노트북으로 고민할 범위를 벗어난다.
램은 '나중에'가 안 통한다
여기서 많은 사람이 놓치는 함정이 있다. "일단 16GB로 사고 모자라면 나중에 늘리지"가 요즘 노트북에선 거의 통하지 않는다.
얇고 가벼운 노트북과 상당수 AI PC는 저전력 메모리(LPDDR5)를 메인보드에 납땜해 나온다. 납땜형은 교체도 증설도 불가능하다. 반대로 SODIMM 슬롯이 있는 모델만 나중에 늘릴 수 있는데, 같은 제품명이라도 구성이나 화면 크기에 따라 갈린다. 실제로 한 게이밍 노트북은 14인치가 납땜형, 16인치만 슬롯형인 식이다. 심지어 DDR4와 DDR5 슬롯 메모리는 서로 꽂히지 않으니 규격도 맞춰야 한다. 탈착형 저전력 모듈(LPCAMM)이 나오고 있지만 아직 보편화 전이다.
여기에 시점도 불리하다. 트렌드포스에 따르면 제조사들이 4분기 D램 가격을 최대 30%까지 올리는 등 메모리값이 오름세다. 처음부터 32GB를 고르는 추가 비용도, 나중에 못 늘려 PC를 통째로 바꾸는 비용도 전보다 부담이 커졌다는 뜻이다.
구매 전 체크리스트
- 나는 클라우드 AI만 쓸 사람인가, PC에서 모델을 직접 돌릴 사람인가
- 돌린다면 7B급 선인가, 13B급 이상·긴 문맥까지 갈 것인가
- 사려는 모델의 램이 납땜형인지 SODIMM 슬롯형인지(제조사 공식 사양으로 확인)
- 슬롯형이라면 빈 슬롯과 최대 지원 용량, 규격(DDR5 여부)
- 애매하면 32GB로 시작 — 특히 램이 납땜형이고 몇 년 쓸 PC라면
결론을 한 줄로 줄이면 이렇다. 클라우드만 쓰면 16GB, 로컬 AI를 제대로 할 생각이면 32GB, 그리고 램이 납땜형이라면 지금의 선택이 그 PC의 수명 내내 고정된다는 것을 기억하는 편이 좋다.