AI 컴퓨터 사양 맞추는 방법, 학습용과 생성형 작업용은 이렇게 다릅니다
AI 작업용 PC는 게임용 견적이랑 조금 다릅니다
얼마 전 지인이 “AI 돌릴 컴퓨터면 그냥 그래픽카드 좋은 거 넣으면 되지 않냐”고 묻더군요. 반은 맞고 반은 틀린 말입니다. Stable Diffusion으로 이미지를 뽑는 정도라면 GPU가 거의 전부처럼 느껴지지만, 로컬 LLM을 돌리거나 데이터 전처리까지 같이 하면 CPU, 메모리, 저장장치에서도 병목이 꽤 선명하게 나옵니다.
제가 조립하면서 체감한 기준으로 보면 AI 컴퓨터 사양은 ‘최고 부품을 다 넣는 견적’보다 ‘내가 돌릴 모델이 어디서 막히는지 아는 견적’에 가깝습니다. 예산을 같은 200만 원으로 잡아도 게임용이면 CPU와 GPU 균형을 보지만, AI 작업용이면 그래픽카드 VRAM에 돈을 더 몰아주는 쪽이 체감이 큽니다.
가장 먼저 볼 건 GPU VRAM입니다
AI 작업에서 그래픽카드 이름보다 먼저 봐야 하는 게 VRAM 용량입니다. 예를 들어 이미지 생성은 8GB VRAM에서도 시작은 됩니다. 512 해상도 이미지 생성이나 가벼운 LoRA 테스트 정도는 가능합니다. 그런데 해상도를 올리고, 배치 수를 늘리고, ControlNet 같은 기능을 같이 쓰기 시작하면 8GB는 금방 답답해집니다.
개인적으로 입문용 하한선은 12GB로 봅니다. RTX 3060 12GB가 오래된 카드인데도 AI 입문용으로 아직 자주 언급되는 이유가 여기에 있습니다. 최신 세대 카드가 연산 성능은 더 좋더라도 VRAM이 8GB면 작업 방식에 따라 먼저 막힙니다. 반대로 16GB 이상이면 이미지 생성, 간단한 학습, 7B급 로컬 언어 모델 운용에서 여유가 확 생깁니다.
- 가벼운 이미지 생성: VRAM 8GB도 가능하지만 옵션 타협이 많음
- 이미지 생성과 LoRA 입문: VRAM 12GB 권장
- 로컬 LLM, 고해상도 생성, 여러 기능 병행: VRAM 16GB 이상이 편함
- 학습 비중이 높거나 큰 모델을 다룸: VRAM 24GB급부터 체감 차이가 큼
여기서 중요한 건 ‘CUDA 지원’입니다. 현재 개인용 AI 툴 생태계는 NVIDIA 쪽 자료와 호환성이 압도적으로 많습니다. AMD 그래픽카드도 일부 작업은 가능하지만, 오류 해결에 쓰는 시간이 늘어날 수 있습니다. 15년 동안 윈도우 드라이버와 호환성 문제를 만져본 입장에서, 작업용 PC는 성능표보다 삽질 시간 줄이는 쪽이 더 중요할 때가 많습니다.
CPU는 최상급보다 코어와 안정성이 중요합니다
AI 컴퓨터 사양을 짤 때 CPU를 너무 과하게 잡는 경우가 있습니다. 물론 좋은 CPU는 빠릅니다. 다만 이미지 생성이나 추론처럼 GPU 의존도가 높은 작업에서는 CPU를 최고급으로 올리는 것보다 그래픽카드 체급을 올리는 게 체감이 큽니다.
그래도 CPU를 대충 골라도 된다는 뜻은 아닙니다. 데이터 압축 해제, 이미지 전처리, 대량 파일 관리, 파이썬 패키지 빌드, 여러 프로그램 동시 실행에서는 CPU와 메모리 대역폭이 일을 합니다. 요즘 기준으로는 6코어 12스레드가 최소선, 여유 있게 가려면 8코어 16스레드 이상이 좋습니다. 영상 편집이나 3D 작업까지 같이 한다면 12코어 이상도 의미가 있습니다.
인텔과 AMD 중 어느 쪽이 무조건 낫다고 말하기는 어렵습니다. 다만 장시간 부하를 걸었을 때 전력 제한, 쿨링, 메인보드 전원부가 안정적으로 버티는지가 더 현실적인 기준입니다. AI 작업은 잠깐 벤치마크 돌리고 끝나는 게 아니라 몇 시간씩 GPU와 CPU가 달궈지는 경우가 많습니다.
메모리는 32GB부터, 여유 작업은 64GB가 편합니다
윈도우에서 AI 툴을 돌리다 보면 브라우저 탭, 파이썬 환경, 모델 파일, 이미지 편집 프로그램이 같이 떠 있습니다. 16GB 메모리에서도 실행은 되지만, 어느 순간부터 SSD를 가상 메모리처럼 긁으면서 시스템이 무거워집니다. 이때부터는 그래픽카드가 빨라도 전체 작업감이 답답합니다.
입문용으로 새로 맞춘다면 32GB를 권합니다. 실제로 Stable Diffusion WebUI, ComfyUI, 브라우저 자료 검색, 포토샵 또는 이미지 뷰어를 같이 켜면 20GB 넘게 쓰는 상황이 흔합니다. 로컬 LLM이나 데이터셋 가공까지 염두에 둔다면 64GB가 훨씬 편합니다. 메모리는 나중에 증설도 가능하지만, 처음부터 2슬롯 구성인지 4슬롯 구성인지 보고 가는 게 좋습니다.
- 16GB: 단순 실행은 가능하지만 여유가 적음
- 32GB: 개인 AI 작업 입문용으로 가장 무난함
- 64GB: 로컬 LLM, 학습 준비, 멀티태스킹에서 체감이 큼
- 128GB 이상: 대형 데이터셋이나 전문 작업용에 가까움
SSD는 용량보다 속도와 관리 방식이 체감됩니다
AI 모델 파일은 생각보다 큽니다. 체크포인트 하나가 2GB에서 7GB 정도인 경우도 많고, LLM 모델은 수십 GB까지 올라갑니다. 여기에 가상환경, 캐시, 생성 이미지, 학습 데이터가 쌓이면 1TB SSD도 금방 좁아집니다.
최소 1TB NVMe SSD, 가능하면 2TB를 추천합니다. 속도는 PCIe 4.0급이면 충분히 쾌적합니다. 최고 속도 숫자보다 중요한 건 발열 관리입니다. 방열판 없이 오래 쓰면 SSD 온도가 올라가면서 속도가 떨어지고, 대량 파일을 옮길 때 체감됩니다. 메인보드 기본 방열판이라도 제대로 붙여주는 게 좋습니다.
저라면 운영체제와 작업용 SSD를 나눕니다. 예산이 빠듯하면 2TB 하나로 시작해도 되지만, 나중에 모델과 결과물이 많아지면 작업 폴더만 별도 SSD로 빼는 구성이 관리하기 편합니다. 윈도우 재설치할 때도 데이터 보존이 훨씬 수월합니다.
예산별로 보면 이렇게 잡는 게 현실적입니다
100만 원대 초중반에서는 모든 걸 만족시키기 어렵습니다. 이 구간은 중고 GPU를 섞거나, CPU를 적당히 낮추고 VRAM 12GB 그래픽카드를 확보하는 방식이 낫습니다. 새 부품만 고집하면 GPU가 애매해지기 쉽습니다.
200만 원 안팎이면 꽤 쓸 만한 AI 작업용 PC가 나옵니다. 8코어급 CPU, 32GB 또는 64GB 메모리, 1~2TB NVMe SSD, VRAM 16GB 전후 그래픽카드를 목표로 잡으면 균형이 좋습니다. 이미지 생성, ComfyUI 워크플로, 7B급 로컬 모델 테스트까지 무난하게 갑니다.
300만 원 이상에서는 그래픽카드 선택이 핵심입니다. VRAM 24GB급 카드로 가면 큰 모델을 다루는 방식이 달라집니다. 다만 전기요금, 케이스 통풍, 파워 용량도 같이 올라갑니다. 파워는 정격 출력만 보지 말고 12V 출력, 커넥터 구성, 제조사 보증을 같이 봐야 합니다. 고부하 작업 중 꺼지는 PC는 부품 성능보다 사람 멘탈을 먼저 갉아먹습니다.
제가 실제로 추천하는 기준
- 입문형: 6~8코어 CPU, RAM 32GB, VRAM 12GB GPU, NVMe 1TB
- 균형형: 8코어 이상 CPU, RAM 64GB, VRAM 16GB GPU, NVMe 2TB
- 작업형: 12코어급 CPU, RAM 64~128GB, VRAM 24GB GPU, SSD 분리 구성
AI 컴퓨터 사양은 숫자만 보면 끝없이 올라갑니다. 그런데 실제로는 내가 매일 쓰는 툴이 무엇인지, 이미지 위주인지 언어 모델 위주인지, 학습까지 할 건지에 따라 돈을 써야 할 곳이 달라집니다. 저는 처음부터 최고 사양으로 달리는 것보다 VRAM, 메모리, SSD 여유를 먼저 챙기고 나머지를 균형 있게 맞추는 쪽을 더 좋아합니다. 그렇게 맞춘 PC가 오래 쓰기 편하고, 문제 생겼을 때 원인 찾기도 훨씬 쉽습니다.
