AI관련 로컬 작업 PC를 위한 가성비 GPU 구매

가장 성능이 좋은 5090이나 4090을 구입하면 좋겠지만, 가격이 너무 넘사벽이라 조금이라도 가성비 있는 GPU이면서 그래도 내가 원하는 작업을 수행할 수 있는 컴퓨터를 구성해 보기로 했다.

컴퓨터 본체는 작년 말에 한번 업그레이드를 했기 때문에 오랫동안 사용한 1060TI를 대신할 수 있는 GPU만 교체하려고 한다.
그래서, 부담되는 가격이지만 그래도 질러볼 수 있는 GPU를 비교해 보니 RX9070XT와 RTX5070TI가 눈에 들어왔다.
만약 내가 게임을 하기 위한 목적이었다면 RX9070XT를 구매할 수도 있었겠지만, 집에서 AI를 공부하기 위한 목적이 크기 때문에 엔비디아 GPU를 선택하기로 결정했다.

내가 직접 비교 검색하는 것보다 AI에게 비교 분석을 요청하여 보았다.
그냥 물어보니 방금 출시한 RX9070XT와 RTX507TI에 대한 정보가 없기 때문에 비교를 할 수 없다고 나온다.
하지만 최근에 데스크탑용 Claude AI에 MCP(Model Context Protocol)를 붙이면서 최신 데이터를 웹에서 직접 검색하고 그 결과를 AI가 비교분석 할 수 있게 되었다. 
다양한 기능의 서버들을 MCP를 사용해 손쉽게 부착할 수 있어서 이제서야 진짜 AI Agent로써 실생활에 도움을 받을 수 있게 되었다고 생각한다.

아래 내용은 Claude AI에게 최신 정보를 찾아보고 두 카드의 성능을 비교 분석해 보도록 한 결과이다.

항목	RX9070 XT	RTX5070 Ti
출시일	2025년 3월 6일	2025년 2월 20일
권장소비자가격	$599(약 80만원)	$749(약 100만원)
TDP	304W	300W
필요 전원공급장치	750W	750W
메모리	16GB GDDR6 (직접 찾아서 입력)	16GB GDDR7
메모리 대역폭	640 GB/s (직접 찾아서 입력)	896 GB/s
메모리 인터페이스	256비트 (직접 찾아서 입력)	256비트

* 위 소비자 가격은 달러 출시 가격이고, 실제 국내 판매 가격(싯가처럼 수시로 변동)은 다음과 같다.
   - RX9070 XT : 1,248,000 ~ 1,485,000원 (네이버 가격비교 기준) 
   - RTX5070 Ti : 1,406,350 ~ 1,830,820원 (네이버 가격비교 기준)

성능 비교

벤치마크 결과

- 전체적인 성능 차이 : RTX 5070Ti가 RX9070XT보다 평균 약 5~6% 더 높은 성능
- GeekBench 6 Compute (OpenGL) : RX9070XT(223,065) vs RTX 5070Ti(243,483) 약 9.1% 차이
- 3DMark 벤치마크 : 
  - Night Raid: RX9070XT(250,811)  vs RTX 5070Ti(252,604) 약 1% 미만 차이
  - 파이어 스트라이크: RX9070XT(68,446)  vs RTX 5070Ti(71,375) 약 4.3% 차이

게임별 성능 비교

- Rainbow Six Siege : 
  - 1440p: RX9070XT는 RTX 5070Ti보다 약 7% 느림 (두 카드 모두 300fps 이상)
  - 4K: RX9070XT는 RTX 5070Ti보다 약 6% 느림 (두 카드 모두 200fps 근접)
- Call of Duty: Black Ops 6: 
  - 1440p: RX9070XT가 RTX 5070Ti보다 22% 빠름
  - 4K: RX9070XT가 RTX 5070Ti보다 19% 빠름
- QHD 해상도 15종 게임 평균 : RX9070XT는 RTX 5070Ti보다 성능이 약 2.1% 낮음
- 4K 해상도 : 평균적으로 RX9070XT가 RTX 5070Ti보다 약 5% 낮은 성능

가성비 분석

- RTX 5070Ti의 MSRP는 $749로, RX9070XT($599)보다 약 25% 더 비쌈
- 성능은 평균 5~6% 차이로, RX9070XT가 가격 대비 성능(가성비)에서 약 15% 더 우수함
- RX9070XT는 "80%의 가격으로 95%의 성능"을 제공한다고 볼 수 있음

특징 및 기술 비교

- RTX 5070Ti : 
  - 블랙웰 아키텍처 기반
  - 5세대 텐서 코어 (1,406 AI TOPS)
  - 4세대 레이 트레이싱 코어 (133 TFLOPS)
  - DLSS 4 지원으로 AI 업스케일링 성능 우수

- RX9070XT : 
  - RDNA 4 아키텍처 기반
  - AMD AFMF 기술 지원

결론

1. 성능 : RTX 5070Ti가 평균적으로 약 5~6% 더 높은 성능을 보이지만, 게임에 따라 성능 차이가 크게 달라질 수 있음. 특히 Call of Duty와 같은 일부 게임에서는 RX9070XT가 더 높은 성능을 발휘
2. 가격 : RX9070XT가 약 $150(20만원) 더 저렴하여 가성비 측면에서 우수
3. 선택 기준 :
   - 순수 성능만 고려한다면 RTX 5070Ti가 우세
   - 가격 대비 성능을 중시한다면 RX9070XT가 더 합리적인 선택
   - 레이 트레이싱 성능을 중요시한다면 RTX 5070Ti가 더 적합
   - AMD 플랫폼을 선호하거나 특정 AMD 최적화 게임을 주로 플레이한다면 RX9070XT 고려

---

위와 같이 나온 결과를 바탕으로 로컬로 AI 사용하는데 더 적합한 그래픽 카드를 분석해 달라고 했다.
그 결과 RTX 5070 Ti가 로컬 AI 애플리케이션 실행에 더 적합하다고 하며 그 이유를 아래와 같이 분석해 주었다.

---

로컬 AI 성능 비교 요소

1. AI 가속기 (텐서 코어)
- RTX 5070Ti : 5세대 텐서 코어 탑재, 1,406 AI TOPS(초당 1조 4천억 연산) 성능 제공
- RX9070XT : 전용 AI 가속기 사양이 상대적으로 제한적, 정확한 AI TOPS 수치 미공개

NVIDIA의 텐서 코어는 AI 연산에 최적화된 전용 하드웨어로, 특히 행렬 연산과 같은 딥러닝 작업에서 뛰어난 성능을 발휘합니다. 블랙웰 아키텍처의 5세대 텐서 코어는 이전 세대보다 크게 개선되었습니다.

2. 메모리 사양
- RTX 5070Ti : 16GB GDDR7 메모리, 896GB/s 대역폭, 256비트 인터페이스
-  RX9070XT : 메모리 사양 미확인(GDDR6 추정)

AI 모델은 대용량의 파라미터를 메모리에 로드해야 하므로, 더 큰 용량과 빠른 메모리 대역폭이 중요합니다. RTX 5070Ti의 GDDR7 메모리는 더 높은 대역폭을 제공하여 대규모 모델 처리에 유리합니다.

3. AI 소프트웨어 생태계
- NVIDIA : CUDA, TensorRT, NVIDIA AI Enterprise 등 성숙한 AI 개발 툴킷과 라이브러리 제공
- AMD : ROCm 플랫폼은 CUDA에 비해 지원되는 프레임워크와 모델이 제한적

NVIDIA의 CUDA 생태계는 TensorFlow, PyTorch, ONNX 등 거의 모든 주요 AI 프레임워크를 지원하며, 최적화 도구도 풍부합니다. ROCm은 개선되고 있지만 호환성과 최적화 면에서 아직 격차가 있습니다.

4. LLM 및 생성형 AI 최적화
- RTX 5070Ti : TensorRT-LLM, NVIDIA ACE 등 LLM 최적화 기술 지원
- RX9070XT : 비슷한 수준의 LLM 최적화 기술 부족

로컬에서 LLaMA, Mistral, Stable Diffusion 같은 생성형 AI 모델을 실행할 때 NVIDIA의 최적화된 라이브러리가 더 나은 성능과 효율성을 제공합니다.

실용적 고려사항

1. 모델 호환성 : 많은 로컬 AI 애플리케이션(LM Studio, ComfyUI, Ollama 등)이 CUDA를 기본으로 설계되어 있어 NVIDIA GPU에서 더 안정적으로 작동합니다.

2. 전력 효율 : AI 워크로드에서 RTX 5070Ti는 더 효율적인 전력 사용을 보이며, 장시간 모델 실행 시 중요한 요소입니다.

3. 가격 대비 AI 성능 : RTX 5070Ti가 25% 더 비싸지만, AI 성능은 그 이상의 차이를 보여 AI 워크로드에서는 가성비가 더 높을 수 있습니다.

결론

로컬 AI 애플리케이션을 주로 사용할 계획이라면 RTX 5070Ti가 확실히 더 나은 선택입니다. 다음과 같은 이유로 추천됩니다:

1. 전용 AI 가속기(텐서 코어)의 뛰어난 성능
2. 더 넓은 메모리 대역폭으로 대규모 모델 처리 능력 향상
3. 성숙한 CUDA 생태계와 폭넓은 AI 라이브러리 지원
4. 생성형 AI 및 LLM 모델을 위한 최적화된 솔루션 제공

다만, 순수 게이밍이나 일반 작업이 주 목적이라면 가격 대비 성능이 좋은 RX9070XT도 충분히 고려할 만한 옵션입니다.

---

위에서 살펴본 것처럼 내가 알고 싶은 내용을 쉽고 빠르게 찾고 분석해서 보기 쉽도록 제공해 주는 AI 어시스턴트가 실제 활용 가능한 때가 되었다고 생각한다. 
할루시네이션이 아직 존재하겠지만, 실제 데이터(웹 또는 각종 논문 등의 자료)를 찾아보고 알려주기 때문에 직접 창작?하는 것은 많이 줄었다고 본다.

다음에는 내가 갖고 있는 분야의 데이터 정보를 기반으로 답변을 받을 수 있도록 실험을 해봐야겠다.

그럼 모두들 AI와 함께 좀 더 생산적인 하루를 보낼 날을 맞이하길 바랍니다.