128GB로 바꾸는 데 드는 비용은
180만원
하지만 128GB 모델은
이 중에서 96GB를 VRAM에 할당할 수 있음
속도는 546GB/s로 RTX4070의 504GB/s와 비등비등하면서
96GB의 VRAM이라는 게 중요함.
가성비의 (하지만 단종된)
RTX A100 80GB 모델이 천만원대 인 것을 생각하면
가성비는 있는 편
하지만
대부분의 경우
80GB VRAM이상을 사용한 모델을 사용할 정도면
부동산 가격에 비빌 수 있는
엔비디아 GPU 서버를 사용함.
결론 : 128GB RAM을 넣는 선택이 가장 가성비지만 이걸 필요로 할 정도면 엔비디아가 답이다.