버전 확인
컴퓨터에 장착되어 있는 그래픽 카드를 확인한 후 CUDA Compute Capability에 맞는 cuda toolkit을 설치한다.
Support Matrix - NVIDIA Docs
For best performance, the recommended configuration is cuDNN 8.9.5 on H100 with CUDA 12.2, and cuDNN 8.9.5 on all other GPUs with CUDA 11.8, because this is the configuration that was used for tuning heuristics.
docs.nvidia.com
CUDA GPUs - Compute Capability
Explore your GPU compute capability and CUDA-enabled products.
developer.nvidia.com
만약 2070 그래픽카드가 장착되어 있다면 https://developer.nvidia.com/cuda-gpus 에서 CUDA Compute Capability가 7.5이므로 https://docs.nvidia.com/deeplearning/cudnn/support-matrix/index.html CUDA Compute Capability 7.5를 포함하는 CUDA Toolkit Version 12.2, 12.1, 12.0중 하나를 선택해서 CUDA Toolkit을 다운로드 한다.
설치
쿠다 설치 사이트 에서 위에서 확인한 버전에 맞는 CUDA Toolkit을 다운로드 하고 설치한다.
CUDA Toolkit 12.1 Downloads
Get the latest feature updates to NVIDIA's proprietary compute stack.
developer.nvidia.com
cuDNN 에서 CUDA Toolkit에 맞는 버전을 다운로드 하고 압축을 해제한다.
cuDNN Archive
Download releases from the GPU-accelerated primitive library for deep neural networks.
developer.nvidia.com
cuDNN에서 압축해제된 파일을 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.2에 붙여넣기하면 된다.
설치 확인
https://pytorch.org/get-started/locally/
PyTorch
An open source machine learning framework that accelerates the path from research prototyping to production deployment.
pytorch.org
pytorch를 이용해서 cuda가 잘 설치되었는지 학인한다.
플랫폼에 맞게 pytorch를 설치한 후 다음과 같은 명령어를 파이썬에 실행해 True가 나오는지 확인한다.
True가 나온다면 CUDA가 정상적으로 설치되어 GPU를 사용할 수 있게 된것이다.
import torch
torch.cuda.is_available()