[Pytorch] CUDA 설치
이번 포스팅에서는 Local에서 GPU를 사용하기 위해 설치해야하는 CUDA, CUDNN의 설치 방법에 대해 정리해보았다. 설치를 처음 진행하시는 분들이 많은 어려움을 겪을 수 있는데, 이 포스팅이 조금이라도 도움이 되었으면 한다.
컴퓨터 스펙은 다음과 같다.
- Cuda version : 12.1
- GPU : RTX 3060 Ti
- OS : Windows 10
1. GPU와 호환되는 Pytorch 버전 확인
아래의 Pytorch 홈페이지에 들어가서 GPU와 호환되는 CUDA 버전을 확인한다. 설치를 위해서 CUDA 12.1을 다운받았다.
PyTorch
An open source machine learning framework that accelerates the path from research prototyping to production deployment.
pytorch.org
2. CUDA 버전 및 그래픽 드라이버 확인
Vsc 혹은 powershell에서 터미널을 실행하고, nvidia-smi를 입력하면 다음과 같은 화면을 확인할 수 있다. 여기서 컴퓨터의 CUDA Version을 확인한다. 만약 컴퓨터를 새로 샀거나, 최신 그래픽 드라이버를 업데이트 한 경우 CUDA 버전이 2023년 9월을 기준으로 12.2가 뜰 것이다. 하지만, 현재 pytorch에서는 CUDA Version 12.1까지만 지원을 하고 있기 때문에 이런 경우 그래픽 드라이버를 다운그레이드 해야한다. 아래의 포스팅을 참고하면, GPU에 맞는 드라이버를 확인할 수 있다.
[CUDA] Nvidia GPU Driver 호환 버전
CUDA를 활용할 때 버전에 맞는 Nvidia GPU Driver가 필요합니다. 버전호환표는 아래와 같습니다. CUDA Toolkit Toolkit 권장 버전 최소 요구 버전 Linux Windows Linux Windows CUDA 12.2 Update 2 >= 535.104.05 >= 537.13 >=525.60.
www.oofbird.me
3. CUDA 설치
그래픽 드라이버의 버전을 맞췄으면, 아래의 링크로 가서 버전과 일치하는 CUDA를 설치해야한다. 설치를 위해 CUDA 12.1을 다운받았다.
CUDA Toolkit Archive
Previous releases of the CUDA Toolkit, GPU Computing SDK, documentation and developer drivers can be found using the links below. Please select the release you want from the list below, and be sure to check www.nvidia.com/drivers for more recent production
developer.nvidia.com
다운이 완료되면, 설치 프로그램을 실행하고 디렉토리를 지정해준다. 옵션은 빠른 설치를 사용하면 된다. 설치가 정상적으로 완료되면 지정한 디렉토리에 폴더가 생성되었는지, CUDA_PATH 환경변수가 추가됐는지 확인하도록 한다. 이 때, default로 지정된 디렉토리를 사용해도 되지만, 반드시 위치를 알고 있어야 한다.
4. CUDNN 다운로드
CUDA를 설치했으면, 아래의 링크로 가서 CUDA 버전에 맞는 CUDNN도 설치해준다. 12.1을 설치했기 때문에 8.9.0을 설치했고, 운영체제에 맞는 zip 파일을 다운하면된다.
cuDNN Archive
Download releases from the GPU-accelerated primitive library for deep neural networks.
developer.nvidia.com
다운이 끝났으면 압축을 풀어주고, 폴더 안의 bin, include, lib를 CUDA를 설치한 디렉토리로 이동시킨다. v12.1 폴더 안으로 이동시키면 된다.
5. Pytorch 설치
CUDA, CUDNN 설치가 모두 완료되었다면 1번의 pytorch 홈페이지로 가서 운영체제, 패키지, CUDA Version에 맞게 선택하고, 터미널에 해당 명령어를 입력하여 설치를 진행한다. 정상적으로 설치가 완료되면, 아래와 같은 문구를 확인할 수 있다.
6. 작동여부 확인
Torch를 불러오고, torch.cuda.is_available()을 확인해서 TRUE가 뜨면 성공이다. 이 포스팅이 혹시나 설치에 어려움을 겪는분들에게 도움이 됐으면 하는 바람이다. 내가 설치에서 막혔던 부분은 그래픽 드라이버의 업데이트로 인해 CUDA 버전이 업그레이드 되면서, 설치한 CUDA 버전과 로컬의 CUDA 버전이 맞지 않아 발생했던 문제들로 추정된다. 혹시 비슷한 어려움을 겪고 있다면, 그래픽 드라이버를 다운그레이드 해보는 걸 추천드린다.