정현석

개인 저장공간입니다.
Since 2021.10

2 분 소요

기존에 TensorFlow 2.4 환경을 운용하면서 런타임 충돌과 라이브러리 비호환 오류가 발생했기 때문에, 안정적인 빌드 구성을 확인하고 TensorFlow 2.8.0 및 PyTorch 1.9.0 GPU 환경을 구축하기로 결정했다.

  • PyTorch : pytorch==1.9.0 torchvision==0.10.0 torchaudio==0.9.0 (CUDA 11.3 연동)1
  • TensorFlow : CUDA==11.3 cuDNN==8.2.1 tensorflow==2.8.0 tensorflow-gpu==2.8.02
  • Python : 3.9
  • NVIDIA GPU Driver : 465.xx.xx 이상3

컴퓨터 환경

  • OS : Window 10
  • CPU : i7-6700HQ
  • GPU : GTX1070
  • Memory : 16 GB

순서

  • 아래 순서대로 설치를 진행한다.
  • 딥러닝 프레임워크(TensorFlow, PyTorch)는 CUDA 드라이버와 런타임, cuDNN 가속 라이브러리를 거쳐 GPU 하드웨어에서 연산을 수행한다4.

  • 참고 : https://www.tensorflow.org/install/gpu5

    1. Anaconda
    2. NVIDIA DRIVER
    3. Visual Studio
    4. CUDA Toolkit
    5. cuDNN
    6. 가상환경

image

1. 아나콘다 설치

image

image

2. NVIDIA DRIVER 설치

image

3. Visual Studio 설치

image

4. CUDA Toolkit 버전 확인

image

  • 여기에는 없지만, 우리가 설치할 버전은 다음과 같다.
    • tensorflow_gpu : 2.8.0
    • Python 버전 : 3.9
    • cuDNN : 8.2.1
    • CUDA : 11.3

5. CUDA 설치

image

image

6. cuDNN 설치

image

image

  • 파일 덮어쓰기 : 다운로드한 파일의 압축을 풀고, 아래 디렉터리에 파일을 복사해 덮어쓴다.
    • 그 전에 CUDA Toolkit 설치를 먼저 완료해야 한다.
  • cudnn-11.3-windows-x64-v8.2.1.32 압축 파일을 해제하면 다음과 같은 폴더가 나타난다.

image

  • C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3 여기에 bin, include, lib 폴더를 각각 들어가 안의 파일들을 복사한다.

7. 환경변수 설정

  • 시스템 환경 변수 편집에서 사용자 변수의 Path를 편집하여 CUDA 실행 및 라이브러리 경로를 등록한다.

image

image

image

image

8. 가상환경

  • 가상 환경을 생성하는 이유는 프로젝트 간 패키지 의존성과 라이브러리 충돌을 방지하기 위함이다.

  • Anaconda Powershell Prompt (anaconda3) 실행

image

  • conda update : conda update -n base conda
  • 가상 환경 설치 : conda create -n 가상환경이름 python=3.9
  • 가상 환경 활성화 : conda activate 가상환경 이름
  • 기본적인 패키지 설치
    • pip install --upgrade pip --user
    • pip install tensorflow==2.8.0
    • pip install tf-nightly
    • pip install pandas matplotlib seaborn scipy sklearn
    • pip install tensorflow-gpu==2.8.0
    • pip install keras
    • pip3 install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu113
    • pip install jupyter notebook
    • pip install ipykernel
    • python -m ipykernel install --user --name 가상환경이름 --display-name 표시할 가상환경 이름

기타

  • 가상환경 리스트 확인 : conda env list
  • 가상환경 비활성화 : conda deactivate
  • 가상환경 삭제 : conda remove -n 가상환경이름 --all 후 y 입력
  • 경로 변경 : cd 경로주소
  • 파이썬 셸 실행 : python
  • 파이썬 셸 종료 : exit() or ctrl+z

  • 설치된 모든 라이브러리 확인 : pip freeze

  • cuda 버전 확인 : nvcc --version (cmd 창)
  • GPU util 확인 : nvidia-smi (cmd 창)

GPU 확인

  • tensorflow
from tensorflow.python.client import device_lib
print(device_lib.list_local_devices())

image

  • pytorch
import torch

DEVICE = ("cuda" if torch.cuda.is_available() else "cpu")
print(DEVICE)
# 결과: cuda
  • 위의 결과가 나오면 설치가 정상 완료된 것이다.

한계 및 주의사항

  1. Windows 네이티브 GPU 지원 종료: TensorFlow는 2.10 버전을 마지막으로 Windows 네이티브 환경에서의 GPU 가속(tensorflow-gpu) 지원을 공식 중단했다9. TensorFlow 2.11 이후 최신 릴리스에서 GPU를 활용하려면 WSL2(Windows Subsystem for Linux 2) 기반 Linux 환경을 구축해야 한다.
  2. CUDA 툴킷 및 프레임워크 바이너리 종속성: TensorFlow 2.8.0은 CUDA 11.2~11.3 및 cuDNN 8.1~8.2 런타임 바이너리와 정합하도록 사전 컴파일되어 있다2. 상위 CUDA 12.x 툴킷만 단독 설치할 경우 DLL 로드 실패(ImportError: DLL load failed while importing _pywrap_tensorflow_internal)가 발생한다. 동일 가상환경에서 PyTorch를 함께 사용할 때도 PyTorch wheel 빌드 플래그(cu113)를 일치시켜야 런타임 충돌을 방지할 수 있다1.
  3. GPU 하드웨어 아키텍처 제약: 본문에서 사용한 GTX 1070은 파스칼(Pascal) 아키텍처(Compute Capability 6.1) 기반으로, 튜링(Turing) 또는 암페어(Ampere) 아키텍처 이후 도입된 텐서 코어(Tensor Core) 하드웨어 가속(FP16/BF16 혼합 정밀도 훈련)을 지원하지 않는다. 따라서 상위 모델 훈련 시에는 GPU 아키텍처 호환성과 하드웨어 요구사양을 사전에 점검해야 한다.

References

  1. PyTorch 공식 문서 - 이전 버전 설치 매트릭스 (https://pytorch.org/get-started/previous-versions/) ↩ ↩2

  2. TensorFlow 공식 문서 - Windows 환경 테스트 빌드 구성 (https://www.tensorflow.org/install/source_windows#tested_build_configurations) ↩ ↩2 ↩3

  3. NVIDIA 공식 드라이버 다운로드 센터 (https://www.nvidia.com/download/index.aspx) ↩ ↩2

  4. NVIDIA Developer - Deep Learning Software Stack (https://developer.nvidia.com/deep-learning-software) ↩

  5. TensorFlow 공식 문서 - GPU 지원 설치 가이드 (https://www.tensorflow.org/install/gpu) ↩

  6. Microsoft Visual Studio 공식 다운로드 (https://visualstudio.microsoft.com/ko/downloads/) ↩

  7. NVIDIA CUDA Toolkit Archive 공식 문서 (https://developer.nvidia.com/cuda-toolkit-archive) ↩

  8. NVIDIA cuDNN 공식 개발자 페이지 (https://developer.nvidia.com/cudnn) ↩

  9. TensorFlow 공식 설치 가이드 - Windows 네이티브 환경 GPU 지원 중단 및 WSL2 권장 (https://www.tensorflow.org/install/pip#windows-native) ↩

댓글남기기

참고