cuda&pytorch

GPU 사용시 cuda 와 pytorch 버젼이 일치 하지 않는다면

warp_rnnt실행이 불가능하다.

연결되었는지 확인하는 방법은

python창에서

import torch

torch.cuda.is_available()

을 실행 시켜 True가 나오면 연결이 된것이고

False가 나오면 GPU연결이 되지 않은 것이다.

GPU연결이 확인 되었으면

cuda버젼 체크를 해주어야 하는데

cmd창에서 nvcc - V 를 입력하여

밑에 나오는 cuda 버젼을 확인하여 준다.

보통 11.1 버젼으로 출력 될 가능성이 높다.

그 후에 pytorch 사이트에 들어가서

cuda버젼과 같은 버젼으로 설치하여 주면 된다.

Reduce inference costs by 71% and drive scale out using PyTorch, TorchServe, and AWS Inferentia. Pushing the state of the art in NLP and Multi-task learning. Using PyTorch's flexibility to efficiently research new algorithmic approaches.

https://pytorch.org/