Maaaring pabilisin ng PyTorch ang mga aplikasyon ng AI/ML gamit ang isang NVIDIA GPU sa pamamagitan ng NVIDIA CUDA library na katutubong tulad ng TensorFlow.
Sa artikulong ito, ipapakita namin sa iyo kung paano i-install ang PyTorch gamit ang NVIDIA GPU/CUDA acceleration support sa Debian 12 “Bookworm”.
Paksa ng Nilalaman:
- Pag-install ng NVIDIA GPU Drivers sa Debian 12
- Pag-install ng NVIDIA CUDA sa Debian 12
- Pag-install ng Python 3 PIP at Python 3 Virtual Environment (venv) sa Debian 12
- Paglikha ng Python 3 Virtual Environment para sa PyTorch
- Pag-upgrade ng Python 3 PIP sa Pinakabagong Bersyon sa Python 3 PyTorch Virtual Environment
- Pag-install ng PyTorch sa NVIDIA GPU/CUDA Acceleration Support sa Debian 12
- Ina-activate ang PyTorch Python 3 Virtual Environment
- Pag-access sa PyTorch at Pagsuri Kung Available ang NVIDIA GPU/CUDA Acceleration
- Konklusyon
Pag-install ng NVIDIA GPU Drivers sa Debian 12
Para gumana ang PyTorch NVIDIA GPU/CUDA acceleration, kailangan mo i-install ang mga driver ng NVIDIA GPU sa Debian 12 . Kung kailangan mo ng anumang tulong sa pag-install ng mga driver ng NVIDIA GPU sa iyong Debian 12 system, basahin ang artikulong ito .
Pag-install ng NVIDIA CUDA sa Debian 12
Para gumana sa Debian 12 ang PyTorch NVIDIA GPU/CUDA acceleration, kailangan mo i-install ang NVIDIA CUDA sa Debian 12 . Kung kailangan mo ng anumang tulong sa pag-install ng NVIDIA CUDA sa iyong Debian 12 system, basahin ang artikulong ito .
Pag-install ng Python 3 PIP at Python 3 Virtual Environment (venv) sa Debian 12
Upang mai-install ang PyTorch sa Debian 12, kailangan mong i-install ang Python 3 PIP at Python virtual environment (venv).
Una, i-update ang APT package repository cache gamit ang sumusunod na command:
$ sudo angkop na pag-update 
Upang i-install ang Python 3 PIP at Python 3 virtual environment (venv), patakbuhin ang sumusunod na command:
$ sudo apt i-install python3-pip python3-venv python3-dev Upang kumpirmahin ang pag-install, pindutin ang 'Y' at pagkatapos ay pindutin
Ini-install ang Python 3 PIP at Python 3 venv. Ito ay tumatagal ng ilang sandali upang makumpleto.
Sa puntong ito, dapat na mai-install ang Python 3 PIP at Python 3 venv.
Paglikha ng Python 3 Virtual Environment para sa PyTorch
Ang karaniwang kasanayan para sa pag-install ng mga aklatan ng Python sa Debian 12 ay ang pag-install ng mga ito sa isang virtual na kapaligiran ng Python upang hindi sila makagambala sa mga pakete/aklatan ng Python ng system.
Upang lumikha ng bagong Python 3 virtual na kapaligiran para sa PyTorch sa '/opt/pytorch' na direktoryo, patakbuhin ang sumusunod na command:
$ sudo python3 -m venv / opt / pytorchPag-upgrade ng Python 3 PIP sa Pinakabagong Bersyon sa Python 3 PyTorch Virtual Environment
Upang i-upgrade ang Python 3 PIP sa pinakabagong bersyon sa Python 3 “/opt/pytorch” virtual environment, patakbuhin ang sumusunod na command:
$ sudo / opt / pytorch / bin / pip3 i-install --upgrade pip 
Pag-install ng PyTorch sa NVIDIA GPU/CUDA Acceleration Support sa Debian 12
Para gumana ang PyTorch NVIDIA GPU/CUDA acceleration, dapat mong i-install ang tamang bersyon ng PyTorch na sumusuporta sa bersyon ng driver ng NVIDIA CUDA na na-install mo sa iyong Debian 12 system. Sa oras ng pagsulat na ito, sinusuportahan ng PyTorch ang bersyon ng driver ng NVIDIA CUDA 11.8 at 12.1. Para sa na-update na impormasyon sa mga bersyon ng driver ng NVIDIA CUDA na sinusuportahan ng PyTorch, suriin ang opisyal na website ng PyTorch .
Upang suriin ang bersyon ng driver ng NVIDIA CUDA na na-install mo sa iyong Debian 12 system, patakbuhin ang sumusunod na command. Gaya ng nakikita mo, mayroon kaming NVIDIA CUDA version 11.8 na naka-install sa aming Debian 12 system.
$ nvcc --bersyon 
Upang i-install ang PyTorch na may suporta sa NVIDIA CUDA 11.8 sa virtual na kapaligiran ng PyTorch Python 3, patakbuhin ang sumusunod na command:
$ sudo / opt / pytorch / bin / pip3 i-install torch torchvision torchaudio --index-url https: // download.pytorch.org / whl / may 118Upang i-install ang PyTorch na may suporta sa NVIDIA CUDA 12.1 sa virtual na kapaligiran ng PyTorch Python 3, patakbuhin ang sumusunod na command:
$ sudo / opt / pytorch / bin / pip3 i-install torch torchvision torchaudioIni-install ang PyTorch sa virtual na kapaligiran ng PyTorch Python 3. Ito ay tumatagal ng ilang sandali upang makumpleto.
Sa puntong ito, dapat na mai-install ang PyTorch sa virtual na kapaligiran ng PyTorch Python 3
Ina-activate ang PyTorch Python 3 Virtual Environment
Upang i-activate ang PyTorch Python “/opt/pytorch” virtual environment, patakbuhin ang sumusunod na command:
$ . / opt / pytorch / bin / buhayinAng PyTorch Python 3 virtual na kapaligiran ay dapat i-activate.
Pag-access sa PyTorch at Pagsuri Kung Available ang NVIDIA GPU/CUDA Acceleration
Upang buksan ang Python 3 interactive shell, patakbuhin ang sumusunod na command:
$ sawa3Dapat buksan ang Python 3 interactive shell.
Una, i-import ang PyTorch na may sumusunod na linya ng code:
$ import na tanglaw 
Upang suriin ang bersyon ng PyTorch na iyong na-install, patakbuhin ang sumusunod na linya ng code. Tulad ng nakikita mo, pinapatakbo namin ang PyTorch 2.1.0 na may suporta sa pagpapabilis ng NVIDIA CUDA 11.8 (cu118).
$ tanglaw.__bersyon__ 
Upang suriin kung kaya ng PyTorch na gamitin ang iyong NVIDIA GPU para sa NVIDIA CUDA acceleration, maaari mo ring patakbuhin ang sumusunod na linya ng code. Kung available ang suporta sa NVIDIA CUDA, ipi-print ang 'True'.
$ torch.cuda.is_available ( )Kung marami kang GPU na naka-install sa iyong computer, maaari mong tingnan ang bilang ng mga GPU na magagamit ng PyTorch sa sumusunod na linya ng code. Gaya ng nakikita mo, mayroon kaming NVIDIA GPU (RTX 4070) na naka-install sa aming Debian 12 system.
$ torch.cuda.device_count ( )Upang lumabas sa Python interactive shell, patakbuhin ang sumusunod na linya ng code:
$ huminto ( )Konklusyon
Sa artikulong ito, ipinakita namin sa iyo kung paano i-install ang Python 3 PIP at Python 3 virtual environment (venv) sa Debian 12. Ipinakita rin namin sa iyo kung paano lumikha ng Python 3 virtual environment para sa PyTorch sa Debian 12 at kung paano i-install ang PyTorch gamit ang NVIDIA CUDA 11.8 at 12.1 acceleration support sa Debian 12 din. Sa wakas, ipinakita namin sa iyo kung paano i-activate ang PyTorch Python virtual na kapaligiran at i-access ang PyTorch sa Debian 12.