PyTorch poate accelera aplicațiile AI/ML folosind un GPU NVIDIA prin biblioteca NVIDIA CUDA în mod nativ, la fel ca TensorFlow.
În acest articol, vă vom arăta cum să instalați PyTorch cu suport de accelerare NVIDIA GPU/CUDA pe Debian 12 „Bookworm”.
Subiect de conținut:
- Instalarea driverelor GPU NVIDIA pe Debian 12
- Instalarea NVIDIA CUDA pe Debian 12
- Instalarea Python 3 PIP și Python 3 Virtual Environment (venv) pe Debian 12
- Crearea unui mediu virtual Python 3 pentru PyTorch
- Actualizarea Python 3 PIP la cea mai recentă versiune în mediul virtual Python 3 PyTorch
- Instalarea PyTorch cu NVIDIA GPU/CUDA Acceleration Support pe Debian 12
- Activarea mediului virtual PyTorch Python 3
- Accesarea PyTorch și verificarea dacă accelerarea GPU/CUDA NVIDIA este disponibilă
- Concluzie
Instalarea driverelor GPU NVIDIA pe Debian 12
Pentru ca accelerarea PyTorch NVIDIA GPU/CUDA să funcționeze, trebuie instalați driverele GPU NVIDIA pe Debian 12 . Dacă aveți nevoie de asistență pentru instalarea driverelor GPU NVIDIA pe sistemul dumneavoastră Debian 12, citeste acest articol .
Instalarea NVIDIA CUDA pe Debian 12
Pentru ca accelerarea PyTorch NVIDIA GPU/CUDA să funcționeze pe Debian 12, trebuie instalați NVIDIA CUDA pe Debian 12 . Dacă aveți nevoie de asistență pentru instalarea NVIDIA CUDA pe sistemul dumneavoastră Debian 12, citeste acest articol .
Instalarea Python 3 PIP și Python 3 Virtual Environment (venv) pe Debian 12
Pentru a instala PyTorch pe Debian 12, trebuie să aveți instalate Python 3 PIP și mediul virtual Python (venv).
Mai întâi, actualizați memoria cache a depozitului de pachete APT cu următoarea comandă:
$ sudo actualizare apt 
Pentru a instala Python 3 PIP și mediul virtual Python 3 (venv), rulați următoarea comandă:
$ sudo apt instalare python3-pip python3-venv python3-dev Pentru a confirma instalarea, apăsați „Y” și apoi apăsați
Python 3 PIP și Python 3 venv sunt în curs de instalare. Durează ceva timp pentru a finaliza.
În acest moment, ar trebui instalate Python 3 PIP și Python 3 venv.
Crearea unui mediu virtual Python 3 pentru PyTorch
Practica standard pentru instalarea bibliotecilor Python pe Debian 12 este instalarea acestora într-un mediu virtual Python, astfel încât să nu interfereze cu pachetele/bibliotecile Python ale sistemului.
Pentru a crea un nou mediu virtual Python 3 pentru PyTorch în directorul „/opt/pytorch”, rulați următoarea comandă:
$ sudo python3 -m venv / opta / pitorcăActualizarea Python 3 PIP la cea mai recentă versiune în mediul virtual Python 3 PyTorch
Pentru a actualiza Python 3 PIP la cea mai recentă versiune în mediul virtual Python 3 „/opt/pytorch”, rulați următoarea comandă:
$ sudo / opta / pitorcă / cos / pip3 instalare --actualizare pip 
Instalarea PyTorch cu NVIDIA GPU/CUDA Acceleration Support pe Debian 12
Pentru ca accelerarea PyTorch NVIDIA GPU/CUDA să funcționeze, trebuie să instalați versiunea corectă a PyTorch care acceptă versiunea driverului NVIDIA CUDA pe care ați instalat-o pe sistemul dumneavoastră Debian 12. La momentul scrierii acestui articol, PyTorch acceptă versiunile driverului NVIDIA CUDA 11.8 și 12.1. Pentru informații actualizate despre versiunile de driver NVIDIA CUDA pe care le acceptă PyTorch, verificați site-ul oficial al PyTorch .
Pentru a verifica versiunea driverului NVIDIA CUDA pe care ați instalat-o pe sistemul dumneavoastră Debian 12, executați următoarea comandă. După cum puteți vedea, avem NVIDIA CUDA versiunea 11.8 instalată pe sistemul nostru Debian 12.
$ nvcc --versiune 
Pentru a instala PyTorch cu suport NVIDIA CUDA 11.8 în mediul virtual PyTorch Python 3, rulați următoarea comandă:
$ sudo / opta / pitorcă / cos / pip3 instalare torch torchvision torchaudio --index-url https: // download.pytorch.org / whl / cu 118Pentru a instala PyTorch cu suport NVIDIA CUDA 12.1 în mediul virtual PyTorch Python 3, rulați următoarea comandă:
$ sudo / opta / pitorcă / cos / pip3 instalare torch torchvision torchaudioPyTorch este instalat în mediul virtual PyTorch Python 3. Durează ceva timp pentru a finaliza.
În acest moment, PyTorch ar trebui să fie instalat în mediul virtual PyTorch Python 3
Activarea mediului virtual PyTorch Python 3
Pentru a activa mediul virtual PyTorch Python „/opt/pytorch”, rulați următoarea comandă:
$ . / opta / pitorcă / cos / ActivatiMediul virtual PyTorch Python 3 ar trebui activat.
Accesarea PyTorch și verificarea dacă accelerarea GPU/CUDA NVIDIA este disponibilă
Pentru a deschide shell-ul interactiv Python 3, rulați următoarea comandă:
$ python3Shell interactiv Python 3 ar trebui deschis.
Mai întâi, importați PyTorch cu următoarea linie de cod:
$ torță de import 
Pentru a verifica versiunea de PyTorch pe care ați instalat-o, rulați următoarea linie de cod. După cum puteți vedea, rulăm PyTorch 2.1.0 cu suport de accelerare NVIDIA CUDA 11.8 (cu118).
$ torță.__versiunea__ 
Pentru a verifica dacă PyTorch este capabil să utilizeze GPU-ul NVIDIA pentru accelerarea NVIDIA CUDA, puteți rula și următoarea linie de cod. Dacă suportul NVIDIA CUDA este disponibil, „True” va fi tipărit.
$ torch.cuda.is_available ( )Dacă aveți mai multe GPU-uri instalate pe computer, puteți verifica numărul de GPU-uri pe care PyTorch le poate folosi cu următoarea linie de cod. După cum puteți vedea, avem GPU-ul NVIDIA (RTX 4070) instalat pe sistemul nostru Debian 12.
$ torch.cuda.device_count ( )Pentru a ieși din shell-ul interactiv Python, rulați următoarea linie de cod:
$ părăsi ( )Concluzie
În acest articol, v-am arătat cum să instalați Python 3 PIP și mediul virtual Python 3 (venv) pe Debian 12. De asemenea, v-am arătat cum să creați un mediu virtual Python 3 pentru PyTorch pe Debian 12 și cum să instalați PyTorch cu NVIDIA CUDA Suport pentru accelerare 11.8 și 12.1 și pe Debian 12. În cele din urmă, v-am arătat cum să activați mediul virtual PyTorch Python și să accesați PyTorch pe Debian 12.