Начало работы с GPU

Виртуальные машины с графическими процессорами (GPU) позволяют быстро решать задачи, связанные с машинным обучением и обработкой видео.

Изначально виртуальные машины с GPU создаются без предустановленного ПО. Для использования GPU:

1. Отключите возможность использования драйверов nouveau.

   1
   sudo tee -a /etc/modprobe.d/blacklist-nouveau.conf > /dev/null <<-EOF
   2
   blacklist nouveau
   3
   options nouveau modeset=0
   4
   EOF

2. Выполните обновление образа initramfs для корректной работы GPU-устройств, подключенных к ВМ.

   Debian, Ubuntu и подобные

   1
   sudo update-initramfs -u

   CentOS, RedHat, Rocky и подобные

   1
   sudo dracut -f

3. Для вступления изменений в силу выполните перезагрузку ВМ — через UI либо при помощи команды reboot.

   1
   sudo reboot

4. Установите пакет dkms, который позволит избежать переустановки драйверов при смене версии ядра Linux.

   Debian, Ubuntu и подобные

   1
   sudo apt-get install -y dkms

   CentOS, RedHat, Rocky и подобные

   1
   sudo yum install -y epel-release
   2
   sudo yum install -y dkms

5. Скачайте и установите проприетарный NVIDIA® Driver последней версии. Версию последнего релиза можно проверить здесь.

   1
   curl http://international.download.nvidia.com/XFree86/Linux-x86_64/535.43.02/NVIDIA-Linux-x86_64-535.43.02.run -o /tmp/NVIDIA-driver.run
   2
   chmod +x /tmp/NVIDIA-driver.run
   3
   sudo /tmp/NVIDIA-driver.run --dkms --no-cc-version-check --ui=none --no-questions

6. Для проверки установки выполните команду:

   1
   nvidia-smi

   Результат выполнения команды (пример):

   1
   Thu May  4 07:35:45 2023
   2
   +-----------------------------------------------------------------------------+
   3
   | NVIDIA-SMI 515.105.01   Driver Version: 515.105.01   CUDA Version: 11.7     |
   4
   |-------------------------------+----------------------+----------------------+
   5
   | GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
   6
   | Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
   7
   |                               |                      |               MIG M. |
   8
   |===============================+======================+======================|
   9
   |   0  NVIDIA A100 80G...  Off  | 00000000:0B:00.0 Off |                    0 |
   10
   | N/A   47C    P0    71W / 300W |      0MiB / 81920MiB |     22%      Default |
   11
   |                               |                      |             Disabled |
   12
   +-------------------------------+----------------------+----------------------+
   13
   
   14
   +-----------------------------------------------------------------------------+
   15
   | Processes:                                                                  |
   16
   |  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
   17
   |        ID   ID                                                   Usage      |
   18
   |=============================================================================|
   19
   |  No running processes found                                                 |
   20
   +-----------------------------------------------------------------------------+