Docker Desktop 中使用GPU
Docker Desktop 中使用GPU
2021-06-12
端午放假，没有回家，配置了一下环境，实现了在Windows 系统下 Docker Desktop 容器中使用GPU。记录一下过程。
据说在docker 容器内使用GPU属于显卡透传。
环境需求和软件版本
我的环境如下：
- win10 版本21390
- WSL2 5.4.72
- Docker Desktop 20.10.7
- CUDA driver for WSL2 470.76，同时 CUDA Version: 11.4
- 显卡：NVIDIA GeForce 1060
说明
一开始，在docker容器中使用GPU，需要在宿主机安装nvidia-docker。且在启动容器的时候使用 --runtime=nvidia选项。
nvidia-docker 是英伟达官方的项目，只支持Linux系统，所以windows上不能实现。
到了 19.03 版本，Docker 提供了对GPU的原生支持（同时 nvidia-docker 就过时了）。
这个时候docker 内置的gpu支持，需要安装 nvidia-container-runtime，然后启动容器的时候带上 --gpus all 参数（代替了
旧参数–runtime=nvidia），就像这样 docker run -it --rm --gpus all ubuntu nvidia-smi。
Q. Linux 下呢？
ps：这两段信息是从别处看到的，仅供参考。
现在（2021-06-12），Win10 + WSL2 + Docker Desktop + CUDA driver for WSL2 就能用了。
注：
- 只需要在宿主机上安装 CUDA for WSL2 驱动，不用其它cuda驱动
- 不需要在 WSL2 中安装任何 CUDA 驱动，win10安装 CUDA for WSL2 驱动之后，wsl2 内会自动有对应的驱动。
- 不需要在 WSL2中安装dockerd，因为最新的 Docker Desktop 支持使用 WSL2 backend，用 WSL2 backend，启动的容器不需要额外配置就能
直接访问到GPU。
安装过程
安装之前，我电脑已经启用了WSL2，并安装了 Docker Desktop 20.10.7，Window是版本是专业版 19043。以此为起点，我的环境还差两步：
- 安装 CUDA for WSL2 驱动
- 把 Windows 10 升级到 21390
这两步不分先后，先执行哪个都一样。
安装 CUDA for WSL2 驱动
从CUDA for WSL2下载驱动，根据显卡类型（GEFORCE 或者 QUADRO ）选择对应的下载链接。
这个驱动还不是正式发行版。下载这个驱动需要注册账号。下载完成后点击执行，安装完成后重启系统。
升级win10到 21390
按微软官网的操作步骤进行Windows Insider。
当前（2021-06-12）windows 最新的稳定发布版是 19043，而显卡透传需要升级到 windows 21332，这是个测试版。
当前最新的测试版是 21390。
基本步骤是：
- 在微软官网注册 Windows Insider Program 账号，注册地址：
Windows Insider，注册完成后登录。注册的时候可以使用已有的
windows账号。 - 在windows系统打开
菜单路径：Settings > Update & Security > Windows Insider Program，点击 Get Started 按钮，点击 +，接下来选择 dev 通道。
重启电脑，使配置生效。 - 更新系统。
选择dev通道后，就能更新到最新版本了。
菜单路径 Settings > Update & Security > Windows Update，然后点击 Check for updates，接着就是等待了。
windows 会下载更新并自动安装，安装完成后需要重启电脑。
这一步更新需要一点时间。
注：第二步，Windows Insider Program 对应的中文是 Windows 预览体验计划。
注：第二步，可能会发现 Windows Insider Program 面板一片空白，无法选择通道。修复方式如下。
以管理员权限启动 Powershell，执行如下语句后重启电脑即可。
$path = "HKLM:\SOFTWARE\Microsoft\Windows\CurrentVersion\Policies\DataCollection"
# Telemetry level: 1 - basic, 3 - full
$value = "3"
New-ItemProperty -Path $path -Name AllowTelemetry -Value $value -Type Dword -Force
New-ItemProperty -Path $path -Name MaxTelemetryAllowed -Value $value -Type Dword -Force
命令执行成功的输出
AllowTelemetry : 3
PSPath : Microsoft.PowerShell.Core\Registry::HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows\CurrentVersion\Policies\DataCollection
PSParentPath : Microsoft.PowerShell.Core\Registry::HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows\CurrentVersion\Policies
PSChildName : DataCollection
PSDrive : HKLM
PSProvider : Microsoft.PowerShell.Core\Registry
MaxTelemetryAllowed : 3
PSPath : Microsoft.PowerShell.Core\Registry::HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows\CurrentVersion\Policies\DataCollection
PSParentPath : Microsoft.PowerShell.Core\Registry::HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows\CurrentVersion\Policies
PSChildName : DataCollection
PSDrive : HKLM
PSProvider : Microsoft.PowerShell.Core\Registry
验证容器中是否可以使用 GPU
打开 WSL2，执行下面这条命令，
docker run --gpus all nvcr.io/nvidia/k8s/cuda-sample:nbody nbody -gpu -benchmark
看到如下输出，说明安装成功
> Windowed mode
> Simulation data stored in video memory
> Single precision floating point simulation
> 1 Devices used for simulation
GPU Device 0: "Pascal" with compute capability 6.1
> Compute 6.1 CUDA device: [NVIDIA GeForce GTX 1060]
10240 bodies, total time for 10 iterations: 9.040 ms
= 115.995 billion interactions per second
= 2319.891 single-precision GFLOP/s at 20 flops per interaction
如果GPU不可用，会出现类似下面的报错：
Running hook #0:: error running hook: exit status 1, stdout: , stderr: nvidia-container-cli: initialization error: driver error: failed to process request: unknown.
查看
查看windows内部版本号
有多种方法。
- 方法一：cmd 窗口，执行 winver 命令，在弹出的对话框中，有一段文字
内部版本xxxx，就是内部版本号了。 - 方法二：我的电脑，右键，属性，在弹出的对话框中，有一段文字
操作系统版本 xxxx - 方法三：设置 -> 更新和安全 -> windows 更新，右边栏，相关链接，点击“OS内部版本信息”，有一段文字
操作系统版本 xxxx
查看电脑是否有独立显卡
- 方法一：买的什么型号的电脑，买的时候一般会告诉，或者到网上搜索电脑型号，查询。
- 使用菜单“此电脑，右键，管理”，打开计算机管理对话框，左侧连点击“设备管理器”，右侧面板，下拉，展开“显示适配器”，每个物理显卡
对于一个条目。 - cmd 执行 dxdiag，在弹出的对话框中，如果有两个显卡，会出现“显示1”，“显示2”两个标签页。
注：dxdiag并不是百分之百准确，独立显卡驱动安装不正确的情况下，有可能检测不到独立显卡。
查看nvidia显卡信息
安装好 Nvidia 显卡驱动之后，cmd命令执行 nvidia-smi 命令，有类似如下的输出：
第一行的 Driver Version: 470.76 CUDA Version: 11.4 就是驱动版本和cuda版本。
C:> nvidia-smi
Sat Jun 12 19:40:31 2021
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 470.76 Driver Version: 470.76 CUDA Version: 11.4 |
|-------------------------------+----------------------+----------------------+
| GPU Name TCC/WDDM | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|===============================+======================+======================|
| 0 NVIDIA GeForce ... WDDM | 00000000:01:00.0 Off | N/A |
| N/A 41C P8 4W / N/A | 311MiB / 6144MiB | 0% Default |
| | | N/A |
+-------------------------------+----------------------+----------------------+
+-----------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=============================================================================|
| 0 N/A N/A 1408 C+G Insufficient Permissions N/A |
| 0 N/A N/A 3672 C+G ...8bbwe\WindowsTerminal.exe N/A |
| 0 N/A N/A 6916 C+G ...ekyb3d8bbwe\YourPhone.exe N/A |
| 0 N/A N/A 8208 C+G ...artMenuExperienceHost.exe N/A |
| 0 N/A N/A 9908 C+G ...5n1h2txyewy\SearchApp.exe N/A |
| 0 N/A N/A 11220 C+G ...2txyewy\TextInputHost.exe N/A |
| 0 N/A N/A 12884 C+G ...mesg\WeChat\WeChatApp.exe N/A |
| 0 N/A N/A 13464 C+G ...ms\mesg\WeChat\WeChat.exe N/A |
| 0 N/A N/A 13936 C+G ...cw5n1h2txyewy\LockApp.exe N/A |
| 0 N/A N/A 15880 C+G ...ms\editor\vscode\Code.exe N/A |
| 0 N/A N/A 17288 C+G ...5n1h2txyewy\SearchApp.exe N/A |
+-----------------------------------------------------------------------------+
查看docker desktop 的版本
- 命令 docker version
Client:
Cloud integration: 1.0.17
Version: 20.10.7
Server: Docker Engine - Community
Engine:
Version: 20.10.7
查看 WSL2 内核版本
wsl cat /proc/version
Linux version 5.4.72-microsoft-standard-WSL2 (oe-user@oe-host) (gcc version 8.2.0 (GCC)) #1 SMP Wed Oct 28 23:40:43 UTC 2020
如上，版本是 5.4.72。
参考链接
User Guide — NVIDIA Cloud Native Technologies documentation
CUDA on WSL :: CUDA Toolkit Documentation
CUDA on WSL
【转载】Windows 预览体验计划 空白 不显示内容 - 简书