nvidia-smi面板及命令讲解

nvidia-smi面板解释： 

• NVIDIA-SMI: NVIDIA-SMI是NVIDIA显卡的系统管理接口，可以用于获取显卡硬件和驱动程序的信息，以及进行一些基本的管理和监控操作。

• Driver Version: 530.41.03: 这是NVIDIA显卡驱动程序的版本号，表示当前系统中安装的NVIDIA驱动程序的版本号。

• CUDA Version: 12.1: 这是CUDA的版本号，表示当前系统安装的CUDA版本号为12.1。CUDA是NVIDIA针对GPU的并行计算平台和编程模型，它可以使开发者利用GPU的并行处理能力来加速各种应用程序。

• GPU：GPU编号，从0开始，图中0，1，2，3，4，5，6，7共八块GPU

• Fan：风扇转速（0%-100%），N/A表示没风扇

• Name：GPU名字/类型，图中八块均为NVIDIA GeForce RTX 4090

• Temp：GPU温度（GPU温度过高会导致GPU频率下降）

• Perf：性能状态，从P0（最大性能）到P12（最小性能）

• Pwr：Usager/Cap：GPU功耗，Usage表示用了多少，Cap表示总共多少

• Persistence-M：持续模式状态，持续模式耗能大，但在新的GPU应用启动时花费时间更少，图中均为On

• Bus-Id：GPU总线

• Disp.A：Display Active，表示GPU是否初始化

• Memory-Usage：显存使用率

• Volatile GPU-UTil：GPU使用率，与显存使用率的区别可参考显存与GPU

• Uncorr. ECC：是否开启错误检查和纠错技术，0/DISABLED，1/ENABLED，图中均为N/A

• Compute M：计算模式，0/DEFAULT，1/EXCLUSIVE_PROCESS，2/PROHIBITED，图中均为Default

• Processes：显示每个进程占用的显存使用率、进程号、占用的哪个GPU

拿其中一个做下标记： 

 

nvidia-smi常用选项：

可以通过 nvidia-smi --help 命令查看完整的选项列表和用法说明。

-h 查看帮助手册：nvidia-smi -h 
动态地观察 GPU 的状态：watch -n 0.5 nvidia-smi 
-i 查看指定GPU：nvidia-smi -i 0
-L 查看GPU列表及其UUID：nvidia-smi -L
-l 指定动态刷新时间，默认5秒刷新一次，通过Ctrl+C停止：nvidia-smi -l 5
-q 查询GPU详细信息：nvidia-smi -q
只列出某一GPU的详细信息，可使用 -i 选项指定：nvidia-smi -q -i 0
在所有 GPU 上启用持久性模式：nvidia-smi -pm 1
指定开启某个显卡的持久模式：nvidia-smi -pm 1 -i 0
以 1 秒的更新间隔监控整体 GPU 使用情况：nvidia-smi dmon
以 1 秒的更新间隔监控每个进程的 GPU 使用情况：nvidia-smi pmon

显存和GPU的区别：

显存（Graphics Memory）和GPU（Graphics Processing Unit）是两个不同的概念，它们在计算机图形处理中发挥着不同的作用。

1. 显存：显存是一种专门用于存储图像、纹理、帧缓冲区等与图形处理相关数据的内存。它位于显卡（或集成显卡）上，通常是高速、专用的VRAM（Video Random Access Memory）。显存是GPU读取和写入图形数据的主要存储区域，它具有较高的带宽和低延迟，能够提供快速的数据访问。

   显存的主要作用是存储绘图需要的数据，包括渲染目标、纹理、顶点数据等。它还可以缓存渲染结果，以便快速刷新图像。显存的大小和性能对于图形处理的效率和质量有重要影响，较大的显存容量和更高的带宽可以支持更复杂的图形场景和更高分辨率的显示。

2. GPU：GPU是指Graphics Processing Unit，即图形处理单元。它是一种专门设计用于图形处理和并行计算的硬件设备。GPU负责执行图形渲染、图像处理、计算等任务，通过并行处理大规模数据来提高图形性能和计算速度。

   GPU包含大量的处理单元（CUDA核心、流处理器等），可以同时处理多个并行任务，使得在相同时间内完成更多的计算。GPU通常由显存、处理单元和控制逻辑组成，它们协同工作以执行复杂的图形计算任务。现代GPU还支持通用计算，可以用于加速各种科学计算、深度学习和人工智能等领域的应用。

总结来说，显存是存储图形数据的专用内存，而GPU是用于执行图形处理和并行计算的硬件设备。显存是GPU的一部分，用于存储和访问图形数据，而GPU负责执行计算任务。通过高速的显存和强大的GPU计算能力，可以实现高效的图形渲染和并行计算。