欢迎大家关注公众号猫说AI,接入了ChatGPT,供大家免费使用。
预告:下期我们将基于ubuntu生成虚拟数字主播小艾!
当涉及到深度学习和GPU计算时,CUDA和cuDNN是两个重要的工具。
CUDA(Compute Unified Device Architecture)是由NVIDIA开发的并行计算平台和API模型。它允许开发人员使用NVIDIA GPU进行通用目的的并行计算。CUDA为开发者提供了一套编程工具和库,使他们能够有效地利用GPU的并行计算能力。通过CUDA,开发者可以在GPU上执行大规模并行计算任务,从而加速各种类型的计算,包括科学计算、图形处理、机器学习和深度学习等。
cuDNN(CUDA Deep Neural Network Library)是NVIDIA提供的用于深度神经网络加速的CUDA库。它为深度学习框架提供了高性能的GPU加速,使得训练和推理过程更加高效。cuDNN提供了一组高度优化的函数和算法,用于卷积神经网络(CNN)、递归神经网络(RNN)和其他常用的深度学习操作。通过使用cuDNN,深度学习框架能够充分利用GPU的并行计算能力,加速神经网络的训练和推理过程,从而提高深度学习模型的性能和效率。
综上所述,CUDA提供了并行计算平台和编程模型,使开发者能够利用GPU进行通用目的的并行计算;而cuDNN是NVIDIA提供的深度学习库,用于优化和加速深度神经网络的计算。这两个工具的结合使得开发者能够在GPU上高效地进行深度学习任务,从而实现更快速和更强大的模型训练和推理。
系统以ubuntu 20.04为例,显卡为Tesla V100
首先查看你的显卡支持的最高cuda版本
控制台输入
nvidia-smi
下载地址:
https://developer.nvidia.com/cuda-toolkit-archive
这里根据我的显卡驱动选择对应的版本点击链接,选择你对应的系统版本。
官方会给出安装脚本,如下:
依次执行脚本即可。
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-ubuntu2004.pin sudo mv cuda-ubuntu2004.pin /etc/apt/preferences.d/cuda-repository-pin-600 wget https://developer.download.nvidia.com/compute/cuda/11.2.0/local_installers/cuda-repo-ubuntu2004-11-2-local_11.2.0-460.27.04-1_amd64.deb sudo dpkg -i cuda-repo-ubuntu2004-11-2-local_11.2.0-460.27.04-1_amd64.deb sudo apt-key add /var/cuda-repo-ubuntu2004-11-2-local/7fa2af80.pub sudo apt-get update sudo apt-get -y install cuda
验证安装:
终端输入:
nvcc -V
显示11.2即为正确
注意:
如果这里显示10.0,可能是你的系统中安装了10.0版本,需要在环境变量中修改PATH
vi ~/.bashrc
在PATH前面增加cuda11.2的路径
export PATH=/usr/local/cuda-11.2/bin:$PATH
退出执行保存后,执行source生效环境变量
source ~/.bashrc
然后再输入nvcc -V来验证。
下载cudnn,需要注册nvidia账号,故需要魔法,注册流程不细讲,很简单。
https://developer.nvidia.com/rdp/cudnn-download
这里点击Archived cuDNN Releases,下载11.2的版本。对应ubuntu 20.04,下载完成后上传到Linux服务器。
查看你下载的文件版本号,后面会用到:
我下载的是
libcudnn8_8.1.1.33-1+cuda11.2_amd64.deb libcudnn8-samples_8.1.1.33-1+cuda11.2_amd64.deb libcudnn8-dev_8.1.1.33-1+cuda11.2_amd64.deb
打开终端,并进入您下载的cuDNN .deb文件所在的目录。
运行以下命令以安装cuDNN:
sudo dpkg -i libcudnn*.deb
这将使用dpkg工具安装cuDNN的.deb文件。根据您的具体文件名,您可能需要相应地更改libcudnn*.deb
部分。
安装完成后,运行以下命令以更新软件包列表:
sudo apt update
这将确保系统识别并配置cuDNN的安装。
恭喜!您现在已经成功安装了cuDNN。您可以开始在CUDA支持的项目中使用cuDNN进行深度学习任务。
请注意,cuDNN的安装可能需要与您当前使用的CUDA版本相匹配。确保您下载并安装与您系统上已安装的CUDA版本兼容的cuDNN版本。另外,确保从NVIDIA官方网站下载安全的cuDNN文件,以确保文件的完整性和可靠性。
大功告成!到这就结束了,下期我们开始手把手教你创建一个虚拟主播!
然后访问安装指引页,根据官方提示安装
地址:
https://docs.nvidia.com/deeplearning/cudnn/install-guide/index.html
安装Zlib
sudo apt-get install zlib1g
启用仓库,将${OS}替换为你对应的系统版本:
wget https://developer.download.nvidia.com/compute/cuda/repos/${OS}/x86_64/cuda-${OS}.pin sudo mv cuda-${OS}.pin /etc/apt/preferences.d/cuda-repository-pin-600 sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/${OS}/x86_64/3bf863cc.pub sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/${OS}/x86_64/ /" sudo apt-get update
替换后,在终端执行:
我的系统版本是:ubuntu2204
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600 sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/3bf863cc.pub sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/ /" sudo apt-get update
安装cudnn
sudo apt-get install libcudnn8=${cudnn_version}-1+${cuda_version} sudo apt-get install libcudnn8-dev=${cudnn_version}-1+${cuda_version} sudo apt-get install libcudnn8-samples=${cudnn_version}-1+${cuda_version}
这里,需要把版本号替换成你安装的对应版本,我的替换后如下:
注意这里的cudnn版本可从刚才下载的cudnn文件名获得。我的是:
libcudnn8_8.1.1.33-1+cuda11.2_amd64.deb
故cudnn版本为:8.1.1.33-1
cuda版本为:cuda11.2
替换后cudnn安装脚本为:
sudo apt-get install libcudnn8=8.1.1.33-1+cuda11.2 sudo apt-get install libcudnn8-dev=8.1.1.33-1+cuda11.2 sudo apt-get install libcudnn8-samples=8.1.1.33-1+cuda11.2