【环境】ubuntu18.04安装CUDA和cuDNN
安装CUDA和cuDNN
安装驱动
安装驱动可以到Nvidia的驱动官网下载，然后按照提示安装。
当在服务器上没有图形用户界面时，一般的方法比较繁琐。此时可以使用如下方法，该方法参考自Github上这个库中的方法。
添加驱动到source list
sudo add-apt-repository ppa:graphics-drivers/ppa
sudo apt update
sudo apt upgrade
使用如下命令查看什么驱动会被安装
ubuntu-drivers devices
输入如下命令可以自动安装最新的驱动
sudo ubuntu-drivers autoinstall
重启后输入如下命令即可查看显卡的状态
nvidia-smi
安装CUDA
下载CUDA，这里CUDA10.1为例子。首先进入Nvidia的CUDA官网，选择CUDA10.1的update 2版本下载。
也可以复制下载的链接，直接在Google Chrome里面下载。下载好以后进入到文件所在的路径下面，输入如下命令
sudo sh cuda_10.1.243_418.87.00_linux.run --override --silent --toolkit
安装cuDNN
进入到cuDNN官网，选择和CUDA版本相匹配的版本，这里以cuDNN v8.0.5为例，选择cuDNN Library for Linux下载。注意这里需要登录，没有账号的需要注册一个。
下载完成后会得到一个.tgz的压缩包，解压得到一个名为cuda的目录，进入目录所在路径，执行以下命令
sudo cp cuda/include/* /usr/local/cuda-10.1/include
sudo cp cuda/lib64/* /usr/local/cuda-10.1/lib64
sudo chmod a+r -R /usr/local/cuda-10.1/include/* /usr/local/cuda-10.1/lib64/*
添加环境变量
输入以下命令
vim ~/.bashrc
在末尾添加如下内容
export LD_LIBRARY_PATH="$LD_LIBRARY_PATH:/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64"
export CUDA_HOME=/usr/local/cuda
保存后退出，在terminal中输入如下命令，使得添加的内容生效
source ~/.bashrc
sudo ldconfig
在terminal中输入如下命令，查看是否添加成功。
echo $CUDA_HOME
如果成功输出路径，则表明添加成功。
添加链接
一般情况下，安装CUDA的时候，会在cuda-10.1文件夹同级的路径下面添加其链接文件，也就是在/etc/local/下会有名为cuda的链接文件。我们在环境变量中添加的路径也就是链接文件的路径。环境变量设置为链接文件的路径有一些好处。首先链接文件只是一个链接，需要制定指向的内容，其本身不占据什么硬盘的空间。其次，我们只需修改链接文件，即可实现CUDA版本的切换。
在相同的路径下我们新建一个脚本，用于创建cuda链接文件。代码如下
#!/bin/bash
sudo rm -rf /usr/local/cuda
sudo ln -s /usr/local/cuda-10.1 /usr/local/cuda
命名为install_cuda_10_1.sh。以后执行该脚本即可完成cuda链接文件的创建。
如果安装了别的版本的CUDA，可以编写其它的链接文件，此时只需将上面代码中的cuda-10.1改为别的cuda文件夹名称，然后保存为另外的脚本即可。需要切换CUDA版本时只需要执行相应的脚本。
在terminal中输入
nvcc --version
输出
nvcc: NVIDIA ® Cuda compiler driver
Copyright © 2005-2019 NVIDIA Corporation
Built on Sun_Jul_28_19:07:16_PDT_2019
Cuda compilation tools, release 10.1, V10.1.243
则表示CUDA已经安装成功
在pytorch1.6.0中测试以下能否使用CUDA，执行以下代码
import torch
print(torch.cuda.is_available())
如果输出True，则表明已经可以正常使用了。
添加pip源
Ubuntu添加pip源
查看有没有~/.pip/pip.conf文件夹，如果没有需要建立
cd ~ && mkdir .pip
cd .pip && vim pip.conf
在pip.conf中写到
[global]
index-url = https://pypi.tuna.tsinghua.edu.cn/simple
一些源的地址如下
| 源 | 地址 |
|---|---|
| 清华 | https://pypi.tuna.tsinghua.edu.cn/simple |
| 阿里云 | http://mirrors.aliyun.com/pypi/simple/ |
| 中国科技大学 | https://pypi.mirrors.ustc.edu.cn/simple/ |
| 华中理工大学 | http://pypi.hustunique.com/ |
| 山东理工大学 | http://pypi.sdutlinux.org/ |
| 豆瓣 | http://pypi.douban.com/simple/ |
windows添加pip源
按住win+E打开文件夹，在路径上输入%appdata%进入目录。如果没有pip文件夹需要创建，然后在文件夹里面创建pip.ini
在文件中写入上述pip.conf一样的配置即可。
卸载CUDA
进入cuda-10.1文件夹，进入bin目录，找到带有uninstall名称的文件执行即可，本人为cuda-10.1/bin/cuda-uninstaller。进入后勾选卸载的内容，执行即可。
执行完成后，可能保留有cuDNN和其它的残余文件，直接将cuda-10.1目录都删除即可。此时会发现，cuda的链接文件已经被删除了，否则自己手动删除该链接文件。
安装时遇到空间不够问题
安装CUDA时空间不够
如果安装CUDA时显示
terminate called after throwing an instance of ‘boost::filesystem::filesystem_error’ what(): boost::filesystem::copy_file: No such file or directory: “./builds/cuda-toolkit/nvml/example/supportedVgpus.c”, “/usr/local/cuda-10.1/nvml/example/supportedVgpus.c” Aborted (core dumped)
则表明根目录不够大，则无法安装。可以删除一些系统日志文件或者安装在/opt下没用的应用，以扩大空间，最后保证起码有8G的空间。
安装cuDNN时发现空间不够
此时不会报错，只是你的根目录已经没有多余的空间了，此时很可能tab键的补全都用不了了。此时如果贸然重启电脑，会陷入开不了机的情况。
如果没有重启，则于上一种情况一样，将cuda卸载，然后清理一些空间再安装。
如果真的重启了，此时不能正确启动，因为没有空间留给系统需要创建的临时文件。解决方法是在grub页面进入recovery mode，选择root。在安全模式下可以进入/usr/local/，执行如下命令
sudo du -cks * | sort -rn | head -10
查看当前目录下最大的10个文件，降序排序，发现果然是CUDA太大了。按上述方法卸载CUDA后，就能成功启动啦 ~(≧▽≦)/~