怎样搭建一个RTX 3090的深度学习工作站（Pytorch）
怎样搭建一个RTX 3090的深度学习工作站
大概描述一下基本情况
GPU 3090
Nvidia Driver 455.23.05
CUDA 11.1.0
Ubuntu20.04 LTS安装（Macbook）
Macbook制作Ubuntu启动盘（用Win的话更简单，百度一下下载对应的软件一键烧写就可以了，只是手头没有win系统的电脑）
从Ubuntu官网(https://cn.ubuntu.com/)下载镜像。我下载的是20.04 LTS版本(http://releases.ubuntu.com/20.04/ubuntu-20.04.1-desktop-amd64.iso)
hdiutil convert -format UDRW -o /此处中文替换为希望生成的img文件所在地址和名字
(一般与源文件同名同目录就行了)/ubuntu-20.04.1-desktop-amd64.img /此处中文对应系统镜像所在地址/ubuntu-20.04.1-desktop-amd64.iso
PS: iso文件的名字不一定跟我的完全一样，如果不一样注意更换
接着unmount U盘
diskutil list
diskutil unmountDisk /dev/disk2
此处/dev/disk2对应diskutil list上的u盘，也可能是/dev/disk1或者/dev/disk3
sudo dd if=/刚刚通过镜像文件生成的文件.img.dmg of=/dev/rdisk2 bs=1m
下载安装conda环境
从官网(https://www.anaconda.com/)下载后安装
sudo dpkg -i 文件路径/anaconda文件名
PS：安装过程中可能出现错误，复制错误信息百度就好了（可能需要更换sourcelist）
安装必要的依赖包
sudo apt install gcc
sudo apt install make
sudo apt install lightdm
其中，安装完lightdm后会提示GDM和Lightdm两个选项，选择Lightdm
禁用Nouveau
这里直接百度就好了，有很多教程
禁用这个的目的是防止集显和显卡冲突（有时候会遇到循环登陆但是无法进入系统的情况，如果遇到了检查下是否已经禁用nouveau）
如果不放心，使用以下命令行确认
lsmod | grep nouveau
如果无任何输出说明已经被禁用
开始安装驱动和CUDA
Cuda和驱动没必要分开安装（一开始我是分开安装的，后来重装系统后发现一起安装更快，而且出错概率也小）
首先下载安装包，我的下载地址是
https://developer.nvidia.com/cuda-11.0-download-archive?target_os=Linux&target_arch=x86_64&target_distro=Ubuntu&target_version=2004&target_type=runfilelocal
这里推荐run格式的文件
wget http://developer.download.nvidia.com/compute/cuda/11.0.2/local_installers/cuda_11.0.2_450.51.05_linux.run
按住CTRL+CTRL+F1、F2 … F6中的一个，进入tty，输入用户名、密码，接着输入
sudo service lightdm stop
此时就没有可视化界面了，所以进来之前记一下下载好的run文件的地址和文件名（如果忘记了，通过‘ls’查看当前目录下的文件夹和文件，用‘cd + 空格 + 文件夹’ 进入指定文件夹）
输入以下指令
sudo sh 文件路径/文件名.run
输入accpet，然后键盘移动到Install，跟着步骤走就可以了。
安装完成后
sudo service lightdm start
Cudnn
从Nvida官网注册账号并下载对应CUDA的版本就可以了（我这里是v8.0.5）
具体网上很多教程这里就不赘述了
开始安装自编译的Pytorch
安装好git
sudo apt install git
进入Github的PyTroch项目(https://github.com/pytorch/pytorch)，往下拉跟着步骤走
conda install numpy ninja pyyaml mkl mkl-include setuptools cmake cffi typing_extensions future six requests dataclasses
conda install -c pytorch magma-cuda111
这里的magma-cuda111是根据安装的cuda版本决定的，具体看https://anaconda.org/pytorch/repo
export CMAKE_PREFIX_PATH=${CONDA_PREFIX:-"$(dirname $(which conda))/../"}
这一步是指具体运用哪个anaconda，可以在运行以上命令后用下面的命令查看（之所以强调这点是，在一开始的时候楼主在conda虚拟环境安装，最后编译完成后对应的是系统的anaconda，这俩不在一个地方）
export | grep CMAKE_PREFIX_PATH
在运行python setup.py install之前需要修改下setup.py文件，找到TORCH_CUDA_ARCH_LIST，将其修改为（如果只是在原先的TORCH_CUDA_ARCH_LIST下加入新的代码是不起作用的，这个有测试过）
# ie `TORCH_CUDA_ARCH_LIST='8.0+PTX'
（参考自https://github.com/pytorch/pytorch/issues/45021）
最后编译（速度取决于你的CPU，一般半个小时左右）
python setup.py install
至此，整个环境安装就算结束了，直接在控制台运行你的python代码就可以了
如果是使用Pycharm的用户，把环境设置在上面提到的CMAKE_PREFIX_PATH对应的Anaconda
如果修改了其他变量想重新编译，可以先删除已经编译的torch再重新重复本章操作
pip uninstall torch
python setup.py clean
工作站远程启动
为了省事买了一个开机棒，远程操控启动
如果有精力自己用树莓派折腾一个也是可以的。
Ubuntu远程无监视器启动
由于是当工作站使用，不需要开屏幕。
尝试过修改GRUB的引导，但都以失败告终（无法在不接显示器的情况下远程开机并成功进入系统）
最后解决方案是几块钱在网上买了一个“HDMI假负载”的东西，轻松模拟接入4K显示器。
但是关于这个问题，如果有亲测可以从设置解决问题的朋友，麻烦告知，非常感谢！
至此，整个工作站安装完成。