ubuntu18下深度学习环境的构建——安装配置篇
文章目录
- 零、前言
-
- 机器型号
- 一、必要配置
-
- 1.1 远程桌面安装
- 1.2 相关镜像源配置
- 1.3 命令行配置
- 1.4 网络配置
- 1.5 ssh安装
- 1.6 创建用户和组
- 1.7 硬盘自动加载
- 二、软件安装
-
- 2.0 dotfiles的哲学
- 2.1 zsh
-
- oh my zsh
- 插件管理
- 2.2 替换你的cd命令 z.lua
- 2.3 miniconda
- 2.4 nvim
- 2.5 CUDA驱动安装
-
- 2.5.1 成功安装方式
- 2.5.2 失败安装方式
- 2.6 tmux 配置
- 3 docker服务部署
-
- 3.1 gitlab
-
- 搭建
- 使用
- 3.2 overleaf
- 四、后话
- 参考与问题
零、前言
本文总结了在Ubuntu上的深度学习环境配置方法，大部分可类比到其他机型、系统上。尽管笔者装过不少系统，但鲜有总结方法经验。之前即没有形成一个体系成笔记记录下来，也没有形成自己的dotfiles使得能方便地移植到其他环境中。这造成的结果就是，每次换系统都要花大量时间进行折腾。为了加速上手新系统的速度而成此文，并初步构建了自己的dotfiles，目前能够在mac和linux上同步使用。谨以此文致敬在机器上折腾的青春~
实验室师兄毕业，笔者接管服务器一台，开始了维护机器的脏乱累之旅。中间经历了
拆
拆
以及出了问题蹲在一角研究到深夜的时刻…
Anyway，对一个Unix爱好者来讲，这是痛并快乐着的。
机器型号
笔者安装的第一台机器为戴尔Precision 7920塔式工作站，原本系统为windows，直接重装成Ubuntu18.04.04。第二台为一个组装机，两个2080Ti显卡，但安装的系统和上一台一样。
一、必要配置
1.1 远程桌面安装
远程桌面安装其实不难，一个安装脚本就能搞定xrdp桌面的安装，笔者尝试了多种远程桌面的方式，虽然安装时挺折腾，但最后都成功了：
- XRDP，写了一篇博客 总结了XRDP和nomachine的安装方式 ✨✨✨推荐
- No machine 参考同上，这个方案还不错，但目前发现只能一个人连接（意思是需要氪金）。安装参考了这篇博客，并且还要按这篇博客来配置，方可正常使用。使用之余感慨Unix软件还是商业的做的漂亮…
- VNC, 根据这个教程装好了，个人感受使用体验一般般，遂再也没用过。
- 续：从github 找到的脚本，也安装成功了。
echo "================================="
echo " Installing firefox / xrdp / etc "
echo "================================="
sudo apt-get update -y
sudo apt-get install -y xfce4 xfce4-goodies
sudo apt-get install -y firefox
sudo apt-get install -y xrdp
echo xfce4-session >~/.xsession
sudo service xrdp start
1.2 相关镜像源配置
尽管下一条解决了这个问题，但是还是建议配好镜像源，毕竟快~
笔者目前经常需要apt, conda, pip，docker等进行联网下载，因此镜像源是必须要配置的。源头可以使用清华源，建议把配置操作自动化成脚本。
1.3 命令行配置
略
1.4 网络配置
笔者最开始ip相关配置是直接在图形界面设置好的，因此没有使用命令行。图形界面配置一般不会有问题。中间笔者配第二台机器的时候，把子网掩码写错了，外界网站一直连不上，为此又折腾命令行的相关网络配置。查找资料的时候发现ubuntu管理网络的命令比较繁杂，ubuntu18.04.04使用的是netplan。
网络的配置写在/etc/netplan/01-network-manager-all.yaml这个文件。如果你想通过配置文件和命令行的方式来配置的话，可以编辑这个文件，初始内容如下
renderer这一行表示你想通过图形界面配置网络，如果是的那么后面就不用写了。通过文件来管理笔者从网上找到的一个例子如下
# Let NetworkManager manage all devices on this system
network:
version: 2
# renderer: NetworkManager
ethernets:
ens33:
addresses: [192.168.0.111/24]
gateway4: 192.168.0.1
nameservers:
addresses: [192.168.0.1]
要注意yaml文件的同级缩进一致，以及和自己的网络各种配置保持一致。填错一个配置，可能会坑你一些时间！
1.5 ssh安装
我装的ubuntu18.04没有ssh服务端，还需要安装，才能从外界ssh连入。参考
sudo apt-get install openssh-server
1.6 创建用户和组
管理用户和组是系统管理员最基本的要求
groupadd deepones docker # 新增两个组，以后所有成员加到这个组。添加docker组是为了让用户不用sudo就可以使用docker
adduser qiangzibro # 新增成员
#把成员加到组里去
adduser qiangzibro sudo #这个操作更简单
usermod -a -G sudo qiangzibro # 等价
#改变login shell为zsh
chsh --shell /usr/bin/zsh qiangzibro
- 将所有用户添加到
deepones组下
参考了一篇国外博客
for ID in $(cat /etc/passwd | grep /home | cut -d ':' -f1); \
do (sudo adduser $ID deepones);done
再更：直接用下面这种方式也很简单
for ID in `ls /home`; \
do (sudo adduser $ID deepones);done
Note：后期要使用docker，还需要建一个叫docker的分组，把所有人加进来。解决了docker要用sudo的问题，也就是说，你不用sudo也能用docker命令了。
1.7 硬盘自动加载
实验室新买了两块2TB硬盘，放进机器后进行了分区、创建文件系统、开机自启设置操作，才能够进行使用。参考这里
fdisk /dev/sdc # 对2TB硬盘进行分区，sd后面具体实际根据fdisk -l来看
mkfs.ext4 /dev/sdc # 在硬盘上创建文件系统
partprobe /dev/sdc #不使用这个会报错
- 手动挂载硬盘
mount /dev/sdb /mnt/2TB
- 开机时自动挂载硬盘
打开/etc/fstab，对要开机自动加载的硬盘设置如下：
- 做软链接
我希望在每个硬盘下都建立了以用户为名字的文件，并建立了软链接到所有用户家目录。这样每个用户的家目录下面都可以看到对应硬盘的文件夹，同时又不会公用一个文件夹。像这样：
for hardware in `realpath *TB*`
do
hardware_name=`basename $hardware`
for user in `ls /home`
do
dir="$hardware"/"$user"
linkdir=/home/"$user"/"$hardware_name"
echo "$dir --> $linkdir"
mkdir -p $dir
ln -s $dir $linkdir
chown -R "$user":deepones $dir
chown -R "$user":deepones -h $linkdir
done
done
二、软件安装
2.0 dotfiles的哲学
一台空机器往往需要一些必备的工具，干活起来才会更“舒服”。不同人喜欢不同的软件，不同的配置。笔者也有自己的一套习惯，比如命令行终端的ohmyzsh，编辑文件使用neovim再加上自己的vimrc等等。而在新机器手动安装不同的软件、配置往往会花掉我们很多功夫。想要加速这个过程，可以编写自己的安装脚本，又或者使用容器技术，使得在任何环境下都有同样的配置。在知乎大神韦易笑的文章下，我建立自己的Qdotfiles，并自动化了配置和安装的过程，只需下面一个命令：
bash -c "$(curl -fsSL https://raw.githubusercontent.com/QiangZiBro/Qdotfiles/master/scripts/bootstrap.sh)"
并写了一个Dockerfile，让我的配置在容器里也能测试成功，这个过程中联系了一波docker的使用。要注意的是，Qdotfiles还处于个人维护阶段，直接拿到自己的系统使用也许仍然会有一些问题，但是可以使用容器，进行一些小的尝试。
下面常见的安装，都会总结到Qdotfile项目里。
2.1 zsh
oh my zsh
以前一直想装一次ohmyzsh，所有用户使用，后来读了这条建议后，发现没有必要。ohmyzsh是一套配置，它的核心还是zsh，每个用户各安装各自的配置即可。安装方式：
sh -c "$(curl -fsSL https://raw.githubusercontent.com/ohmyzsh/ohmyzsh/master/tools/install.sh)"
上面一条安装完了，想改变用户的登录shell为zsh，使用
sudo chsh $USER -s $(which zsh)
插件管理
使用zplug，官方给的安装命令：
curl -sL --proto-redir -all,https https://raw.githubusercontent.com/zplug/installer/master/installer.zsh | zsh
将类似于下面的语句放在~/.zshrc里面，我用的插件有
zplug 'plugins/git', from:oh-my-zsh, if:'which git'
zplug romkatv/powerlevel10k, as:theme, depth:1
# zplug "plugins/vi-mode", from:oh-my-zsh
zplug 'zsh-users/zsh-autosuggestions'
zplug 'zsh-users/zsh-completions', defer:2
zplug 'zsh-users/zsh-history-substring-search'
zplug 'zsh-users/zsh-syntax-highlighting', defer:2
2.2 替换你的cd命令 z.lua
从skywind3000大佬那里安利的工具
git clone https://github.com/skywind3000/z.lua /usr/softwares/z.lua
sudo apt install -y lua5.3
sudo ln -s /usr/bin/lua5.3 /usr/bin/lua
#接着在.zshrc添加
eval "$(lua5.3 /usr/softwares/z.lua/z.lua --init zsh)"
Note：笔者后来用了zsh-autosuggestions插件后，发现用z的机会也少了。不过各有千秋，目录跳转比刀耕火种的cd好多了，哈哈！
2.3 miniconda
安装脚本来自我的dotfiles，我将miniconda直接安装在了/usr文件夹，其实安装在/usr/softwares下更好，不过无伤大雅
conda_linux=~/.Qdotfiles/downloads/miniconda3_linux.sh
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O $conda_linux
sudo bash $conda_linux -p /usr/miniconda3 -b -u
- conda安装后，将各个常见的pytorch版本创建了一遍
for i in {12..17}
do
conda create -n torch$i python=3.7 -y
done
再从官网下载对应的包。
- 使用Tips
为每一个项目单独创一个环境，不同环境不要混用。比如自己项目需要torch12版本，以及其他依赖包，可以首先克隆torch12这个环境：
conda create -n 项目名称 --clone torch12
激活环境并在这个环境下进行构建：
conda activate 项目名称
conda install ...
pip install ...
2.4 nvim
我写的安装脚本，包括了
- 下载
- 安装
- 插件配置
等操作。更多常用软件安装，会总结在自己的dotfiles里。
2.5 CUDA驱动安装
查看GPU版本
➜ ~ lspci | grep -i nvidia
3b:00.0 VGA compatible controller: NVIDIA Corporation GP100GL [Quadro GP100] (rev a1)
3b:00.1 Audio device: NVIDIA Corporation Device 0fb1 (rev a1)
2.5.1 成功安装方式
- 安装必备软件
sudo su
apt-get install gcc linux-headers-generic linux-source build-essential -y
- 禁用nouveau，虽然不知道有啥用，照做了。
# 1
cat << EOF >>/etc/modprobe.d/blacklist-nouveau.conf
blacklist nouveau
options nouveau modeset=0
EOF
# 2
update-initramfs -u
# 3
reboot
-
在BIOS里禁用系统的secure boot
-
下载驱动、安装
遇到很多错误后，最终谷歌到这个地址，安装了对应我们Quadro GP100的驱动。注意，一定要对应版本！！
注： 笔者又装了一个2080Ti的驱动，也是在这里找到对应的驱动！切记不要盲目下驱动！看清楚对应自己的版本，系统。
下载后，可能还需一些配置，笔者成功安装之前至少做了两个配置
2.5.2 失败安装方式
留个纪念吧，致敬我在上面浪费掉的时间
失败原因：没有下载对正确的驱动，参考上面的链接进行下载
流程复现：直接进入英伟达官网，就开始选择驱动进行安装。看了官方安装步骤文档，我采用runfile安装的方式，盲目地下载了官网首页给的安装包 ，这个文件有2G多，下载到了/usr/softwares/downloads/下，照着官方文档的步骤安装，没有成功。
报错：
打开这个日志文件
注意到官网说GP100支持cuda10.2，我装的是cuda11.0
再去装10.2，仍以失败告终。
2.6 tmux 配置
tmux是一个优秀的终端复用软件，如果您经常使用终端，建议马上使用它！相信我你不会后悔。
- 首先安装
sudo apt install tmux -y - 安装好了就可以使用了，但为了更美（装）观（x）怎能止步于此！下载插件管理器
git clone https://github.com/tmux-plugins/tpm ~/.tmux/plugins/tpm - 在配置文件
~/.tmux.conf里写上你需要的插件，笔者使用了onedark主题，目前觉得还不错。
笔者目前的配置文件内容
# Open in same directory
bind c new-window -c "#{pane_current_path}"
bind '"' split-window -c "#{pane_current_path}"
bind % split-window -h -c "#{pane_current_path}"
# List of plugins
set -g @plugin 'tmux-plugins/tpm'
set -g @plugin 'tmux-plugins/tmux-sensible'
set -g @plugin 'odedlaz/tmux-onedark-theme'
# Other examples:
# set -g @plugin 'github_username/plugin_name'
# set -g @plugin '[email protected]:user/plugin'
# set -g @plugin '[email protected]:user/plugin'
# Initialize TMUX plugin manager (keep this line at the very bottom of tmux.conf)
run '~/.tmux/plugins/tpm/tpm'
tmux source ~/.tmux.conf让配置生效- 生效后，还不能立即看到效果，这是因为没下载插件，只需要打开tmux，然后
I Ctrl+B
其他命令：
U 更新所有已安装插件
Alt U 移除所有插件列表中不存在的插件
3 docker服务部署
服务器配好了，配置一些服务供日常使用，下面是经常用的几个：
3.1 gitlab
参考韦大佬的文章，真的只要半分钟！
搭建
搭建一个gitlab其实非常简单，只需要半分钟，前提是用对合适的工具, 这个工具就是docker，参考搭建教程。作为管理员，搭建好之后直接docker-compose up -d就可以舒舒服服放在后台运行了。
使用
- 首先注册一个账号
接着登录就ok - 免密使用
使用https和ssh连接都可以，笔者使用的是https方式，进行下面的配置可以免得每次push都要输用户名和密码。在mac和Linux的~/.git-credentials里写入账号密码
# ~/.git-credentials
https://你的名字:你的密码@你的ip地址:8443
让配置生效，不然会发现还是要输密码。
git config --global credential.helper store
3.屏蔽自签证书的验证，不然会报http错误git SSL certificate problem。
git config --global http.sslVerify "false"
3.2 overleaf
参考知乎文章。
Overleaf是开源的在线Latex编辑器软件，个人用户可以在Overleaf官网注册并免费使用Overleaf，Overleaf官网还具有Review等团队协作功能。但是Overleaf官网在国内的访问速度不佳，科学上网后速度才满足日常需求。因此，对于科研团队来说，在自己的服务器上部署Overleaf，从此为整个团队都省去了安装Latex各种包的繁琐，多么幸福的事。需要说明的事，目前开源的个人版本的Overleaf功能没有Overleaf官网齐全，也许还有些小bug，但是就目前的使用来说，足够日常使用了。
我对docker compose文件改了两个地方，一个是映射端口，另一个是挂载目录：
四、后话
建议每位学习计算机的小伙伴都学习一下linux，因为了解之后，对许多方向（比如做深度学习、后端开发等等）同学的工作非常方便。你可以不用纠结开发系统和娱乐系统之间的定夺，linux系统就用来做开发好了，两者兼得mac了解一下?
参考与问题
-
应该把软件装在哪个地方？
说实话，之前使用了Linux这么久，我并没有特别注意装哪里，有时候装在家目录，有时候装在系统里。一般情况下，我们知道的软件，可以联系管理员装在/usr/local或者 /opt/。我现在选用的方式是，把软件装在/usr/softwares，然后给这个文件夹赋给一个组，组员都能访问到。
https://askubuntu.com/questions/6897/where-to-install-programs -
新用户创建
https://www.tecmint.com/manage-users-and-groups-in-linux/ -
共享文件夹的创建
https://www.tecmint.com/create-a-shared-directory-in-linux/ -
戴尔工作站（Precision 7920）安装双系统win10+ubuntu18.04
https://blog.csdn.net/jcsm__/article/details/105937544 -
Linux有哪些命令行神器值得使用？
https://mp.weixin.qq.com/s/Mn5Vlftwm_mSt3RY-rI8dw