Ubuntu 16.04 Server 安装深度学习环境(二)(Anaconda+Pytorch+TensorFlow+Caffe2)

Ubuntu 16.04 Server 部署深度学习环境(二)(Anaconda+Pytorch+TensorFlow+Caffe2)

  • 前言
  • 深度学习框架介绍
  • Anaconda(Python环境安装)
  • TensorFlow 安装
  • Pytorch 安装
  • Caffe2 安装

前言

前言:上一篇博客中我们安装了Linux 16.04Server并配置了相关的深度学习环境(CUDA+CUDNN+MKL),本篇博客笔者将带大家安装目前笔者比较多用的三个深度学习框架(Tensorflow,Pytorch,Caffe2),至此深度学习环境的安装到此结束,如有兴趣可以关注后续更新的深度学习框架教学。

深度学习框架介绍

这方面属于概念讲解,不感兴趣的朋友可以直接跳到安装篇幅

先科普一下深度学习框架:

如果读者是刚刚入门的小白,对深度学习的算法一无所知,那么你可以把它看做是一个积木套件,里面有各种各样的积木样式可以让你去自由发挥自己的天马行空。如果不用套件,可以吗?答案肯定是可以的,不过需要搭建出一只粉红小马,可能就需要用小刀去一点一点雕刻出来了。另一个方面,精简的网络搭建,高效的模型训练这是每一个深度学习算法工作者所向往的,但是相较于前端工程,熟悉框架是最基础的一步,会用别人算法的人比比皆是,深度学习更近一步是要创造属于自己的积木,毕竟AI就是富有创造性的嘛n_n@!.

TensorFlow
TensorFlow是Google开发的深度学习框架,由于后台强硬所以其维护和稳定性较高。并且该框架是目前使用最多的,不过笔者并不建议一开始就上手这个框架,因为相当于编程语言中的JAVA,难度介于Caffe2和Pytorch之间。总的来说是综合性很好的框架,并且社群庞大,缺点是上手有些许难度,并且在做开发上成绩一般,不是太友好,毕竟在做应用的程序员眼里离不开编译器的都是辣鸡,笔者一般做科研时会用它。
Pytorch
Pytorch是Facebook开发的深度学习框架,同样也具有很好的兼容性和稳定性。Pytorch晚于TensorFlow发布,所以在设计方面吸取了TensorFlow的一些优点也弥补了一些不足,就上手感觉来看比较简单,适合初学者和快速实现(打竞赛的时候特别推荐,十个里面7个用它)。笔者一般有个idea时会先用它去实现一下,看看效果。社群方面,没有TensorFlow那么大,但是上升态势最好,因为相当于编程语言中的Python,推荐新人入门首选。
Caffe2
看到名字带个2,读者肯定会想到1吧。没错,Caffe是笔者学习的第一门深度学习框架(没错!入门直接Caffe,并且还用它开发了产品)。相较于前面两个框架,Caffe系的优点就是在于它的开发性能,不需要依赖Py环境,虽然很折腾,并且语法复杂,就像C++一样。所以如果要做产品做开发请选择Caffe,特别是遇到甲方打死不让你在他们的机器上装Py环境与任何应用时,就可以用Caffe把程序打包成可执行程序与依赖库,而且Pytorch和Caffe已经合体了♂。目前笔者做项目就是Pytorch快速实现后再转Caffe包装成产品,开发一站式!

Anaconda(Python环境安装)

Python的图标是蛇,因为Python的英文就是译作大蟒,巨蛇。Anaconda也是Python,名字也很感人,Anaconda译作水蟒。Anaconda是专注于数据分析的Python发行版本,包含了conda、Python等190多个科学包及其依赖项。而conda 是开源包(packages)和虚拟环境(environment)的管理系统,类似Python的原始管理系统pip一样,并且conda里面也戴pip。

Anaconda的优点总结起来就八个字:省时省心、分析利器。

省时省心
: Anaconda通过管理工具包、开发环境、Python版本,大大简化了你的工作流程。不仅可以方便地安装、更新、卸载工具包,而且安装时能自动安装相应的依赖包,同时还能使用不同的虚拟环境隔离不同要求的项目。

分析利器
: 在 Anaconda 官网中是这么宣传自己的:适用于企业级大数据分析的Python工具。其包含了720多个数据科学相关的开源包,在数据可视化、机器学习、深度学习等多方面都有涉及。不仅可以做数据分析,甚至可以用在大数据和人工智能领域。

安装步骤

首先先去清华镜像网下载安装镜像https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/

选择与系统匹配与Python版本合适的可执行文件并下载,笔者的系统是Linux x64,选用Python版本为3.6.4
Anaconda3-5.3.0-Linux-x86_64.sh

为了博客效果,我卸载了系统自带的Python和安装好的Anaconda。现在这个系统里面没有Python环境。

Ubuntu 16.04 Server 安装深度学习环境(二)(Anaconda+Pytorch+TensorFlow+Caffe2)_第1张图片

下载后通过ftp软件上传服务器,就可以开始进行安装了,先cd到sh文件所在的目录。

chmod 777 Anaconda-???-Linux-x86_64.sh
sh Anaconda-???-Linux-x86_64.sh

接着一路OK,OK,你是大哥你说的都对,在问是否将Anaconda写入.basrch中 作为$PATH环境变量时,不能回车,默认是NO!!!手敲一个yes进去!

安装vscode时,可以直接选no,因为yes安装可能会错,错了就不用继续yes的,直接no出去吧。因为vscode用不到,可以直接装在本地PC就好

至此Anaconda安装完成,命令行输入Python看看。

Ubuntu 16.04 Server 安装深度学习环境(二)(Anaconda+Pytorch+TensorFlow+Caffe2)_第2张图片

如果没有也不要伤心,因为极有可能是环境变量没有刷新的缘故,这个时候先检查一下环境变量配置文件 .bashrc
如果没有下面这句,将其写入

export PATH="/home/***/anaconda3/bin:$PATH"

然后刷新环境变量

source .bashrc

在Python看看,不出意外是会进入Anaconda的编辑环境。

接着不要急着更新,先进行换源,换成国内的源,这样更新安装会更会也会更稳定,为后面的安装做准备,最好一句一句输入。

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --set show_channel_urls yes

更新源


# 更新 conda 自身
conda update -n base conda

# 更新 anaconda 自身 (选择,这样会更新Python,目前Py37还不是很友好)
conda update anaconda

# 更新所有库 (选择,同上)
conda update --all

TensorFlow 安装

查看可安装的TensoFlow版本

#GPU版本
anaconda search -t conda tensorflow-gpu

#CPU版本
anaconda search -t conda tensorflow

选定自己想要的版本,如果要为了稳定开发最好选择比较旧的版本(1.5左右),而科研自由最好安装比较新一些的版本(笔者目前使用1.7版本),可以选中一个区详细查看,如:

#GPU版本
conda install --channel https://conda.anaconda.org/HCC tensorflow-gpu

#CPU版本
conda install --channel https://conda.anaconda.org/HCC tensorflow

默认安装最新,所以最好指定一下版本

#GPU版本
conda install --channel https://conda.anaconda.org/HCC tensorflow-gpu=1.7.0

#CPU版本
conda install --channel https://conda.anaconda.org/HCC tensorflow=1.7.0

Ubuntu 16.04 Server 安装深度学习环境(二)(Anaconda+Pytorch+TensorFlow+Caffe2)_第3张图片

笔者尝试过直接安装清华镜像上的安装命令(pip),可是安装失败了,安装后搜索不到GPU

验证是否安装成功:

python

import tensorflow as tf
sess = tf.Session()

exit()

这个时候,Tensorflow就会尝试去调用显卡性能,提前做一次性能测试,也会显示目前可用的显卡,CPU版本只会看到CPU。

Ubuntu 16.04 Server 安装深度学习环境(二)(Anaconda+Pytorch+TensorFlow+Caffe2)_第4张图片

至此,TensorFlow安装完毕。(其实TensorFlow都会自己安装CUDA,但是我们之前安装是为了caffe,23333)

Pytorch 安装

先去Pytorch官网https://pytorch.org/
把自己的配置输入进去,然后复制安装指令运行就行了。简单粗暴!!!

Ubuntu 16.04 Server 安装深度学习环境(二)(Anaconda+Pytorch+TensorFlow+Caffe2)_第5张图片

conda install pytorch torchvision cudatoolkit=9.0 -c pytorch

其实吧,我一般直接会直接输入:

conda install pytorch torchvision

因为现在的安装程序十分友好,它会自己去匹配,哈哈!

验证是否安装成功:

python

import torch
torch.cuda.is_available()

exit()

torch.cuda.is_available()如果输出True就是支持GPU,False就是不支持GPU

Ubuntu 16.04 Server 安装深度学习环境(二)(Anaconda+Pytorch+TensorFlow+Caffe2)_第6张图片

Caffe2 安装

相较于Caffe,Caffe2已经友好了许多,但还是不建议初学者去尝试,笔者当时花费了很多的时间去研读Caffe的源代码,过程是及其痛苦的,解决安装时遇到的坑也是掉了不少头发,而且笔者选择基于源码编译的方式去安装,因为后续要做开发。
首先,先git源码到本地:

git clone https://github.com/pytorch/pytorch.git && cd pytorch

切换到root账号更新一下系统依赖:


sudo apt-get update
sudo apt-get install -y --no-install-recommends \
      build-essential \
      git \
      libgoogle-glog-dev \
      libgtest-dev \
      libiomp-dev \
      libleveldb-dev \
      liblmdb-dev \
      libopencv-dev \
      libopenmpi-dev \
      libsnappy-dev \
      libprotobuf-dev \
      openmpi-bin \
      openmpi-doc \
      protobuf-compiler \
      python-dev \
      python-pip

sudo apt-get install -y --no-install-recommends \
  libgtest-dev \
  libiomp-dev \
  libleveldb-dev \
  liblmdb-dev \
  libopencv-dev \
  libopenmpi-dev \
  libsnappy-dev \
  openmpi-bin \
  openmpi-doc \
  python-pydot

sudo -H pip install --upgrade pip
##这里更新一下pip,否则后面pip安装jupyter有可能会报错

sudo pip install \
  flask \
  future \
  graphviz \
  hypothesis \
  jupyter \
  matplotlib \
  pydot python-nvd3 \
  pyyaml \
  requests \
  scikit-image \
  scipy \
  setuptools \
  six \
  tornado

# for Ubuntu 14.04
sudo apt-get install -y --no-install-recommends \
      libgflags2 \
      cmake3

# for Ubuntu 16.04
sudo apt-get install -y --no-install-recommends \
      libgflags-dev \
      cmake

切换回普通账号,conda 安装相关依赖:

conda install future \
      numpy \
      protobuf \
      typing \
      hypothesis

接着更新并初始化生成Cmaktxt,接着编译

git submodule update --init --recursive
python setup.py install

至此Caffe安装完成,途中可能会有些坑,主要是中文路径和编码的问题。如果出现调试不过可以在下方私信给笔者。

测试Caffe是否安装成功,温馨提醒Anaconda3会出现一些报错,建议大家新建环境py27去编译。Ubuntu 16.04 Server 安装深度学习环境(二)(Anaconda+Pytorch+TensorFlow+Caffe2)_第7张图片

cd ~ && python -c 'from caffe2.python import core' 2>/dev/null && echo "Success" || echo "Failure"

*欢迎关注以下公众号以及知乎等支持笔者,不定期会有干货代码放出。谢谢~~~~*

Ubuntu 16.04 Server 安装深度学习环境(二)(Anaconda+Pytorch+TensorFlow+Caffe2)_第8张图片

你可能感兴趣的:(环境搭建,深度学习,人工智能,环境搭建,Python,Caffe2)