ubuntu16.04下安装CUDA cuDNN及tensorflow-gpu版本及caffe-gpu过程

原文链接:http://blog.csdn.net/xuzhongxiong/article/details/52717285

电脑配置

  • 系统:Ubuntu16.04
  • GPU:NVIDIA GT720

安装过程

1.安装相关依赖项

sudo apt-get install libprotobuf-dev libleveldb-dev libsnappy-dev libopencv-dev libhdf5-serial-dev protobuf-compiler 
sudo apt-get install --no-install-recommends libboost-all-dev
sudo apt-get install libopenblas-dev liblapack-dev libatlas-base-dev
sudo apt-get install libgflags-dev libgoogle-glog-dev liblmdb-dev
sudo apt-get install python-numpy 

2.安装NVIDIA驱动

(1)查询NVIDIA驱动

首先去官网(http://www.nvidia.com/Download/index.aspx?lang=en-us)查看适合自己显卡的驱动:
这里写图片描述
图1.显卡驱动查询
例如本人电脑的显卡驱动如下图:
这里写图片描述
图2.显卡驱动版本

(2)安装驱动

执行以下指令安装驱动:

sudo add-apt-repository ppa:xorg-edgers/ppa
sudo apt-get update
sudo apt-get install nvidia-384 #注意在这里指定自己的驱动版本

安装完成之后

重启电脑

输入以下指令进行验证:

sudo nvidia-smi

若列出了GPU的信息列表则表示驱动安装成功。

3.安装CUDA

CUDA是NVIDIA的编程语言平台,想使用GPU就必须要使用cuda。

(1)下载CUDA

首先在官网上(https://developer.nvidia.com/cuda-downloads)下载CUDA:
这里写图片描述
图3.CUDA下载

(2)安装CUDA

下载完成后执行以下命令:

sudo sh cuda_8.0.44_linux.run

注意:执行后会有一系列提示让你确认,但是注意,有个让你选择是否安装nvidia361驱动时,一定要选择否:

Install NVIDIA Accelerated Graphics Driver for Linux-x86_64 361.62?

因为前面我们已经安装了更加新的nvidia367,所以这里不要选择安装。其余的都直接默认或者选择是即可。
可能出现的错误:
当出现“unsupport complier”错误时,说明gcc版本太高,需要降低gcc版本。解决办法如下:
以gcc4.9与g++4.9为例
安装低版本gcc与g++:

sudo apt-get install gcc-4.9 g++-4.9

之后进入/usr/bin:

cd /usr/bin

先删除和gcc5.0关联的gcc:

sudo rm gcc
sudo rm g++

再建个软连接

sudo ln -s gcc-4.9 gcc
sudo ln -s g++-4.9 g++

然后重新安装。

(3)环境变量配置

打开~/.bashrc文件:

sudo gedit ~/.bashrc

将以下内容写入到~/.bashrc尾部:

export PATH=/usr/local/cuda-8.0/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-8.0/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

在终端执行命令
source ~/.bashrc
让配置立即生效

(4)测试CUDA的sammples

cd /usr/local/cuda-8.0/samples/1_Utilities/deviceQuery #由自己电脑目录决定
sudo make
sudo ./deviceQuery

如果显示一些关于GPU的信息,则说明安装成功。

4.配置cuDNN

cuDNN是GPU加速计算深层神经网络的库。
首先去官网(https://developer.nvidia.com/rdp/cudnn-download)下载cuDNN,可能需要注册一个账号才能下载。由于本人的显卡是GTX1080,所以下载版本号如下图:
这里写图片描述
图4.cuDNN下载
下载cuDNN5.1之后进行解压,cd进入cuDNN5.1解压之后的include目录,在命令行进行如下操作:

cd cuda/include/

sudo cp cudnn.h /usr/local/cuda/include/    #复制头文件

再将cd进入lib64目录下的动态文件进行复制和链接:

cd cuda/lib64/

sudo cp lib* /usr/local/cuda/lib64/    #复制动态链接库
cd /usr/local/cuda/lib64/
sudo rm -rf libcudnn.so libcudnn.so.5    #删除原有动态文件
sudo ln -s libcudnn.so.5.1.10 libcudnn.so.5  #生成软衔接(注意这里要和自己下载的cudnn版本对应,可以在/usr/local/cuda/lib64下查看自己libcudnn的版本)
sudo ln -s libcudnn.so.5 libcudnn.so      #生成软链接

5.安装opencv3.3

从官网 https://opencv.org/releases.html  下载resource版本下载Opencv,并将其解压到你要安装的位置,假设解压到了/home/opencv。
安装前准备,创建编译文件夹:

cd ~/opencv
mkdir build
cd build

配置:

cmake -D CMAKE_BUILD_TYPE=Release -D CMAKE_INSTALL_PREFIX=/usr/local ..

编译:

make -j8 #-j8表示并行计算,根据自己电脑的配置进行设置,配置比较低的电脑可以将数字改小或不使用,直接输make耗时较久!!!

以上只是将opencv编译成功,还没将opencv安装,需要运行下面指令进行安装:

sudo make install

安装完成后通过查看 opencv 版本验证是否安装成功:

        pkg-config --modversion opencv


可能会出现的错误:
错误内容1:

gcc-4.9: error trying to exec 'cc1plus': execvp: 
没有那个文件或目录

说明gcc与g++版本不兼容,解决办法跟gcc版本太高时一样:
安装低版本gcc与g++:

sudo apt-get install gcc-4.9 g++-4.9

之后进入/usr/bin:

cd /usr/bin

先删除和gcc5.0关联的gcc:

sudo rm gcc
sudo rm g++

再建个软连接

sudo ln -s gcc-4.9 gcc
sudo ln -s g++-4.9 g++

错误内容2:

modules/cudalegacy/src/graphcuts.cpp:120:54: error: 
‘NppiGraphcutState’ has not been declared
typedef NppStatus (*init_func_t)(NppiSize oSize, 
NppiGraphcutState** ppState, Npp8u* pDeviceMem);

这是因为opecv3.0与cuda8.0不兼容导致的。解决办法:
修改 ~/opencv/modules/cudalegacy/src/graphcuts.cpp文件内容,如图:
这里写图片描述
图5.文件修改

6.配置caffe

(1)将终端cd到要安装caffe的位置。
(2)从github上获取caffe:

git clone https://github.com/BVLC/caffe.git

注意:若没有安装Git,需要先安装Git:

sudo apt-get install git

(3)因为make指令只能make Makefile.config文件,而Makefile.config.example是caffe给出的makefile例子,因此,首先将Makefile.config.example的内容复制到Makefile.config:

sudo cp Makefile.config.example Makefile.config

(4)打开并修改配置文件:

sudo gedit Makefile.config #打开Makefile.config文件

根据个人情况修改文件:
a.若使用cudnn,则

#USE_CUDNN := 1
修改成: 
USE_CUDNN := 1

b.若使用的opencv版本是3的,则

#OPENCV_VERSION := 3 
修改为: 
OPENCV_VERSION := 3

c.若要使用python来编写layer,则

#WITH_PYTHON_LAYER := 1 
修改为 
WITH_PYTHON_LAYER := 1

d. 重要的一项 :
将# Whatever else you find you need goes here.下面的

INCLUDE_DIRS := $(PYTHON_INCLUDE) /usr/local/include
LIBRARY_DIRS := $(PYTHON_LIB) /usr/local/lib /usr/lib 
修改为: 
INCLUDE_DIRS := $(PYTHON_INCLUDE) /usr/local/include /usr/include/hdf5/serial
LIBRARY_DIRS := $(PYTHON_LIB) /usr/local/lib /usr/lib /usr/lib/x86_64-linux-gnu /usr/lib/x86_64-linux-gnu/hdf5/serial       

这是因为ubuntu16.04的文件包含位置发生了变化,尤其是需要用到的hdf5的位置,所以需要更改这一路径.
(5)修改Makefile文件

cd caffe,进入caffe文件夹下

打开makefile文件,

sudo gedit Makefile

做如下修改:

将:
NVCCFLAGS +=-ccbin=$(CXX) -Xcompiler-fPIC $(COMMON_FLAGS)
替换为:
NVCCFLAGS += -D_FORCE_INLINES -ccbin=$(CXX) -Xcompiler -fPIC $(COMMON_FLAGS)

(6)编辑/usr/local/cuda/include/host_config.h
将其中的第115行注释掉:

将
#error-- unsupported GNU version! gcc versions later than 4.9 are not supported!
改为
//#error-- unsupported GNU version! gcc versions later than 4.9 are not supported!

(7)编译

python必要安装
cd /caffe/python
执行命令
for req in $(cat requirements.txt); do pip install $req; done

然后 重新回到caffe文件夹
cd caffe

编译
make pycaffe -j8

make all -j8 #-j根据自己电脑配置决定

编译过程中可能会出现如下错误:
错误内容1:

"fatal error: hdf5.h: 没有那个文件或目录"

解决办法:
step1:在Makefile.config文件的第85行,添加/usr/include/hdf5/serial/ 到 INCLUDE_DIRS,也就是把下面第一行代码改为第二行代码。

将:
INCLUDE_DIRS := $(PYTHON_INCLUDE) /usr/local/include
替换为:
INCLUDE_DIRS := $(PYTHON_INCLUDE) /usr/local/include /usr/include/hdf5/serial/

stept2:在Makefile文件的第173行,把 hdf5_hl 和hdf5修改为hdf5_serial_hl 和 hdf5_serial,也就是把下面第一行代码改为第二行代码。

将:
LIBRARIES += glog gflags protobuf boost_system boost_filesystem m hdf5_hl hdf5
改为:
LIBRARIES += glog gflags protobuf boost_system boost_filesystem m hdf5_serial_hl hdf5_serial

错误内容2:

"libcudart.so.8.0 cannot open shared object file: No such file or directory"

或者
Traceback (most recent call last):
  File "", line 1, in 
  File "/home/duxinyuan/caffe/python/caffe/__init__.py", line 1, in 
    from .pycaffe import Net, SGDSolver, NesterovSolver, AdaGradSolver, RMSPropSolver, AdaDeltaSolver, AdamSolver, NCCL, Timer
  File "/home/duxinyuan/caffe/python/caffe/pycaffe.py", line 13, in 
    from ._caffe import Net, SGDSolver, NesterovSolver, AdaGradSolver, \
ImportError: libopencv_core.so.3.3: cannot open shared object file: No such file or directory


解决办法是将一些文件复制到/usr/local/lib文件夹下:

#注意自己CUDA的版本号!
sudo cp /usr/local/cuda-8.0/lib64/libcudart.so.8.0 /usr/local/lib/libcudart.so.8.0 && sudo ldconfig
sudo cp /usr/local/cuda-8.0/lib64/libcublas.so.8.0 /usr/local/lib/libcublas.so.8.0 && sudo ldconfig
sudo cp /usr/local/cuda-8.0/lib64/libcurand.so.8.0 /usr/local/lib/libcurand.so.8.0 && sudo ldconfig

(8)测试

sudo make test

sudo make runtest

可能出现的错误:
.build_release/tools/caffe
.build_release/tools/caffe: error while loading shared libraries: libcudnn.so.5: cannot open shared object file: No such file or directory
Makefile:532: recipe for target 'runtest' failed
make: *** [runtest] Error 127
cuda的路径可能设置错了
sudo ldconfig /usr/local/cuda/lib64



可能出现的错误:
python/caffe/_caffe.cpp:10:31: fatal error: numpy/arrayobject.h: No such file or directory
compilation terminated.
Makefile:507: recipe for target 'python/caffe/_caffe.so' failed
make: *** [python/caffe/_caffe.so] Error 1
找不到numpy库
sudo apt-get install python-numpy


(9)配置环境变量
执行命令:sudo gedit ~/.bashrc
在文本末尾加上
export PYTHONPATH=改成你的路径/caffe/python:$PYTHONPATH
source ~/.bashrc 立即生效


醒目!!!
如果在pycharm中调用用caffe的python接口时,import caffe失败的解决办法
已经将环境变量添加到~/.bashrc文件中
import caffe
  • 1
还是失败 
可以在~/.profile中添加环境变量解决这个问题,这是因为在pycharm启动时并不会像打开终端时,执行一遍~/.bashrc。所以环境变即使设置了,在ipython中有效,在pycharm中还是不起作用。
但~/.profile可以解决这个问题,但是在修改完~/.profile后一定要重启才能生效,因为~/.profile只在用户登录时执行一次,修改后不重启,将没有作用。 
为~/.profile添加环境变量的方法:
sudo gedit ~/.profile
  • 1
打开.profile文件后,在最后一行后面添加:
export PYTHONPATH=改成你的路径/caffe/python:$PYTHONPATH
  • 1
保存后,重启系统,打开pycharm,
import caffe
  • 1
成功

这里写图片描述
图6.caffe测试结果
到此caffe配置完毕!


7.安装Tensorflow

安装Tensorflow

使用Anaconda安装Tensorflow

bash anaconda.sh

首先创建一个conda环境,命名为tensorflow
conda create -n tensorflow Python=2.7(如果是3.5版本就改成3.5)
然后激活该环境并在环境下安装tensorflow
source activate tensorflow
直接进入终端的tensorflow环境下:
pip install --ignore-installed --upgrade https://storage.googleapis.com/tensorflow/linux/gpu/tensorflow_gpu-1.0.1-cp27-none-linux_x86_64.whl
PS:要想直接在终端不激活tensorflow环境就可以直接使用可以直接安装
pip install --ignore-installed --upgrade https://storage.googleapis.com/tensorflow/linux/gpu/tensorflow_gpu-1.0.1-cp27-none-linux_x86_64.whl


MNIST数据集测试

配置caffe完成后,我们可以利用MNIST数据集对caffe进行测试,过程如下:
1.将终端定位到Caffe根目录

cd ~/caffe
  • 1

2.下载MNIST数据库并解压缩

./data/mnist/get_mnist.sh
  • 1

3.将其转换成Lmdb数据库格式

./examples/mnist/create_mnist.sh
  • 1

4.训练网络

 ./examples/mnist/train_lenet.sh
  • 1

训练的时候可以看到损失与精度数值,如下图:
这里写图片描述
图7.MNIST数据集训练
可以看到最终训练精度是0.9914。

可能出现的错误

解决ImportError: /home/douxiao/anaconda3/bin/../lib/libstdc++.so.6: version `GLIBCXX_3.4.21' not found

解决办法:

conda install libgcc

如果报这样的错误:
python/caffe/_caffe.cpp:10:31: fatal error: numpy/arrayobject.h: No such file or directory
compilation terminated.
Makefile:507: recipe for target 'python/caffe/_caffe.so' failed
make: *** [python/caffe/_caffe.so] Error 1
则是numpy没有安装到位:
sudo apt-get install python-numpy
LD -o .build_release/lib/libcaffe.so
/usr/bin/ld: 找不到 -lhdf5_hl
collect2: error: ld returned 1 exit status
Makefile:493: recipe for target '.build_release/lib/libcaffe.so' failed

解决办法:
//重要的一项# Whatever else you find you need goes here.下面的
INCLUDE_DIRS := $(PYTHON_INCLUDE) /usr/local/include
LIBRARY_DIRS := $(PYTHON_LIB) /usr/local/lib /usr/lib
修改为:
INCLUDE_DIRS :=  $(PYTHON_INCLUDE) /usr/local/include /usr/include/hdf5/serial
LIBRARY_DIRS := $(PYTHON_LIB) /usr/local/lib /usr/lib /usr/lib/x86_64-linux-gnu /usr/lib/x86_64-linux-gnu/hdf5/serial
//这是因为ubuntu16.04的文件包含位置发生了变化,尤其是需要用到的hdf5的位置,所以需要更改这一路径


cd /usr/lib/x86_64-linux-gnu

\\然后根据情况执行下面两句:
sudo ln -s libhdf5_serial.so.10.1.0 libhdf5.so
sudo ln -s libhdf5_serial_hl.so.10.0.2 libhdf5_hl.so
 
   

你可能感兴趣的:(ubuntu16.04下安装CUDA cuDNN及tensorflow-gpu版本及caffe-gpu过程)