背景:需要运行一个基于keras的BERT+BiLSTM+CRF的NER项目,因此写了这篇小记,记录环境准备的过程和步骤。
前提:先安装Anaconda(这里我使用的是Anaconda3)
参考链接:https://blog.csdn.net/colleges/article/details/121948153
这里的Python版本为Python 3.6.8
conda config --show channels
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
#设置搜索时显示通道地址(此步骤可有可无)
conda config --set show_channel_urls yes
清华镜像源:https://pypi.tuna.tsinghua.edu.cn/simple
阿里云镜像源:https://mirrors.aliyun.com/pypi/simple/
-i
来临时指定镜像源。这里安装的TensorFlow版本为1.14.0
pip install tensorflow-gpu==1.14.0 -i https://mirrors.aliyun.com/pypi/simple/
import tensorflow as tf
TensorFlow、CUDA以及cuDNN的版本对应关系:https://www.tensorflow.org/install/source_windows
CUDA Toolkit与显卡驱动程序版本对应关系:http://docs.nvidia.com/cuda/cuda-toolkit-release-notes/index.html
cuDNN官网:https://developer.nvidia.com/cudnn
nvidia-smi
,可以看到本机的显卡驱动程序版本为 496.49 ≥ 411.31 496.49\geq411.31 496.49≥411.31,符合要求。CUDA官网:https://developer.nvidia.com/cuda-gpus
cuDNN官网:https://developer.nvidia.com/cudnn
目前知道的有两种安装方式:
- ①通过官网,下载可执行文件然后在本地安装。值得注意的是,用这种方式安装CUDA的时候,安装的内容非常全面,甚至也包括了显卡驱动程序,然而我们只需要其中的一部分,来支持TensorFlow的运作,所以就有了第二种方式。
- ②通过在虚拟环境中使用
conda
命令来安装,这样方便快捷,便于管理(前提是需要确保自己电脑上的显卡驱动程序的版本符合要求)。
这里演示的就是采用的②中所述的方法。
conda install cudatoolkit=10.0.130
conda install cudnn
#命令1
import tensorflow as tf #成功导入,不像2.2中那样报错了
#命令2
print(tf.__version__) #1.14.0
#命令3(适用于TensorFlow 1.x版本)
print(tf.test.is_gpu_available()) #True
安装完TensorFlow之后便可以开始keras的安装。
这里将要用到的有keras、keras_contrib、keras_bert.
pip
命令在虚拟环境中进行安装。pip install keras==2.2.4
git可以使用图形化安装方式,也可以使用命令行安装方式。此处采用命令行方式在虚拟环境中进行安装。
conda install git
安装好git,就可以通过
git+网址
的方式进行安装了但是,需要注意,由于GitHub访问很慢,因此选择在gitee上找了一个对应的keras_contrib
pip install git+https://gitee.com/BenjaminHb/keras-contrib.git
pip
直接安装,输入以下命令即可。pip install keras-bert
①【TensorFlow-GPU安装】:
https://blog.csdn.net/m0_49090516/article/details/113576003
②【GPU、CUDA、CUDA Toolkit、cuDNN关系以及下载安装】:
https://blog.csdn.net/qq_42406643/article/details/109545766
③【在anaconda环境中使用conda命令安装cuda、cudnn、tensorflow(-gpu)】:
https://blog.csdn.net/qq_37774098/article/details/109895048
④【tensorflow 安装GPU版本,个人总结,步骤比较详细】:
https://blog.csdn.net/gangeqian2/article/details/79358543