配置云服务器GPU做keras训练
目录
申请GPU加速云服务器
安装64位补丁包
下载GPU驱动，CUDA并安装
下载Nvidia驱动
下载cuda
cuda10.1 update2 (426)实际下载链接：
cuda10.1 update1 (425.25)实际下载链接：
cuda10.0 (411.31)实际下载地址:
下载cudnn（加速包）
测试cuda
安装远程控制软件
安装python环境
1.安装python3.6.8
2.创建虚环境
3.安装相关库
4.测试GPU
错误处理
keras训练参数设置
申请GPU加速云服务器
测试了华为云的G1，用的Telsa M60-1Q显卡，预装了Nvidia驱动，但版本很旧，好像是369.71，对应的CUDA，tensorflow版本太低了，CUDA10安装，提示找不到兼容硬件。
然后选择了阿里云的vgn5i，用的Telsa P4显卡，可能是虚拟GPU的原因，CUDA10.1能安装，但是没办法启用GPU运算，错误信息是驱动跟CUDA版本对不上。
最后选择gn5i，用的Telsa P4显卡，正常安装CUDA。
按需付费模式
安装64位补丁包
https://support.microsoft.com/zh-cn/help/2977003/the-latest-supported-visual-c-downloads
下载GPU驱动，CUDA并安装
查看云服务器具体配置，下载对应的驱动和CUDA工具包
本次使用：CUDA 10.1 update2
下载Nvidia驱动
https://www.nvidia.com/Download/index.aspx?lang=en-us
说明：本次配置未使用，直接用cuda安装的显卡驱动程序
查看GPU信息：
cd C:\Program Files\NVIDIA Corporation\NVSMI
执行 nvidia-smi
驱动安装检查版本426.00，CUDA10.1，如下图：
下载cuda
本次使用 cuda10.1 update2
版本选择链接：
https://developer.nvidia.com/cuda-10.1-download-archive-update2?target_os=Windows&target_arch=x86_64&target_version=Server2016&target_type=exelocal
cuda10.1 update2 (426)实际下载链接：
https://developer.download.nvidia.cn/compute/cuda/10.1/Prod/local_installers/cuda_10.1.243_426.00_win10.exe
cuda10.1 update1 (425.25)实际下载链接：
https://developer.download.nvidia.cn/compute/cuda/10.1/secure/Prod/local_installers/cuda_10.1.168_425.25_win10.exe?gazno7X2UvxOXezqf1ug4THKW4jk3tZRGWCpu9eUQvX6V4Q72kFVseXRlW2CRfoawkI4sLvQLaF3YZ0VI9hHnX00BU9CrAyVPQnw8O1IXDpjpHPvOkrQ_sotHFhqBWppAKP11TwjHH5bvAFvPCzBDOP_FBRlRhq_5d-1egSDrFaJeG2mlAZpnKPTQWI
cuda10.0 (411.31)实际下载地址:
https://developer.download.nvidia.cn/compute/cuda/10.0/secure/Prod/local_installers/cuda_10.0.130_411.31_win10.exe?Ijc5Vlv3MyHnHJPSeD7v5lzAE81HwHstlZsnaLBnnpzwm3ppQSbtTS28ilO2jCFMWFjHwFAMvg4RZByH-TGRQztaNom3kyJazZFB54eRXNKpk8rSrMBwxQ1GNDfvO4lW4kcBbN8Y9e26PKXInn7Fx4FffSj-7I3Z9IPRlC2H7XZxG-FHj21_f3Ch5SY
下载cudnn（加速包）
选择for cuda10.1版本，for Windows 10版本
https://developer.nvidia.com/rdp/cudnn-download
解压缩后，将所有目录复制到CUDA根目录即可
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1
测试cuda
cd C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\extras\demo_suite
执行 bandwidthTest
检查cuda是否安装成功
安装远程控制软件
使用mstsc，Nvidia控制面板打不开，可能是导致tensorflow无法调用GPU的原因。
安装VNC Server（不知道是不是必须的，后面用远程桌面也能正常，也有可能是因为用vnc登录过）
客户端安装VNC Viewer
安装python环境
1.安装python3.6.8
2.创建虚环境
pip install virtualenv
virtualenv testenv
3.安装相关库
pip install tensorflow-gpu==2.1.0 -i https://mirrors.aliyun.com/pypi/simple/
pip install keras==2.3.1 -i https://mirrors.aliyun.com/pypi/simple/
pip install pillow -i https://mirrors.aliyun.com/pypi/simple/
pip install opencv-python -i https://mirrors.aliyun.com/pypi/simple/
pip install sklearn -i https://mirrors.aliyun.com/pypi/simple/
pip install jupyter -i https://mirrors.aliyun.com/pypi/simple/
4.测试GPU
python -c "import tensorflow as tf;print(tf.reduce_sum(tf.random.normal([1000, 1000])))"
python -c "from tensorflow.python.client import device_lib;print(device_lib.list_local_devices())"错误处理
Could not load dynamic library 'cudart64_100.dll'; dlerror: cudart64_100.dll not found
将C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\bin\cudart64_101.dll复制一份，改为cudart64_100.dll
keras训练参数设置
batch_size=8 3s-4s/epoch
batch_size=16 2s/epoch
batch_size=64 1s/epoch
batch_size=128 1s/epoch
batch_size=256 1s/epoch
每个训练集要反复训练多次，每次随机训练集与验证集。