深度学习目录

/*------深度学习理论------------------------**/     1. 深度学习介绍、全连接神经网络     为什么要做深读学习而不是宽度学习？ 2. 反向传播算法            BP算法手工推导 3. 使用Keras实现全连接神经网络完成手写数字识别 4. mini-batch Gradient Descent 5. 神经网络的优化（0）----概述     神经网路的优化（1）----激活函数：梯度消失问题、ReLU、Maxout     神经网络的优化（2）----优化器、自适应学习率：Adagrad、RMSProp、Momentum、Adam     神经网络的优化（3）----Early Stopping     神经网络的优化（4）----正则化     神经网络的优化（5）----Dropout   6. 卷积神经网络     CNN结构演化     CNN的原理     怎么用Keras实现CNN     CNN学到的到底是啥？     Lenet-5     VGG     GoogleNet     7. 循环神经网络     RNN的原理     LSTM       /*--------环境搭建及使用--------------------**/ ubuntu18.10 + RTX2080Ti +  CUDA10.0 + cuDNN7.5.0 + Anaconda(conda 4.5.12) + TensorFlow-gpu1.13.1 安装 各种环境查看 常见问题及解决 ubuntu16.04、2080Ti、Caffe从0开始安装 ubuntu14.04、2080Ti、Caffe从0开始安装       /*---------TensorFlow的使用----------------**/ 1. TensorFlow简介与安装 2. TensorFlow的框架（张量、计算图、会话、参数、前向传播、反向传播） 3. 神经元模型、激活函数、神经网络的复杂度 4. 神经网络的优化（0）----损失函数 loss     神经网络的优化（1）----指数衰减学习率     神经网络的优化（2）----滑动平均 ema     神经网络的优化（3）----正则化 regularization     神经网络的优化（4）----各种优化器的介绍 5. 模块化搭建神经网络模板 6. 手写数字识别（0）----MNIST数据集     手写数字识别（1）----准确率输出     手写数字识别（2）----如何对输入的真实图片，输出预测结果？     手写数字识别（3）----如何制作数据集，实现特定应用？ 7. 卷积神经网络（0）----基本原理     卷积神经网络（1）----Lenet-5     卷积神经网络（2）----使用训练好的VGG16网络进行图像识别     /*----------Caffe windows下的使用-------------------------**/ 1. Caffe简介 2. Caffe win7 CPU版本安装 3. Caffe使用流程----以Mnist数据分类为例 4. Caffe文件详解（整体讲解）    （1）网络结构文件----数据层    （1）网络结构文件----卷积层、池化层、全连接层、激活函数层、测试时输出准确率、softmax层、reshape层、Dropout层    （2）超参数文件    （3）deploy文件 5. Caffe的python接口安装（win7+python2.7） 6. Caffe网络结构可视化、特征图可视化、学习曲线可视化 7. Caffe使用训练好的GoogleNet进行图像识别 8. Caffe win7 GPU版本安装 9. 使用自己设计的网络训练自己的图像识别模型     测试时如何把均值文件mean.binaryproto转成mean.npy 10. 迁移学习Finetune 11. Snapshot使用 12. Caffe常用的math_functions       /*----------Caffe ubuntu下的使用-------------*/ 13. Caffe使用流程----以Mnist数据分类为例 14. Ubuntu下如何生成均值文件 15. 网络结构可视化、学习曲线可视化   16. 如何增加新的Loss层   /*--------Caffe源码解读----------*/ 1. Caffe源码解读（1）----Caffe入口程序 2. Caffe源码解读（2）----blob.hpp、blob.cpp 3. Caffe源码解读（3）----layer.hpp、layer.cpp             项目一：人脸检测（基于Caffe） 项目二：人脸关键点检测（基于Caffe） 项目三：验证码识别