深度学习免费课程

免费课程



这个课程真的不错,,将很多细节讲的很透彻。。

Google 的首席科学家兼 Google 智囊团技术经理 Vincent Vanhoucke


深度学习免费课程_第1张图片



深度学习免费课程_第2张图片
深度学习免费课程_第3张图片


深度学习免费课程_第4张图片



深度学习免费课程_第5张图片



深度学习免费课程_第6张图片


深度学习免费课程_第7张图片



深度学习免费课程_第8张图片


深度学习免费课程_第9张图片



深度学习免费课程_第10张图片


深度学习免费课程_第11张图片

SOFTMAX


深度学习免费课程_第12张图片



深度学习免费课程_第13张图片


深度学习免费课程_第14张图片

ONE HOT ENCODING

深度学习免费课程_第15张图片


one hot encoding 在分类特别多的时候有点吃力(数万种类)  

种类太多,太多0.用one hot encoding 效率太低,

应该采用embeddings 技术解决


深度学习免费课程_第16张图片

Cross-entropy



注意这里智能将softmax 后的向量放入LOG中,,应该log 中不能为0.而softmax 能够确保分量都》 0.



深度学习免费课程_第17张图片

这种方法叫多项式逻辑分类,


深度学习免费课程_第18张图片

目标,是找满足条件的W,B


LOSS


深度学习免费课程_第19张图片



深度学习免费课程_第20张图片

优化LOSS


深度学习免费课程_第21张图片

多种方案可以解决这个优化问题:

   Gradient Descent


深度学习免费课程_第22张图片

数值计算稳定性(numerical stability)



深度学习免费课程_第23张图片



深度学习免费课程_第24张图片


深度学习免费课程_第25张图片

均值化:


深度学习免费课程_第26张图片


the sigma determine the order of magnitude of output at the initial point of optimization

the sigma determine the peak of your initial probability distribution.


深度学习免费课程_第27张图片


深度学习免费课程_第28张图片


深度学习免费课程_第29张图片


深度学习免费课程_第30张图片



深度学习免费课程_第31张图片


OPTIMIZATION 过程,,求偏导数,,梯度下降

深度学习免费课程_第32张图片

数据集


深度学习免费课程_第33张图片


深度学习免费课程_第34张图片


深度学习免费课程_第35张图片

使用更多其他的测试集,就不行

深度学习免费课程_第36张图片

原因:是多次训练测试,已经让Trainning 了解到了Test data


深度学习免费课程_第37张图片

应对方案:


深度学习免费课程_第38张图片

Validation data set size


深度学习免费课程_第39张图片


深度学习免费课程_第40张图片


深度学习免费课程_第41张图片


深度学习免费课程_第42张图片


总结


深度学习免费课程_第43张图片

你可能感兴趣的:(深度学习免费课程)