深度神经网络

linear model 和 non-linear model 

深度神经网络_第1张图片


深度神经网络_第2张图片

 linear model 解决不了很多问题

深度神经网络_第3张图片



深度神经网络_第4张图片


深度神经网络_第5张图片


深度神经网络_第6张图片


深度神经网络_第7张图片


深度神经网络_第8张图片



non linear:


ReLU

深度神经网络_第9张图片


深度神经网络_第10张图片



from linear to non linear model:


深度神经网络_第11张图片

NN:


深度神经网络_第12张图片


深度神经网络_第13张图片

CHAIN RULE


深度神经网络_第14张图片



深度神经网络_第15张图片

反向传播(backward propagation)


深度神经网络_第16张图片

不要尝试将H 调成很大,,很难training

深度神经网络_第17张图片



深度神经网络_第18张图片

Reason of Deep

1、parameter cost off

2    hierarchical structure

深度神经网络_第19张图片


深度神经网络_第20张图片

你可能感兴趣的:(深度神经网络)