学习笔记-深度学习部分

1、神经网络基础与多层感知机

1.1人工神经元

 

1.2多层感知机

  

1.3激活函数

 

 

 

1.4反向传播算法

 

 

1.5损失函数

 

 

 

 

更多损失函数可到PyTorch网站：

https://pytorch.org/docs/stable/nn.html#loss-functions

函数解读： https://zhuanlan.zhihu.com/p/61379965

 

1.6权值初始化

 

 

1.7正则化