2019-04-28 Day7 计算图&链式法则&反向传播

计算图&链式法则&反向传播

1.计算图

数据结构中的图结构,用点表示数据节点,线表示节点之间的关系。
工程项目管理中的双代号网络计划图,用节点表示工序,箭线表示先后次序,线上权值表示时间或资金成本。
而计算图则是用节点表示计算操作,在箭线上传递局部计算的值,从这种意义上看,神经网络即可抽象为一个计算图结构。

2.链式法则

3.反向传播

3.1 加法节点

以为例:


因此流过加法节点时只乘以1

3.2 乘法节点

以为例:


你可能感兴趣的:(2019-04-28 Day7 计算图&链式法则&反向传播)