仿射函数的仿射函数还是仿射函数

证明:仿射函数的仿射函数还是仿射函数
证明: 证明: 证明:
H = X W ( 1 ) + b ( 1 ) , O = H W ( 2 ) + b ( 2 ) . \begin{split}\begin{aligned} \mathbf{H} & = \mathbf{X} \mathbf{W}^{(1)} + \mathbf{b}^{(1)}, \\ \mathbf{O} & = \mathbf{H}\mathbf{W}^{(2)} + \mathbf{b}^{(2)}. \end{aligned}\end{split} HO=XW(1)+b(1),=HW(2)+b(2).
O = ( X W ( 1 ) + b ( 1 ) ) W ( 2 ) + b ( 2 ) = X W ( 1 ) W ( 2 ) + b ( 1 ) W ( 2 ) + b ( 2 ) = X W + b \begin{split}\begin{aligned} \mathbf{O} &= (\mathbf{X} \mathbf{W}^{(1)} + \mathbf{b}^{(1)}) \mathbf{W}^{(2)} + \mathbf{b}^{(2)} \\ &= \mathbf{X} \mathbf{W}^{(1)}\mathbf{W}^{(2)} + \mathbf{b}^{(1)} \mathbf{W}^{(2)} + \mathbf{b}^{(2)} \\ &= \mathbf{X} \mathbf{W} + \mathbf{b} \end{aligned}\end{split} O=(XW(1)+b(1))W(2)+b(2)=XW(1)W(2)+b(1)W(2)+b(2)=XW+b
其中
W = W ( 1 ) W ( 2 ) b = b ( 1 ) W ( 2 ) + b ( 2 ) \mathbf{W} = \mathbf{W}^{(1)}\mathbf{W}^{(2)} \\ \mathbf{b} = \mathbf{b}^{(1)} \mathbf{W}^{(2)} + \mathbf{b}^{(2)} W=W(1)W(2)b=b(1)W(2)+b(2)

参考

4.1. 多层感知机

你可能感兴趣的:(深度学习算法,深度学习,人工智能)