机器学习 周志华 第三章 推导详细过程

第三章主要介绍了线性模型的推导过程,但是作者略去部分简单的步骤,虽然作者认为是简单的,但是对我这种数学渣渣来说,并不简单,因此我还是差了 matriccookbook中的矩阵运算的公式,自己推导了一遍。

首先推导 公式(3.10)到公式()

Wloss=\left ( y-XW \right )^{T}\left (y-XW \right )

=\frac{\partial \left ( yy^{T}-y^{T}XW-W^{T}X^{T}y+W^{T}X^{T}XW \right )}{\partial W}

=0-\left ( y^{T}X \right )-\left ( X^{T}y \right )+\left ( x^{T}XW \right )+\left ( W^{T}X ^{T}X\right )

令导数=0,则可以求出

W=\left ( X^{T}X \right )^{-1} X^{T}y

机器学习 周志华 第三章 推导详细过程_第1张图片

参考公式如上图,取自 wiki百科上计算公式。

未完待续。

你可能感兴趣的:(机器学习,线性模型,公式推导)