python手撸线性回归(二)theta0不需要正则化

在上一篇关于线性回归的文章中,python手撸线性回归及参数解释,我们可以看到正则化项中并没有theta0二是从theta1开始的,In[7]的第三行



Andrew在其机器学习课程中对此的解释是,按照惯例来讲,不去对θ0进行惩罚, 因此 θ0 的值是大的 这就是一个约定, 但其实在实践中这只会有非常小的差异 ,无论你是否包括θ0这项,结果只有非常小的差异,下边我们通过实验来证明,正则化项是否包含θ0对最后结果的影响很小。

下边分别是对theta0不进行正则化和进行正则化的结果,最终theta取值为

('theta: ', array([-3.82872504,  1.186267 ]))

('theta: ', array([-3.89374994,  1.19278475]))

可见差异非常小

python手撸线性回归(二)theta0不需要正则化_第1张图片python手撸线性回归(二)theta0不需要正则化_第2张图片

你可能感兴趣的:(机器学习,python)