机器学习基础 - [第四章：正则化]（4）逻辑回归的正则化

1、正则化的逻辑回归

（1）未正则化的逻辑回归的代价函数：
$$J(\theta )=-\frac{1}{m}\sum _{i=1}^m[y^{(i)}log(h_{\theta }(x^{(i)})+(1-y^{(i)})log(1-h_{\theta }(x^{(i)}))]$$
（2）正则化的逻辑回归的代价函数：
$$J(\theta )=-\frac{1}{m}\sum _{i=1}^m[y^{(i)}log(h_{\theta }(x^{(i)})+(1-y^{(i)})log(1-h_{\theta }(x^{(i)}))]+\frac{1}{2m}\sum _{j=1}^n{\theta }_j^2$$

2、使用梯度下降法求解正则化的逻辑回归

正则化的和未正则化的逻辑回归模型的参数的更新公式和线性回归模型一样：