线性回归和逻辑回归正则化

正则化线性回归的代价函数:
J(θ)=12m[mi=1(hθ(x(i))y(i))2+λnj=1θ2j]

梯度下降法用于线性回归:
θ0:=θ0α1mmi=1((hθ(x(i))y(i))x(i)0)

θj:=θjα1mmi=1((hθ(x(i))y(i))x(i)j+λmθj) j=1, 2, … n

正规方程求解:
线性回归和逻辑回归正则化_第1张图片

正则化逻辑回归代价函数:
J(θ)=[1mmi=1(y(i)log(hθ(x(i)))+(1y(i))log(1hθ(x(i))))]+λ2mnj=1θ2j

梯度下降法用于逻辑回归:
θ0:=θ0α1mmi=1((hθ(x(i))y(i))xi0)

θj:=θjα1mmi=1((hθ(x(i))y(i))xij+λmθj) j=1, 2 ,… , m

你可能感兴趣的:(机器学习)