牛顿迭代法及最小二乘法

1、牛顿迭代法

牛顿迭代法法是一种计算近似根算法,对于给定的复杂函数f(x),常用来求该函数在给定初始值x0附近的近似根。该算法很简单,就是一个迭代的过程:


迭代终止条件可设为:


matlab代码实现:

function y=mulNewton(a,n,x0,eps1)
    x(1)=x0;
    b=1;
    i=1;
    while(norm(b)>eps1)   %%迭代终止条件  公式(2)
        i=i+1;
        x(i)=x(i-1)-n_f(a,n,x(i-1))/n_df(a,n,x(i-1));   %%公式(1)
        b=x(i)-x(i-1);
    end
    y=x(i);
    i
end
 
 
 
function y=n_f(a,n,x)%方程的函数
    y=0.0;
    for i=1:n+1
        y=y+a(i)*x^(n-i+1);
    end
end
 
 
 
function y=n_df(a,n,x)%方程一阶导数的函数
    y=0.0;
    for i=1:n
        y=y+a(i)*(n+1-i)*x^(n-i);
    end
end



2、最小二乘法

概念

最小二乘法多项式曲线拟合,根据给定的m个点,并不要求这条曲线精确地经过这些点,而是曲线y=f(x)的近似曲线y= φ(x)

原理

     给定数据点pi(xiyi),其中i=12,…,m。求近似曲线y= φ(x)。并且使得近似曲线与y=f(x)的偏差最小。近似曲线在点pi处的偏差δi= φ(xi)-yi=12...m 

 

偏差平方和最小原则:


  按偏差平方和最小的原则选取拟合曲线,并且采取二项式方程为拟合曲线的方法,称为最小二乘法。

牛顿迭代法及最小二乘法_第1张图片

牛顿迭代法及最小二乘法_第2张图片

matlab代码实现:

注:利用MATLAB自带的最小二乘法函数ployfit()ployval()实现。

clc;
x=[0.5,1.0,1.5,2.0,2.5,3.0];
y=[1.75,2.45,3.81,4.80,7.00,8.60];
p=polyfit(x,y,2)%%最小二乘法函数,解出拟合曲线系数,放到P中
x1=0.5:0.05:3.0;
y1=polyval(p,x1);%%多项式曲线求值函数,返回对应自变量x在给定系数P的多项式的值。
plot(x,y,'*r',x1,y1,'-b')





你可能感兴趣的:(机器学习算法)