python使用scipy.optimize.least_squares进行最小二乘优化

python使用scipy.optimize.least_squares进行最小二乘优化

least_squares(fun, x0, method='trf', loss='linear', args=(), kwargs={})
fun(x, *args, **kwargs) 是残差计算函数
method是优化算法，例如LM算法等
loss是损失函数，默认为线性；若设置为huber等其他方法，可以起到抑制噪声的效果。
args和kwargs对应第一个参数fun的两类参数，将在least_squares内部被传递给fun函数。

调用方法之前，需要实现自己的残差计算函数，不需要实现求导数函数（least_squares默认用采用数值求导）。
要调用该方法，需要自己把数据准备好，以许多行的形式出现。即，数据的每一行的所有元素足够构成一个方程。

一个简单的示例程序：

from scipy.optimize import least_squares
'''
数据准备
'''
def model(T_ang, norm, p, dc)
'''
残差计算函数，假设输入的数据中包含多条数据而不是一条
residual = norm*(R*p+trans)-dc
第一个参数是未知数（标量或矢量）
第二个及之后的参数是输入数据
返回一个残差数组
'''
    trans=T_ang[0:3]
    R = getRarray(T_ang[3:])
    P_C=(np.matmul(R, p)+trans.reshape(3,1)).T
    residual=np.zeros(len(norm))
    for i in range(len(norm)):# norm,p,dc中可能包含多条按行对应的数据
        residual[i]=np.dot(norm[i],P_C[i])-dc[i]
    return residual.reshape(-1,)
    
sol = least_squares(model, x0=params, args=(norms_in, PLs_in.T, dcs_in), method='lm')# 函数的返回值sol包含最优解和其他一些关于求解过程的信息
print(sol.x)# 打印最优解

更多示例程序参考官方文档的后半部分。