使用curve_fit计算拟合偏差时结果一直是1

注意在使用numpy数组及curve_fit计算拟合时,两个输入数据必须时同一精度的。
出现这个错误的原因是其中一个输入默认时float32,另一个默认时float64了。
在进行浮点运算时,一点要注意精度问题。
本例中通过指定32位的为64位就解决了。

test_in = np.array(pre_data,dtype="float64")

另外,打印numpy数组时,通常float32是默认不显示dtype的,float64会显示。不显示的都理解为float32。

你可能感兴趣的:(使用curve_fit计算拟合偏差时结果一直是1)