数值分析中对有效数字的定义

定义:

设数x是数x的近似值,如果x的绝对误差限是它的某一数位的半个单位,并且从x左起第一个非零数字到该数位共有n位,则称这n个数字为x的有效数字,也称用x近似x时具有n位有效数字。

看几个例题
(1)
数值分析中对有效数字的定义_第1张图片
(2)
数值分析中对有效数字的定义_第2张图片
(3)
数值分析中对有效数字的定义_第3张图片
(4)
数值分析中对有效数字的定义_第4张图片

总结
动笔计算就好,用近似值减去真实值取绝对值,看精确到哪一位时能满足要求(计算绝对误差小于等于哪一数位的半个单位(精确到该数位时的绝对误差限))。

比如有准确值I=0.9460831,一个复化梯形法求得的结果为 T n = 0.9456909 T_n=0.9456909 Tn=0.9456909只有2位有效数字,而一个通过复化Simpson法的结果 S n = 0.9460832 S_n=0.9460832 Sn=0.9460832却有6位有效数字

你可能感兴趣的:(计算机数学)