有效数字取舍与运算规则

1——38.31 ? 按照四舍六入五留双规则进行数字修约时,也应像四舍五入规则那样,一次性修约到指定的位数,不可以进行数次修约,否则得到的结果也有可能是错误的。例如将数字10.2749945001修约到两位小数时,应一步到位:10.2749945001——10.27(正确)。如果按照四舍六入五留双规则分步修约将得到错误结果:10.2749945001——10.274995——10.275——10.28(错误)。Р由于与误差传递有关,计算时加减法和乘除法的运算规则不太相同。?1. 加减法? 先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。? 例:计算50.1+1.45+0.5812=?? 修约为:50.1+1.4+0.6=52.1? 先修约,结果相同而计算简捷。? 例:计算 12.43+5.765+132.812=?? 修约为:12.43+5.76+132.81=151.00? 注意:用计数器计算后,屏幕上显示的是151,但不能直接记录,否则会影响以后的修约;应在数值后添两个0,使小数点后有两位有效数字。Р有效数字运算规则Р2. 乘除法? 先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字。? 例:计算0.0121×25.64×1.05782=?? 修约为:0.0121×25.6×1.06=?? 计算后结果为:0.3283456,结果仍保留为三位有效数字。? 记录为:0.0121×25.6×1.06=0.328? 注意:用计算器计算结果后,要按照运算规则对结果进行修约? 例:计算2.5046×2.005×1.52=?? 修约为:2.50×2.00×1.52=?? 计算器计算结果显示为7.6,只有两位有效数字,但我们抄写时应在数字后加一个0,保留三位有效数字。? 2.50×2.00×1.52=7.60