【摘要】:其中25.64的绝对误差最大,计算结果的绝对误差最小应为±0.01。考虑到最终结果的可靠性,在运算过程中最好多保留一位有效数字,直到运算完成后再根据需要进行修约。使用计算器运算时,可以先不修约,直接进行运算,但最后结果的有效数字位数要与上述规则一致。
不同位数的有效数字进行运算时,应先修约,然后进行运算。
1.加减运算
以绝对误差最大的数字为准,修约其他数字,使各数字的绝对误差一致(即小数点后位数一样),然后再进行运算(尾数取齐)。例如:
0.012 1+25.64+1.057 82=?
其中25.64的绝对误差最大,计算结果的绝对误差最小应为±0.01。因此小数点后第二位之后的数字已无必要再运算,各数据应以绝对误差最大的25.64为标准进行修约,然后再运算,其结果如下:
0.01+25.64+1.06=26.71
2.乘除运算
以有效数字位数最少的(相对误差最大的)数据为标准,修约其他数据至有效数字位数一致后再进行运算(位数取齐)。例如:(www.xing528.com)
0.012 1×25.64×1.057 82=?
其中以0.012 1的有效数字位数最少(3位),其他数字都应修约成3位后再进行运算,最后结果也取3位有效数字,结果如下:
0.012 1×25.6×1.06=0.328
3.其他运算
测量值和常数进行乘、除运算时,以测量值的有效数字位数为标准。
测量值自身进行平方、开方、对数运算时,结果的有效数字位数与测量值相同。
考虑到最终结果的可靠性,在运算过程中最好多保留一位有效数字,直到运算完成后再根据需要进行修约。使用计算器运算时,可以先不修约,直接进行运算,但最后结果的有效数字位数要与上述规则一致。
免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。