首页 理论教育 大学物理实验教程-有效数字运算规则

大学物理实验教程-有效数字运算规则

时间:2023-11-01 理论教育 版权反馈
【摘要】:②进行乘除法运算时,应以参与运算各数据中有效数字位数最少的为准,其余数字在中间运算过程中可多取一位有效数字,最后结果的有效数字与有效数字位数最少的那个数相同。例如,39.5×4.084 37×0.001 3=39.5×4.08×0.001 3=0.21。例如,1.402=③进行函数运算时,结果有效数字一般可根据间接测量不确定度计算公式进行计算来确定。例如,球体的面积S与半径R有关系式S=4πR2。式中,“4”是自然数,π是常量。上述有效数字的运算规则,只是一个基本原则。

大学物理实验教程-有效数字运算规则

为了简化运算过程,同时又不会造成过大的计算误差,一般可采用以下规则进行运算:

①进行加减运算时,应以参与运算各数据中末位数数量级最大的数据为准,其余各数据在中间计算过程中向后可多取一位,最后结果与末位数数量级最大的那一位对齐。例如,71.3-0.753+6.262+271=71.3-0.8+6.3+271=347.8=348。

②进行乘除法运算时,应以参与运算各数据中有效数字位数最少的为准,其余数字在中间运算过程中可多取一位有效数字,最后结果的有效数字与有效数字位数最少的那个数相同。例如,39.5×4.084 37×0.001 3=39.5×4.08×0.001 3=0.21。

乘方和开方运算规则与乘除法运算规则相同,即结果的有效数字与被乘方、开方数的有效数字位数相同。例如,1.402=(www.xing528.com)

③进行函数运算时,结果有效数字一般可根据间接测量不确定度计算公式进行计算来确定(参见1.5节)。对常用的函数,也可按简单规则确定。对数函数运算结果的有效数字中,小数点后面的位数与真数的有效数字位数相同。例如,lg 1.983=0.297 3;指数函数运算结果的有效数字中,小数点后面的位数与指数中小数点后面的位数相同。例如,106.25=1.79×106

④间接测量计算过程中,计算公式中还会遇到自然数与常量。例如,球体的面积S与半径R有关系式S=4πR2。式中,“4”是自然数,π是常量。自然数不是测量得到的,不存在误差,故有效数字是无穷多位,而不是一位;常量在运算过程中有效数字位数,不能少于参与运算的各数据中有效数字位数最少的那个数据,一般可以多取1位。

上述有效数字的运算规则,只是一个基本原则。实际问题中,为了防止取舍所造成的误差过大,常常在运算过程中多取几位,特别是随着计算机和计算器的普及,这种处理不会带来太多的麻烦,只是在最后结果根据不确定度所在位进行截断。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈