【摘要】:例如,0.12,1.057 和23.41 相乘,有效数字最少的是二位,则其结果为3.0。同样,为了减少计算误差,也可多保留一位有效数字,即其结果应为3.0。4)乘方及开方运算运算结果比原数多保留一位有效数字。例如5)对数运算取对数前后的有效数字位数相等。
处理数据时,常常需要运算一些准确度不相等的数值,按照一定的规则计算,既可以提高计算速度,也不因数字过少而影响计算结果的准确度,常用规则如下:
1)加法运算
参加运算的各数所保留的小数点后的位数,一般应与各数中小数点后位数量少的相同。例如,13.6,0.056 和1.666 相加,小数点后最少位数的是一位(13.6),因此应将其余两个数修约到小数点后一位数,然后相加,即
为了减少计算误差,也可在修约时多保留一位小数,即
2)减法运算
参加运算的数据,数值相差较大时,运算规则与加法运算相同,如果两数相差很小,运算后将失去若干位有效数字,致使测量结果误差很大,这是要避免的。解决的办法是尽量采用其他的测量方法。
3)乘除运算
乘除运算时,各因子及计算结果所保留的位数以数字位数最少的项为准,不考虑小数点的位置。例如,0.12,1.057 和23.41 相乘,有效数字最少的是二位(0.12),则(www.xing528.com)
其结果为3.0。
同样,为了减少计算误差,也可多保留一位有效数字,即
其结果应为3.0。
4)乘方及开方运算
运算结果比原数多保留一位有效数字。例如
5)对数运算
取对数前后的有效数字位数相等。例如
免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。