首页 理论教育 有效数字的运算规则详解

有效数字的运算规则详解

时间:2023-06-23 理论教育 版权反馈
【摘要】:对于这类数据,必须按照一定的法则进行运算,既可节省计算时间,又可避免计算过程中引起错误。遇到个位数为8或9时,可以多算一位有效数字。例如,9.13实际上虽只有三位,但在计算有效数字时,可作为四位计算。

有效数字的运算规则详解

在处理数据过程中,常遇到一些准确度不同的数据。对于这类数据,必须按照一定的法则进行运算,既可节省计算时间,又可避免计算过程中引起错误。常用的基本法则如下:

1.加减运算

在加减运算时,应以参加运算的各数据中绝对误差最大(即小数点后位数最少)的数据为标准,确定结果(和或差)的有效位数。例如,0.0121+25.64+1.0578,三个数据中,绝对误差最大的是25.64,应以它为依据,先修约,再计算,即0.01+25.64+1.06=26.71。

2.乘除计算

在乘除运算中,应以参加运算的各数据中相对误差最大(即有效数字位数最少)的数据为标准,确定结果(积或商)的有效位数。中间算式中可多保留一位。遇到个位数为8或9时,可以多算一位有效数字。例如,9.13实际上虽只有三位,但在计算有效数字时,可作为四位计算。(www.xing528.com)

例6 0.0121×25.64×1.05782等于多少?

在这组数据中,0.0121的相对误差最大,应以它为标准先进行修约,再计算,即

0.0121×25.6×1.06=0.328

或先多保留一位有效数字,算完后再修约一次,如0.0121×25.64×1.058=0.3282,修约为0.328。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈