首页 理论教育 环境样品放射性监测与分析:计算法则及有效数字

环境样品放射性监测与分析:计算法则及有效数字

时间:2023-10-22 理论教育 版权反馈
【摘要】:也就是说,计算结果的小数点后面的位数与以存疑数字绝对误差最大的数值来确定计算值第一位存疑数字位数,以此作为计算有效数字的最后一位。例如,10.32+1.456-0.0431=11.7329→11.73,即在对计算结果修约时,与参加运算数值中绝对误差最大者的精度相同。真数的有效位数与对数尾数的位数相同,与首数无关。(六)常数运算计算公式中常数如π、e及其他乘除因子均可以认为具有无穷个有效数字位数,可根据计算的需要,选取有效数字位数。

环境样品放射性监测与分析:计算法则及有效数字

(一)加减运算

在进行有效数字加减运算时,计算结果的有效数字以参与运算数值中绝对误差最大的数值为准,即与各数中小数点后面位数最少者相同。也就是说,计算结果的小数点后面的位数与以存疑数字绝对误差最大的数值来确定计算值第一位存疑数字位数,以此作为计算有效数字的最后一位。

例如,10.32+1.456-0.0431=11.7329→11.73,即在对计算结果修约时,与参加运算数值中绝对误差最大者(10.32)的精度相同。

(二)乘除运算

在进行有效数字乘除运算时,计算结果的有效数字位数以参与运算数值中相对误差最大的数值为准,即与各数中有效数字的位数最少者相同。例如,10.32÷1.456×0.0431=0.305489011→0.305,即在对计算结果修约时,与参加运算数值中相对误差最大者(0.0431)的有效数字的位数相同。

(三)乘方和开方运算

在进行有效数字乘方、开方运算时,计算结果的有效数字位数与乘方、开方之前数字的有效数字的位数相同。(www.xing528.com)

(四)对数三角函数运算

对数和三角函数运算结果的有效数字位数由其变量对应的数位决定,尾部位数与真实值的有效数字位数相等。真数的有效位数与对数尾数的位数相同,与首数无关。首数用于定位,不是有效数字。例如某溶液中氢离子浓度8.7×10-4mol·L-1,则其pH为3.06,其中的数字“3”为首数,仅用于定位作用,与有效数字位数无关;小数点后面的数字“06”才代表pH的有效数字(2位)。

(五)指数函数

指数函数10x或ex的有效数字位数和x小数点后的位数相同(包括紧接小数点后面的0)。例如:106.25=1778279.42→1.8×106,100.0035=1.0080961→1.008。

(六)常数运算

计算公式中常数如π、e及其他乘除因子均可以认为具有无穷个有效数字位数,可根据计算的需要,选取有效数字位数。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈