测量数据处理,就是从测量值原始数据中求出被测量的最佳估计值,并计算其准确度。
1.有效数字的判定
有效数字是指在分析工作中实际能够测量到的数字。一个数从左边第一个不为0的数字数起到末尾数字为止所有的数字(包括0,科学计数法不计10的N次方),称为有效数字。简单地说,把一个数字前面的0都去掉,从第一个正整数到精确的数位止,所有的都是有效数字。
例如,用指针式万用表10V电压档测得某元器件两端的电压,其结果如图1-4所示。
图1-4 电压测量结果
此时,从第二条刻度线读数,U=4.1V(两位有效数字)。
有效位数的正确判定法:纯小数中小数点前及小数点后有关数字前的“0”只起定位作用而非为有效数字。如“0.0025”的有效位数为2位,非为5位或6位;又如“0.00100”的有效位数则为3,其中小数点后数字1之前的三个“0”均起定位作用,而1后面的两个“0”仍为有效数字。
2.有效数字的正确表示(www.xing528.com)
有效数字的位数与测量误差的关系:在写有绝对误差的数字时,有效数字的末位应与绝对误差取齐。例如6.25±0.01不能写成6.25±0.1,又如16.250±0.012不能写成16.250±0.0122。在写带有单位的量值时,有效数字也应与绝对误差对齐。例如4500kHz±1kHz不能写成4.5MHz±1kHz。
3.数据舍入规则
数据舍入规则为“四舍六入五凑偶”。具体地说:四舍六入五考虑,五后非零可进一,五后皆零视奇偶,五前为偶(包括0)应舍去,五前为奇方进一。
例如,12.4650与10.5551,若保留两位小数时,12.4650应修约为12.46,而10.5551则应修约为10.56。两个数的拟舍弃数字虽然都是5,但前者的5后为0,当应舍弃;后者的5后非0,且5前的相邻数字为奇数,所以应进一,则修约为10.56。
运用数据舍入规则时应注意以下几点。
1)必须按照有关规则或运算要求确定“保留位数”,然后按要求保留的位数一次修约,绝不可以连续修约。如将3.4546修约为整数时,应一次修约为“3”,不能连续修约为:3.4546→3.455→3.46→3.5→4。
2)负数修约时可按上述规则及要求保留位数的绝对值数字修约,修约后再加上负号即可。
3)对单位换算后的数值或范围数值进行修约时,应遵循“极大值只舍不入,极小值只入不舍”及准确值乘以换算系数后的数值仍为准确值等基本原则。
免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。