首页 理论教育 数据处理方法:GB/T5009.1—2003标准

数据处理方法:GB/T5009.1—2003标准

时间:2023-06-16 理论教育 版权反馈
【摘要】:得到:0.0121×25.6×1.06=0.328。当测定次数n=3~10时,根据所要求的置信度,按以下步骤检验可疑数据是否应舍弃:将各数按递增顺序排列:x1,x2,…,xn;求出最大值与最小值之差:xn-x1;求出可疑数据与邻近数据之差:xn-xn-1或x2-x1;求出Q=/或Q=/;根据测定次数和要求的置信度求得Q0.90;比较Q与Q0.90,若Q≥Q0.90则弃去可疑值;若Q<Q0.90则予以保留。

数据处理方法:GB/T5009.1—2003标准

建立有效数字的概念并掌握它的计算规则,应用有效数字的概念在实验中正确做好原始记录,正确处理原始数据,正确表示分析与检验的结果,具有十分重要的意义。以下根据实验室的具体情况,介绍有效数字的记录和计算的一般规则,以及分析结果的正确表示方法。

(一)有效数字

食品理化检验中直接或间接测定的量,一般都用数字表示,但它与数学中的数不同,而仅仅表示量度的近似值,在测定值中常保留一位可疑数字。把测定值中能够反映被测量大小的带有一位可疑数字的全部数字叫有效数,如0.0123与1.23都有三位有效数字。

(二)数字的修约规则

运算过程中,弃去多余数字(称为“修约”)的原则是“四舍六入五成双”。即当测量值中被修约的那个数字等于或小于4时舍去;等于或大于6时进位;等于5时,如进位后,测量值末位数为偶数,则进位,如舍去后末位数为偶数,则舍去。

例如:将0.3742、4.586、13.35和0.4765四个测量值修约为三位有效数字时,结果分别为0.374、4.59、13.4和0.476。

(三)有效数字的运算规则

(1)在加减法的运算中,以绝对误差最大的数为准来确定有效数字的位数。例如:求“0.0121+25.64+1.05782=”三个数据中,25.64中的4有0.01的误差,绝对误差以它为最大,因此,所有数据只能保留至小数点后第二位,得到0.01+25.64+1.06=26.71。

(2)乘除法的运算中,以有效数字位数最少的数,即相对误差最大的数为准,确定有效数字位数。例如:求“0.0121×25.64×1.05782=?”其中,以0.0121的有效数字位数最少,即相对误差最大,因此所有的数据只能保留三位有效数字。得到:0.0121×25.6×1.06=0.328。

(3)对数的有效数字位数取决于尾数部分的位数,例如1gK=10.34,为两位有效数字,pH=2.08,也是两位有效数字。

(4)计算式中的系数(倍数或分数)或常数(如π、e等)的有效数字位数,可以认为是无限制的。

(5)如果要改换单位,则要注意不能改变有效数字的位数。例如“5.6g”只有两位有效数字,若改用mg表示,正确表示应为“5.6×103 mg”。若写为“5600mg”,则有四位有效数字,就不合理了。(www.xing528.com)

分析结果通常以平均值来表示。在实际测定中,对质量分数大于10%的分析结果,一般要求有四位有效数字;对质量分数为1%~10%的分析结果,则一般要求有三位有效数字;对质量分数小于1%的微量组分,一般只要求有两位有效数字。有关化学平衡的计算中,一般保留2~3位有效数字,pH值的有效数字一般保留1~2位。有关误差的计算,一般也只保留1~2位有效数字,通常要使其值变得更大一些,即只进不舍。

(四)可疑测定值的取舍

在分析得到的数据中,常有个别数据特大或特小,偏离其他数值较远的情况。处理这类数据应慎重,不可为单纯追求分析结果的一致性而随便舍弃,应遵循Q检验法。

当测定次数n=3~10时,根据所要求的置信度(如取90%),按以下步骤检验可疑数据是否应舍弃:

(1)将各数按递增顺序排列:x1,x2,…,xn

(2)求出最大值与最小值之差:xn-x1

(3)求出可疑数据与邻近数据之差:xn-xn-1或x2-x1

(4)求出Q=(xn-xn-1)/(xn-x1)或Q=(x2-x1)/(xn-x1);

(5)根据测定次数和要求的置信度(如90%)求得Q0.90

(6)比较Q与Q0.90,若Q≥Q0.90则弃去可疑值;若Q<Q0.90则予以保留。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈