实验数据计算技巧

1）有效数据及有效数字运算规则

（1）有效数据

实验中测定的温度、流量、压力等数据是一类有单位的数字。这一类数据的特点是除了具有特定的单位外，其最后一位数字往往是由仪表的精度所决定的估计数字。如温度计的最小分度为1℃时，则其有效数字可取至1℃以下一位数。如某温度可读至20.6℃，最后一位数字是一位带有误差的估计数，其余数为准确数。有效数为3位，含有一位估计数。通常测量某一参数，一般均可估计到最小分度的十分位。估计误差不超过最小分度的±0.5，按此记录有效数据。

（2）有效数字及其表示

测量精度是通过有效数字的位数来表示的。有效数字的位数应是除定位用的“0”以外，余数位都是有效数字。有效数字定义为：一个含m位数的近似数（m从左起非0位开始），其中准确数值为n位（n<m），取n+1位的数值为该近似数的有效数。如3.1416的有效数有5位，22.4140有六位，而0.08206则只有4位有效数。30.00也是只有4位有效数。对“0”必须特别注意。在工程与科学工作中，为了表示清楚有效数字，采用科学记数法，在第一位有效数字后加小数点，而数值数量级用10的整数幂来表示。如981000中，若有效数字为4位写成9.810×105，若只有两位有效数字，就写成9.8×105。

（3）有效数字的运算规则

①加减运算：在加减运算中，应取各数的小数位数与其中小数位最少者保持一致。例如24.64，25.67，28.55，28.655，19.3相加应写成：

24.6+25.7+28.6+28.6+19.3=126.8

②乘除运算：在乘除运算中各数保留位数，应与原来各数中有效数字位数最少的那个数一致。其积和商的有效数字具有相同的位数。例如0.0268，56.573，1.0645相乘则有：

0.0268×56.6×1.06=1.6078928

但只应取其积为1.61。

③对数运算：在对数运算中，其对数位数保持与真数有效数字位数一致。

④平均值计算：4个或4个以上的数值计算平均值，其平均值有效数字位数可增加一位。

在计算有效数位数时，若计算过程有效数字的第一位大于或等于8，则可考虑有效数字位数增加一位。

在有效数字的计算过程中，有效数字的取舍可按“四舍六入，遇五则偶舍奇入”的原则处理，即凡末位数有效数字后边的第一位数大于5则进位，小于5舍去不计，等于5时如前一位为奇数则进位，前一位为偶数则舍去。

例如：27.0246　取四位得27.02　（四舍）(www.xing528.com)

27.0246　取五位得27.025（六入）

27.025　取四位得27.02（偶舍）

27.035　取四位得27.04（奇入）

2）实验数据的计算

由于计算机的普遍应用，实验数据的计算处理，完全可以编制程序由计算机完成，但在编程之前或在编程运算之后，为了检查计算程序是否正确，必须掌握笔算的方法，而在没有条件使用计算机时仍要进行笔算，故在此将化工原理实验数据计算的要求及技巧作以说明。

①计算过程使用SI（国际单位制）单位。注意有效数字，一般工程计算有效数字取3位，运算过程中可多保留一位不定数字。

②计算时应写出一组数据的完整计算过程，以便检查在计算方法和数字计算上有无错误。计算完一组数据后，就应该判断其结果是否合理，例如根据已有的流体力学知识，孔板流量计的孔流系数C0，一般为0.6~0.8，如果计算结果为0.035或其他异常数字，首先应检查数据处理过程，发现问题及时纠正，可避免一错到底。如果是实验原因，可以重新实验测定。

③实验数据计算，按实验目的的要求归纳整理计算，由于实验数据较多，为了避免重复计算，减少计算错误，可以将计算式中可合并的常数加以合并，然后再逐一计算。例如流体阻力实验，计算Re和λ值，可按以下方法进行。

例如：Re的计算：

式中，管径d，流体密度ρ和黏度μ，在对同一物料、同一设备，在恒定温度条件下进行实验时均为定值，可合并为常数A=dρ/μ，故有：

Re=Au

A值确定后，改变u值可算出Re值。

又例如：管内摩擦系数λ值的计算，由直管阻力计算公式，

得