在化学测试结果中的有效数字

开篇：润墨网以专业的文秘视角，为您筛选了一篇在化学测试结果中的有效数字范文，如需获取更多写作素材，在线客服老师一对一协助。欢迎您的阅读与分享！

[摘要]有效数字的控制在化学测试中有着重要的影响，通过不同数字的累加可能会使分析结果产生错误，因此，我们在进行化学测试的过程中要对有效数字进行严格的控制。

[关键词]化学；测试结果；有效数字

中图分类号：F407.7文献标识码： A

一、前言

数据的准确在化学分析中有着重要的作用，一般情况下在化学分析的过程中使用的试剂都以克或毫克为单位进行计算，稍微控制不当就会造成测试结果出现误差。

二、有效数字的重要意义

在分析工作中,为得到准确的测量结果,不仅要准确地测定各种数据,还必须正确地记录和计算。分析结果的数值不但表示被测组分含量的多少,同时,也反映了测定的准确程度。因此,数据的记录和计算是十分重要的。有效数字是科学实验中实际能测量到的数字,它反映了测量的客观事实。有效数字在分析化学中具有非常重要的意义。

1、有效数字的位数反映了测量仪器和观察的准确度

例如:用万分之一的分析天平称量1克的物体,只能记为1.0000克。这种记法表明,最后一位数字是估计得来的,具有一定的误差和不确定性,其它各位数字都是准确的。这样所记的数字是有效数字,它之所以有效,是因为万分之一分析天平的精度是万分之一克,即0.0001克,而记录的数字1.0000克表示的精度也是万分之一克,彼此是一致的。如果随意地记为1.00或1.00000都是不正确的,因为前一种记法人为地降低了称量的准确度,而后一种记法则是人为地提高了称量的准确度,都没有反映仪器测量的实际准确程度,因此是不正确的。

2、有效数字的位数反映了测量的误差

例如:某物在万分之一的分析天平上称量得0.5200克,表示该物质的实际重量在0.5200士0.0001克的范围内,其测量的相对误差为:如果把测量结果记为0.520克或0.52克.则表示该物体的实际重量分别在0.520士0.001克或0.52士0.01克范围内,其测量的相对误差为准确度分别降低了10倍和100倍。所以,有效数字与测量的相对误差有关。

3、超过仪器准确度的数字是不正确的

例如:在感量十分之一的台称上称得5.6克物质,表示准确到0.1克,该物体质量范围为5.6士0.1克,有效数字是两位。但不能记为5.60, 5.600或5.6000克,因台称只能准确称量到0.1克,小数点后第一位数已经是可疑数字,小数点后第二位、第三位数字就没有意义了。

三、存在问题

1、“规范”中的个别条文规定不合理或其本身前后要求有矛盾

在“规范”的数字“计算规则”中有这样一条规定:“凡用容量法分析项目,取小数后两位”。而在其后面的附表中又规定:总硬度、溶解氧取小数后一位,COD、BODS取小数后两位。显然,这里有两个问题值得研究,其一,“凡用容量法分析项目,取小数后两位”规定不科学。因为在容量法分析项目计算中,也应按“计算规则”进行,计算出来是几位小数就是几位,否则“计算规则”就不能成立,而必然导致无法统一的矛盾产生,即遵从“计算规则”无法保证取小数后两位,反之亦然;其二,规范中有关内容前后矛盾,既然前面规定“取小数后两位”,同时容量法后面又规定有取一位小数的,有取两位小数的,可见前后是不一致的。准确的规定应是:凡用容量法分析项目,检测结果最多取小数后两位,但不得超出该项目方法检出限的小数位数;检出限为整数时,不得带小数部分。

2、结果不应使用位数不定的数据

测试数据中有无效零,那么这个数据的有效位数无法确定,测试结果应避免使用无效零。但目前有不少分析报告给出的测试数据使用了位数不定的数据。如例某治理工业废水研究中给出的分析结果:苯胺30mg/L,硝基苯70mg/L,CODC1000mg/L都使用T无效零,因而无法确定其有效位数。也就无从判断测试的精确程度。正确的表达应该以指数的形式表达出有效位数,或标明不确定度,或变换单位以避免出现无效零。

3、平均值也应给出恰当的有效数字

有些测试报告给出的平均值有效位数与测试方法的精密度不适应。分析结果的平均值都是四位有效数字,而从其精密度上看是达不到如此准确的程度。我们认为:并非所有平均值都可以比测量值多保留一位或几位有效数字,而应根据平均值本身的精密度给出恰当的有效位数。平均值的准确度高于单次测量值,故平均值的有效位数可以多于单次测量值。但是,平均值也来自测量值,也要受到测量仪器的准确度和方法精密度的影响,只有在测量次数较多的情况下,为了减少运算中的四舍五入误差,可以多保留一位,但作为最后报出的结果还要根据平均值自身的精密度来确定。最末一位不能低于精密度所在的位置。

4、精密度数值的有效位数

还有不少文章不注意精密度数值的有效数字,随意地将精密度数字取二位,三位。统计学认为,标准偏差也是来自测量值,同样也存在精密度问题。

5、化学测试报告中各类数据的有效数字要相互匹配有些分析方法研究报告中列出的各类数据(如标准溶液浓度值与测试结果,标准偏差与相对标准偏差)的有效数字彼此不匹配。

四、有效数字的计算规则

为了准确表明所得结果的准确度,并在计算上节省时间,对数字的处理有如下规则。

1、记录分析数据,或最后分析结果,只应保留一位可疑数字(不定数字)。在实验工作中,对于任一物理量的测定,其准确度都是有一定限度的。例如:滴定管上某溶液的刻度,甲、乙、丙三人分别读得23.43、23.42、23.44ml,这些四位数字中,前三位数字都很准确,第四位数字是估计出来的,不甚准确,称为可疑值,但它不是臆造的,记录时应该保留它。因此,这四位数字都是有效数字。所谓有效数字,就是一个数中,除最后一位(只能是最后一位)不甚确定外,其它各数都是确定的。具体来说,有效数字就是在特定条件下实际上能测到的数字。在确定有效位数时,应注意0的作用:

“0”在不同位置的作用是不同的。它可以是有效数字,也可以不是有效数字。在1.000、0.1000、1.00中,“0”是有效数字。在0.0382中“0”只起定位作用,不是有效数字。因为这些“0”只与所取的单位有关,而与测量的精密度无关。如果将单位扩大1000倍,则0.0382就变成38.2(如0.0382g38.2mg),有效数字只有3位。另外,还应该注意,像2000这样的数字,有效数字不好确定,可能有1、2、3位,甚至4位有效数字。这时,应根据实际的有效数字位数,写成2×103、2.0×103、2.00×103或2.000×103。

2、有效数字位数确定后,弃去过多不准确的数字,一般多采用四舍五入的原则。亦可采用“四舍六入五成双”的方法。“四舍五入”法,即尾数≤4时弃去,≥5时进位;“四舍六入五成双”法,即尾数≤4时弃去,≥6时进位;尾数=5时,如进位后得偶数则进位,弃去后得偶数则弃去。例如,2.604、2.605、2.615分别处理成三位数,用“四舍五入”法得2.60、2.61、2.62;用“四舍六入五成双”法,得2.60、2.60和2.62。“四舍六入五成双”法的优点是避免了数据偏向一边的倾向。

3、几个数相加或相减时,它们的和或差只能保留一位不确定数字,即有效数字的保留应以小数点后位数最少的数字为根据,也就是以其绝对误差最大者为根据。例如:0.0121+25.64+1.05782在上面三个数据中,25.64的“4”已是可疑,有0.01的误差,因此最后的结果也只能保留小数点后第二位。正确的方法应为0.01+25.64+1.06=26.71。根据加减法中误差的传递规律,也可得到如上同样的结果。已知三个测量数中最后一位数有±1的绝对误差,即0.0121±0.0001、25.64±0.01、1.05782±0.00001,故总绝对误差=0.0001+0.01+0.00001≈0.01,可见计算结果中小数点后第二位数字有±0.01的误差,有效数字只能保留到这一位。

4、几个数相乘或相除时,所得积或商的有效数字的保留,取决于有效数字最少的那个数,即取决于相对误差最大的那个数。例如:0.0121×25.64×1.05782在式中,0.0121是三位有效数字,位数最少,所以,应以0.0121的位数为基准,即:0.0121×25.6×1.06=0.328根据乘除法的误差传递规律,亦可得到如上相同的结果。设三个数的最后一位有±1的绝对误差,则:总相对误差=1/121×100%+1/2564×100%+1/105782×100%=0.8%+0.04%+0.00009%≈0.8%,即总相对误差近似于有效数字为三位的0.0121的相对误差,因此,应以0.0121的位数为基准。

5、若数据的首位大于8,则有效数字可多取一位。

例如9.00、9.99这样大的数,相对误差约0.1%,与10.01、12.10这些四位有效数字的相对误差相近,完全可以当四位有效数字处理。

6、有关化学平衡的计算,一般保留二或三位有效数字。重量分析、滴定分析一般采用四位有效数字。各种分析测量数据不足四位有效数字时,按有效数字位数最少者保留有效数字。

五、结束语

综上所述，在化学分析中我们要对有效数字进行严格的控制，提高测试结果的准确性，为更好的试验提供数据支撑。

参考文献

[1]于洋.化学数据分析的数据有效控制[J].化学分析.2012