浅谈检验过程中测量数据处理及修约方法

来源 :中国标准导报 | 被引量 : 0次 | 上传用户:jeall
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
  摘要:本文论述了测试数据处理种类及适用范围,如何优化数据处理、有效给出测试数据。
  关键词:数据处理 适用范围 有效
  Abstract: This paper discusses data processing methods and application scope, how to optimize data processing and obtain valid data.
  Key words: data processing, application scope, effective
  化学实验中常见的数据处理有: (1)公式计算; (2)用实验数据作图或对实验数据计算后作图; (3)线性拟合,求截距或斜率; (4)非线性曲线拟合; (5)作切线,求截距或斜率。计算机作图软件越来越多。利用计算机Origin 软件可方便地进行作图、线性拟合、非线性曲线拟合等数据处理,还可以求出R2 (相关系数的平方) 、SD (标准偏差) 、RSD (相对标准偏差)、ρ值( R2= 0 的概率)等。能够满足化学实验数据处理的要求,特别是先进的仪器设备大都具备自动检测及数据处理功能,但是对于一些异常值的处理和判定,仪器设备还存在缺陷和不足,仪器有时会出毛病,需要人工验证。本文介绍常规检验中一些小数据的处理方法适用范围、优缺点。
  1 实验数据修约、修正
  1.1 数据修约
  实验数据修约按GB/T 8170—2008《数值修约规则与极限数值的表示和判定》,按照其修约间隔或指定单位进行修约,比如按0.1,0.2,0.5修约间隔及指定单位修约。如检测化肥中有效磷的修约用0.1修约间隔,假设磷含量15.1160%,标准要求三位有效数字,在运算过程多保留一位,所以修约15.12%;如柴油中闪点的数据修约要求按0.5修约间隔,假设闪点数值56.4℃,则按修约要求修约后为56.4×2=112.8℃=113℃,113÷2=56.5℃。不允许连续修约,如45.4546,按1修约间隔,要求保留整数,正常修约为45,要是连续修约(错误的修约)就是45.455→45.46→45.5→46。
  1.2 进舍规则
  四舍六入五考虑,五后非零则进一,五后皆零视奇偶,五前为偶则舍去,五前为奇则进一,要一次修约完成,不可连续修约。
  特例:对于非连续型数值个数、分数、倍数、名义浓度等,其有效位数可视为无限多位。如0.5mol/L氢氧化钠标液中的“0.5”为名义浓度,其有效位数为无限多位,规格项目下的“10g”“1mL”等,其有效位数为无限多位。
  在单次检验数据保留中,要根据最少有效精度的条件来决定。如在检验化肥总氮含量过程中,用万分之一天平称取分析试样1.5002g,天平检定证书给出示值误差(检定结果的)为0.2mg(0.0002g),所使用的25mL或50mL的碱式滴定管,样品消耗氢氧化钠标准溶液体积为12.78mL,是四位有效数字,由天平称量及滴定管准确度决定,在计算总氮含量时,最多保留五位有效数字(在运算过程),多留无意义。最后保留四位或四位以下才有意义,当然根据产品标准要求,也可以保留四位以下的有效数字。
  结论:在计算中,其有效数位应根据其他数值的最少有效位数来定。
  1.3 数据修正
  在油品馏程检测数据处理过程中,要进行温度和大气压修正,如柴油馏程温度计读数264.0℃,经温度计修正及大气压修正后为(温度计修正值由检定证书给出,大气压修正值按GB/T 6536—2010中表6,当地大气压为93kPa,计算出来):264.0+0.4+4.09=268.5℃。
  2 处理异常值
  2.1 判别异常值常用的统计方法——格拉布期准则
  2.2 方法标准中给出重复性限和再现性临界差要求
  在GB/T 214—2007《煤中全硫的测定方法》中,当St≤1.50%时,重复性限0.05%(St, ad);再现性临界差0.10%(St, d),符合误差要求的,取算术平均值作为最终结果,若不符合,按CB/T 483—2007《煤炭分析试验方法一般规定》加大检验数量,求重复性测量的极差值,然后再进行数据处理,符合要求的取算术结果的平均值,当样品测定数量加大至规定极限时,仍不符合要求的,舍弃全部结果,从人、机、料、法、环上查找原因,重新试验。
  2.3 准确度值的实际应用
  GB/T 6379.6—2009《测量方法与结果的准确度(正确度与精密度) 第6部分:准确度值的实际应用》应用的基础是基于超过两个值的比较。
  2.3.1 一个实验室内两组测量结果的比较
  在重复性条件下进行两组测量,第一组测试结果数为n1,其算术平均值为,同理,第二组为n2,,在GB/T 6379控制条件下,σr为重复性测量结果的估计值代替标准差Sr,则( -)的标准差为
  2.3.2 两个实验室两组测量结果的比较
  2.3.3 一个实验室的测试结果与参照值的比较
  在重复性条件下,第一个实验室得到n个实验结果,其算术平均值为,与某个确定的参照值μ0比较,在偏倚的实验室分量尚未确定的情况下,(-μ0)的标准差为:
  2.3.5 报告比较结果
  测试结果的绝对值符合要求的,可以取平均值,报出测试结果,超过以上条款给出的合理限值,应认为相应的绝对差可疑,可认为用于计算此绝对差值的所有测量结果可疑,需要做进一步审查。
  检查测试结果可接受的方法包括:
  (1)重复性条件下所得测试结果可接受性的检查方法;(2)在再现性条件下所得测试结果可接受性的检查方法。
  3 结语
  通过用多种方法对测试数据进行处理,可以在日常分析及实验室比对中,正确处理、评估测试数据,及时发现数据中存在的偏倚情况,有效的提供科学测试数据。
  参考文献
  [1]GB/T 8170—2008 数值修约规则与极限数值的表示和判定
  [2]CB/T 483—2007 煤炭分析试验方法一般规定
  [3]GB/T 214—2007 煤中全硫的测定方法
  [4]中国计量测试学会. 二级注册计量师基础知识及专业实务[M]. 北京:中国计量出版社,2009.
  [5]GB/T 6379.6—2009 测量方法与结果的准确度(正确度与精密度) 第6部分:准确度值的实际应用
其他文献
2007年“新世纪百千万人才工程”国家级人选名单公布,我校数学系吴军教授、同济医院罗小平教授入选。
以原始地震波为母波,以与抗震规范相容的功率谱为目标谱,利用功率谱与小波包变换系数之间的关系式,提出了利用小波包变换合成人工地震波的新方法.通过实例分析发现:人工合成的地震
研究了RSA签密技术.基于Coron的通用填充方法,提出了一种使用RSA的混合签密方案RSA-HS.基于RSA问题的困难性假设,可以证明该方案在随机预言(RO,Random Oracle)模型下是安全的.仿真结
日前,东芝信息机器(杭州)有限公司向质检总局备案了召回计划,将自2016年11月10日起,扩大召回部分2013年7月至2014年3月期间制造的Satellite C40-A、Satellite Pro C40-A、Satellite C840、Satellite C50-A、Satellite C50D-A东芝笔记本电脑配备的电池,以及在维修过程中更换给用户的电池(型号为G71C000FS110和
命题知识谱系作为知识总谱的重要构体,其谱系生成的常规事态显形方式,具有诸多对立统一的动态结构关联关系,以及这些关联关系所形成的互驱合力。仅从一个维度给予社会静力学
国家铁路局在京组织召开铁路技术标准工作座谈会,邀请70多家单位的专家和代表,研究探讨当前及“十三五”铁路技术标准发展目标和工作任务。随着铁路改革发展进程,铁路技术标准特
摘要:本文所研究的是通过标准建模语言完成对智能成绩单管理系统的需求分析,进而设计符合功能需求的管理系统。智能成绩单管理系统旨在使用信息化的手段,接驳现有校务管理系统,减少成绩单管理过程中的人工参与,减轻学校班主任的工作量,提高工作效率,提供对以往成绩报告的追溯与调用,可为每个学生建立以时间为轴的立体成绩报告单体系。  关键词:智能 成绩报告单 管理 UML  Abstract: In this p
日前,在中国通信标准化协会(CCSA)移动互联网应用和终端技术工作委员会(TC11)第十一次全会上讨论通过了设立“移动互联网+汽车”、“移动互联网+金融”、“移动互联网+健康”3个子工
2015年元旦期间,上海外滩发生的群众拥挤踩踏事件引起社会各界广泛关注。2015年1月4日,国家旅游局下发《景区最大承载量核定导则》,要求各大景区核算出游客最大承载量,并制定相关
6月9日至10日,由科技部、美国贸发署主办,中国汽车技术研究中心和美国国家标准协会承办的“中美电动汽车技术和标准交流会”在北京召开。