诊断和处理数据中的异常值对校准估计精度的影响

来源 :中国科技博览 | 被引量 : 0次 | 上传用户:aa654518
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
  [摘 要] 校准估计是运用样本的加权和来估计总体总值,在校准估计中最重要的就是求解出权重,但在抽取的样本中常常会存在异常值,会对所需求解的权重产生一定的影响,进而会影响估计量的好坏,所以为了提高校准估计量的精度,我们用回归诊断的方法对抽取的样本中的异常值进行判断,并由此把样本分为异常集和正常集,然后用正常集来估计总体。
  [关键词]校准估计;异常值;精度
  中图分类号:S298.3 文献标识码:A 文章编号:1009-914X(2018)02-0302-01
  1 引言
  Deville和Srndal于1992年首次提出“校准估计”的概念[1],Alain Théberge[2]通过仿真模拟对不同种类的估计量进行比较研究,发现校准估计量的均方误差通常要比Horvitz-Thompson估计量的均方误差小。很多国家统计机构将校准估计的思想运用于大范围的调查中,并且开发了相应的软件为实践应用提供了便利,那么当数据中存在异常值是否会影响校准估计量的精度?如果会影响,应该怎样处理数据中的异常值来提高估计量的精度呢?接下来就是要解决这些问题。
  2 样本中的异常值的诊断和检验
  在线性回归模型中,我们可以利用回归诊断来探查对参数估计或预测有异常大的影响的数据,这样的数据称为强影响数据,因为一组数据对应空间中的一个点,所以也成为强影响点。考虑线性回归模型[7]
  3 校准估计
  3.1 校准估计量
  Deville和Srndal最早提出校准估计的概念,其核心思想是利用辅助信息在约束条件下得到校准权重,从而得到加权估计量。校准估计的一般程序是:首先在π估计体系[9]下确定原始设计权数,其次在辅助变量的样本加权总量估计值与总体总量相等的条件下,使得校准权重和设计权重(为总体单位k的入样概率)之间的距离最小,最后得到校准估计量,这样得到的校准估计量具有渐近设计无偏性、设计一致性,方差也比Horvitz-Thompson估计量(下简称H-T)要小。
  在校准估计量的形式中,衡量初始权重和校准权重距离的距离函数通常满足的形式为其中是一个严格单调递增的单变量函数,并且Deville和Srndal[1]指出符合条件的距离函数所得到的校准估计量都是一致的且渐进无偏的。
  3.2 校准估计的步骤
  经过对样本中的异常值的判断和检验后,可以把样本s分为异常集和正常集,我们选用正常集r的数据来估计总体。首先应该确保正常集的样本加权和等于总体总值,即,其次在使用線性校准估计时,距离函数的形式为,取,则距离函数为,然后则可以得到校准估计量为:
  4 实际数据分析
  下面,我们通过实际数据来说明在校准估计中处理异常值的应用。现欲估计的是某省的1025个高新公司的第三年总资产的总和,故为目标变量,辅助信息为每个公司的第一年销售收入,第二年销售收入,第三年销售收入。
  为说明校准估计的具体应用,我们用简单随机抽样的方法从上述总体中抽取容量为130的样本,这130组数据可以建立线性回归模型,通过回归诊断可以判断有10组数据表现异常,因为它们的残差 和学生化残差会明显地大于其它点对应量的绝对值,而且它们的也明显比较大,并且通过异常点检验,可以得到它们的统计量大于临界值,则可以确定这10组数据为异常点,则剩下的120组数据为正常集。样本各个变量的特征见表1。为验证样本中辅助信息的有效性,我们可以计算辅助变量与目标变量的相关系数。我们判断的10组数据为异常数据的,,和,为残差,为学生化残差。
  在显著性水平0.05下,经过异常值检验,可以得到10组样本的F值,它们都比大。则可以判定这10组数据为异常数据。
  下面分两种情况讨论校准权数和相应的目标变量总量的估计。
  (1)对在1025个总体中随机抽取的130个样本未作处理,即没有去掉其中的异常值,在约束条件下使最小化,则可以得到第三年总资产的校准估计量,我们也可以算出相应的方差估计量和估计量与总体总值的相对偏差。
  (2)对随机抽取的130个样本去掉10组异常数据,我们可以得到正常集的大小为120,在约束条件,下使最小化,则可以得到目标变量的估计总量,我们也可以算出标准差估计量[2]和相对偏差。
  5 总结
  从表4中我们可以看到去掉异常值之后的数据得到的校准估计量与总体总值的相对偏差和标准差都比用原数据得到的相对偏差和标准差要小,则我们可以知道去掉异常值之后的数据得到的校准估计量优于未处理的数据得到的校准估计量,因此我们可以知道数据中的异常值会影响校准估计量的精度,所以我们需要对数据中的异常值进行处理,即就是把样本分为异常集和正常集,用正常集来估计总体。
  在研究中我们发现,,我们并未找全数据中的异常值,则对提高目标变量的校准估计精度还是有一定程度的影响,所以对于对于异常值的诊断与处理还需进一步完善。此外,当目标变量与辅助信息呈非线性关系时,我们并没有给出这种情况下的校准估计,因为其计算步骤过于复杂。
  参考文献
  [1] 梁媛坚.校准估计量方法的研究[D].广东:暨南大学,2006.
  [2] 王松桂,陈敏,陈立萍.线性统计模型[M].高等教育出版社,2014,44-51.
  [3] 王松桂,陈敏,陈立萍.线性统计模型[M].高等教育出版社,2014,92-96.
  作者简介
  曾道梅(1992—),女,硕士,研究方向为数理统计大数据处理及算法优化。
  赵凌(1964—),女,教授,研究方向为数理统计大数据处理及算法优。
  基金项目
  四川省教育厅科研重点项目“基于三阶段DEA方法对我国地区R&D投入绩效的评估及四川省R&D投入绩效分析”(13sa0137)。
其他文献
[摘 要]本文主要探究了BIM在工程造价精细化管理中的应用价值、工程造价精细化管理存在的问题,并且依据自身多年的工作经验,提出了BIM在工程造价精细化管理中的应用,主要包括:在设计、招投标、施工、竣工结算阶段的应用,希望对提升工程造价精细化管理水平有所帮助,以供参考。  [关键词]BIM;工程造价;精细化;管理  中图分类号:S201 文献标识码:A 文章编号:1009-914X(2018)02-
期刊
[摘 要]ERP系统是实现现代企业管理创新的有利工具,是国内外一种较先进的管理思想和管理信息系统,其对企业的管理发展起着至关重要的作用。本文首先对ERP系统的概念及其运行的条件和目标进行了阐述,其次对ERP系统在企业管理应用的优点进行了深入研究,最后以ERP在企业财务管理中的应用为例,对ERP系统在企业管理中的应用进行了详细说明,旨在为企业在信息时代的发展提供参考。  [关键词]ERP系统;企业管
期刊
[摘 要]随着新媒体时代的到来,广播电视行业也面临着改革与创新,而广播电视编辑就是行业改革的先行者。广播电视行业对广播电视编辑的整体素养要求不断提高,但有些广播电视编辑在发展过程中仍存在各种各样的弊端。本文从广播电视编辑职业各方面的素质现状出发,分析了广播电视编辑应具备的基本素养,并对其综合素质的提升提出了一些针对性的意见,以期能给读者带来一些帮助。  [关键词]广播电视;广播电视编辑;综合素质;
期刊
[摘 要]皮影戏又称灯影戏、土影戏,是我国古老的剧种之一,蕴藏着丰富的文化内涵。皮影,顾名思义是以皮革制成,其中又以牛皮和驴皮为佳。每一个皮影的制作都要通过设计画底稿、过稿、雕刻、着色、热处理、上漆、组装等多道工序精制而成。表演者通过控制人物脖领前的一根主杆和在两手端处的两根耍杆,就可以使人物做出各式各样的动作,无论是玩刀耍枪,甚至喝水,抽烟的动作,都可以栩栩如生地呈现出来。总之,皮影的制作确确实
期刊
[摘 要]在我国的军事技术的领域中,超宽带技术属于军事领域中的重要组成部分之一,随着科技的发展和不断进步,UWB逐渐应用到了雷达和军事通信系统,超宽带技术指的是短距離内通过极低的功率实现数据快速传输的无线技术。一方面实现了通过无线短驳对数据进行传输的功能,另一方面,实现了数据传输的速度型和完整性。超宽带通信技术不仅技术不仅保密性好,抗干扰能力高,和直扩、调频通信相比较,复杂性得到了降低,存在的更多
期刊
[摘 要]城镇供水为人民群众正常生活用水的基本保障,随着城镇化进程的快速发展,人们群众生产、生活与城市供水的依赖程度越来越高,城镇供水安全问题也被人们越来越重视。在城市长途供水管线中,水锤事故是供水安全的重要防治要点。水锤会给我们的生产带来较大的影响,水锤事故往往造成给水管道爆裂、水泵及阀门损坏、大水量漏失,甚至会造成长时间供水停滞及人身伤亡等。本文主要基于以上背景,针对城市长途供水管线水锤事故的
期刊
[摘 要]由于变频器自身有良好的调节与节能作用,所以在煤矿机电设备中得到普遍的应用,能够辅助矿井提升综合的效率。本文将对煤矿机电设备中变频器的选择进行分析,从运输角度、通风角度、供液角度以及提升角度等多方面多角度简述变频器在煤矿机电设备中的调控以及节能方面的具体效果,最终按照煤矿机电设备要求的标称功率以及电机的实际运行电流这两个方面进行选择,选用更加适合的变频器。  [关键词]煤矿;机电设备;变频
期刊
[摘 要]2016年在公司内多次发现加力油管三角座与导管管体配合处主体裂纹故障。由于三角座接头尺寸较短,仅为5.7;且零件形状不规则,各部分壁厚不均匀,感应线圈距离三角座较近,产生的热量被三角座吸收,造成钎料不融化,只能采用手工火焰钎焊,钎焊时加热温度难于控制,容易造成零件过热而产生裂纹;同时GH696合金钎焊时,晶界处存在或产生的低熔点相容易导致液化裂纹,零件手工火焰钎焊合格率仅为70%。  [
期刊
[摘 要]“互联网+”的提出代表一种新的经济形态、是新消费的催化器、是新模式的孵化器、是新经济的连接器。“互联网+农业”,可以促进农业资源的合理配置;加快农产品销售模式升级;提高农业从业人员的综合素质;提升农业生产标准化水平。但是在借助互联网发展农业的过程中也存在着一定的障碍,企业应从构建农业预警指挥平台、提供金农热线云服务和加快农村网络建设三个方面加强农业基础设施建设;通过精心打造“致富通”Ap
期刊
[摘 要]本篇文章中作者以工艺过程控制为突破口,通过对模具加工过程的细致分析,向读者推出了一种新的加工思路,证明了用工艺过程控制质量的体系,这种技术创新在模具加工中对缩短加工周期和提高加工精度起到很大的促进作用。对于拓宽加工思路具有重要的实际意义,本文的经验对以后的类似工装加工具有很好的借鉴作用  [关键词]工艺分析 过程控制 尺寸精度  中图分类号:S875 文献标识码:A 文章编号:1009-
期刊