农业大数据清洗方法比较研究

来源 :中国农业科学院 | 被引量 : 0次 | 上传用户:happytime3
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着信息技术的飞速发展,数据以惊人的速度产生并积累下来,大数据时代已经来临,数据作为继石油之后的又一个重要战略资源,在医疗、交通、能源等各个领域中发挥着重要作用。农业是我国的基础产业,正处于从传统农业向现代农业的历史转变过程之中,产生了数量可观的农业大数据,我国正努力打造农业大数据平台以服务于现代农业建设。然而,由于农业信息化水平较其他产业相对落后以及农业本身的复杂性,农业大数据的质量参差不齐。高质量的数据是大数据发挥价值的关键,因此,对农业大数据的质量进行评估,并采取措施进行数据清洗以提高农业大数据的质量,具有重要意义。本文基于以上背景对农业大数据的清洗方法进行了研究。首先,在文献研究的基础上,梳理了数据清洗和数据质量的理论知识和国内外对数据清洗技术的研究现状,并对目前市场上的数据清洗工具进行了对比分析。其次,对我国农业大数据的现状和构成进行了研究,并总结了我国农业大数据的特征及其对数据质量的挑战,从数据质量的各个维度,设计了具体的评价步骤和方法,采用数据质量调查和数据质量指标测量相结合的方法,对农业大数据质量进行评估,并将结果放在二维矩阵中进行分析。最后,重点对相似重复记录的清洗方法进行了比较研究,设计了基于Febrl的数据清洗实验,选取Web of Science、Science Direct、SpringerLink等数据库中的农业文献数据,对Edit-Dist、Q-gram、Smith-Waterman-Dist算法在字段匹配上的有效性进行了比较,根据原始数据的特点,选择SNM的改进算法作为相似重复记录的清洗算法,以期提高数据清洗的效率,采用召回率、准确率和F值三个指标对清洗结果进行比较分析,实验结果表明,Smith-Waterman-Dist算法优于前两者,改进的SNM算法在记录匹配的全面性和准确性以及综合表现上都优于传统的SNM算法,基本上满足了对文献数据中的相似重复记录清洗的需求。
其他文献
各地级以上市人民政府,各县(市、区)人民政府,省政府各部门、各直属机构:现将《国务院办公厅关于建立外国投资者并购境内企业安全审查制度的通知》(国办发[2011]6号)转发给你们,请认
摘 要:时代在进步,教育在发展,新课程改革之下,小学的数学教学方式也随之进行了一定的调整。数学教学者开始审视传统教学方式的不足之处,并开始尝试将教学生活化。本文将通过对教学生活化价值介绍,提出一些教学生活化的可行方案,仅供参考。  关键词:生活化;实际问题;学习方式;家庭背景  因为数学知识点大多较为抽象,因此想要提高教学质量,必须要将数学的知识点与学生的日常生活相结合,不仅能够便于学生理解,加深
美国波音公司最大机型747—8型货运飞机在华盛顿州埃弗里特成功试飞。波音747—8型飞机长76米,与747—400型飞机相比.其飞行噪音更低.燃油经济性更好.
基于案例分析的视角,探索第三卫生间的标志设计方式。通过分析第三卫生间标志设计的常规型、人字型、Y字型、房屋型、圆圈型、字母型、稳重型、彩带型、树叶型等案例,并对第
目的探讨参附注射液对慢性心力衰竭(CHF)患者炎性因子及心功能的影响。方法选取60例CHF患者,随机分为观察组(参附注射液组)和对照组(常规治疗组)。对照组常规卧床休息,适当限制体力
(广东省环境保护厅2011年1月21日以粤环[2011]7号发布自2011年2月1日起施行)
该产品是一种专门针对分散式有机污水处理的高度集成化新型中水处理设备,以膜生物反应器技术作为核心处理工艺,集生物降解技术、膜分离技术、在线清洗技术、消毒技术,以及可编程
教学活动展开的主要场所是课堂。不管是过去、现在,还是将来,课堂教学都是我们培养学生综合能力的主要途径。用尽量少的时间与精力,让学生获得最大限度的学习效益的课堂教学,是减轻学生课业负担、提高教师自身素质的根本所在,向课堂要效益是我们教师一直关注并执着追求的目标。下面我就“如何提高小学数学课堂教学效益”谈谈自己的一些看法:  一、教学观念现代化  传统的教师讲、学生听的满堂灌教学观念随着新课标的诞生,
摘 要:小学语文阅读教学是促进小学生语文能力的一个重要手段,阅读教学要分年段地进行不同训练,以形成从低到高的阶梯式教学,这样能够让学生在不同阶段把握阅读的特点,进而养成自主阅读的良好习惯。语文教学的任务之一是培养学生的阅读能力。阅读是小学生获取科学文化知识的源泉,阅读教学事关语文教学的质量。  关键词:阅读能力;概括力;阅读技能;思维品质  阅读能力的内容主要是:认读能力、理解能力、鉴赏能力、评价
目的:探讨门诊老年高血压患者药师干预对疗效及用药依从性的影响。方法:对门诊老年高血压患者进行生活健康教育、制定最佳用药方案、用药指导等药学服务干预前后的血压控制疗