论文部分内容阅读
[摘 要]在简单介绍大数据技术作用、特点及其应用现状的基础上,提出环境检测领域中大数据技术应用现存问题,并对大数据技术具体应用进行深入分析,为环境监测实施与发展提供可靠的技术支持。
[关键词]环境监测;大数据技术
中图分类号:X830 文献标识码:A 文章编号:1009-914X(2018)41-0201-01
环境监测指的是由专业环境监测机构针对区域环境质量实施动态监视与测定,通过对各项能反映出环境整体质量的技术指标的动态监视及准确测定,能确定区域污染情况,为环境质量水平的判断提供依据。在具体的监测工作中,往往要面对很多复杂的数据,如物理指标数据、化学指标数据与生态系统数据等,这就要求有较高水平的数据处理技术,过去由于数据采集与处理技术水平不高,才限制了环境监测的未来发展。而大数据技术的出现和应用,从根本上解决了这一难题,目前正逐步成为环境监测重要工具,发挥出重要作用与意义。
1大数据技术及其应用现状分析
在互联网快速发展的进程中,它在人们日常生活生活中发挥了巨大的作用,各行各业通过对互联网技术的应用,都得到了很大程度的进步,随着其使用范围及次数的快速增多,数据量明显增加。对于大数据,它指的是在不借助抽样分析等分析方法的基础上,对所有类型的数据实施分析与处理。目前对大数据有很多种定义,而总体上看大数据具有数量庞大、运算速度快、多样性、价值密度较低等特点,从海量数据中挖掘有价值的部分是大数据技术及其应用的关键所在[1]。
就目前来看,我国大数据技术应用主要集中于经济发达地区。以腾讯与阿里巴巴等为首的互联网企业,以及以华为与魅族等为首的IT企业的快速发展,提供了持续不断的数据供应,从大数据企业角度讲,他们对于大数据的实际需求已经和互联网、IT企业产生稳定供需关系,继而形成完整的市场框架。然而,数据采集与挖掘维护等方面缺少对等服务措施,使市场体系欠合理,相应的产业链也亟待成熟。因环境监测领域的大数据有重要作用和突出效果,所以国家对此给予高度重视,很多地区正积极研发新技术,表现出良好发展态势。另外,企业也在很短的时间内正确认识到大数据所能带来的实惠,对其持有肯定的态度,随之增加研发投资,加之政府给予的政策支持,创造出前所未有的大数据发展条件及前景。但对于那些经济欠发达的城市,因作为大数据基础的互联网实际发展还受到限制,所以大数据发展停滞,表现出明显的地区差异,需要在日后的发展过程中重点解决[2]。
2大数据技术在环境监测中的应用
2.1现存问题
2.1.1信息保密方面
收集到相应的环境数据后,庞大且复杂的数据信息存储于相同位置,对数据信息安全提出极高要求。现阶段,尽管我国对互联网技术给予很高的重视,发展速度也很快,但对数据信息的保密却不够重视,在环境监测中,很多工作人员都完全忽视保密问题,即便重视保密也只是采取十分简单的措施,易被违法人员窃取或破解,进而造成数据信息外泄,引起难以挽回的破坏或损失[3]。
2.1.2网络环境安全方面
如前所述,互聯网技术正处快速发展阶段,各种形式的网络攻击层出不穷,已经成为这项技术发展的重要组成部分。因互联网目前是政府及大型企业等日常工作当中不可获取的重要工具,所以必须做好安全防护。对网络攻击而言,它一旦发生将严重影响信息安全,环境监测工作中需要和政府的网络进行必要的信息交流,导致政府一些重要资料遭到窃取。当前的大数据保护能力还较为低下,而且相关的法律法规也仍处空白,导致犯罪成本极低,如果数据早到窃取,则将直接危及数据安全。因此,在实际的大数据技术应用过程中,必须重视并做好安全防护。
2.2大数据技术具体应用
2.2.1数据采集
对于环境监测方面的大数据,其主要由两部分组成:其一,监测部门通过技术手段直接获取的数据信息,如测区生态环境组成结构方面的数据情况与和污染物有关的监测数据等。对这些数据而言,在时间跨度上往往保持一致,均在四十年左右;其二,在外部产生的能直接影响环境的所有数据,此类数据包括人们日常生产生活过程中产生的所有对环境有一定影响的数据,与之前那种不同,这种数据存在一定不确定性,无法进行预测,在结构性方面也较为欠缺,所以其时间跨度往往没有固定值。通过对以上两类数据的采集,能基本掌握测区环境基本情况,为日后的分析处理提供可靠的参考[4]。
2.2.2大数据集成
(1)数据转换模块
因互联网技术发展有很大的时间跨度,所以在具体的发展中需要用到的编码也持续发生不同的变化。在进行数据收集时,为保证收集准确性及全面性,一般不会对数据类型及格式做出过多限制,所以收集到的数据是十分复杂的。针对这些数据,应选出数据格式和类型与目前常用方式不同的部分,进行相应的处理和转换。使编码实现统一能为后续的数据处理创造便利,尤其是能实现统一处理,达到提高监测效率的根本目标。
(2)数据补采模块
在实际的采集工作中,操作人员无法避免的会产生很多问题,使收集到的数据信息不够完整。另外,如果数据储存设备存在问题无法正常工作,则会造成数据损坏与丢失,而数据一旦丢失,则会对监测工作造成严重影响,使监测数据结果难以反映测区实际情况。基于此,为提高数据信息完整性,达到预期的监测目标,对这些数据信息应实行分类存储与管理,根据实际情况采取正确有效的补采措施。此外,在必要时,可借助人工完成补采[5]。
(3)数据清理模块
在进行数据采集工作时,为保证数据信息实际采集的准确性和全面性,通常对采集没有提出严格限制,表现的较为松散,这就导致很多收集到的数据并非和环境监测有关的,这些数据在环境监测这一专业中被称作垃圾信息。为加快数据分析速度,避免这些无关数据造成影响,需要对这些数据进行有效处理。另外,数据信息真实性同样难以确定,这些真实性较差的数据容易影响后续数据分析,即所谓的脏数据。在实际工作中,此类脏数据不得存在,应根据实际情况进行有效清理。
3结束语
综上所述,大数据技术的产生与应用,在很大程度上加快了环境监测工作效率,解决在以往环境监测工作中面临的数据采集和处理困难等问题,保证监测质量与水平,无论是对当前的环境监测还是其未来发展都有重要作用与现实意义。随着环境恶化不断加重,和环境及其监测有关的数据信息持续增多,而且不同类型的数据也会产生一定影响,需进行收集与处理的相关数据的总量将变得十分庞大。为使环境监测充分发挥应有的作用,需要认清现存的各项问题,同时积极研发和应用大数据技术,持续对其进行优化与创新。总的来看,环境监测领域的大数据有着广阔的发展前景,它的应用和发展为环境监测工作提供了持续不断的技术驱动力,在将来的发展进程当中,这项技术将与环境监测工作更好的结合,进而创造出更大的实惠和便利,为社会提供优质的服务。
参考文献:
[1]肖巍.信息系统在环境监测工作中的应用分析[J].电脑知识与技术,2018,14(04):245-246+249.
[2]刘丽香,张丽云,赵芬,赵苗苗,赵海凤,邵蕊,徐明.生态环境大数据面临的机遇与挑战[J].大数据时代,2018(01):43-50.
[3]钮卿,程琳.基于环境保护大数据的监测与智能诊断研究[J].环境科学与管理,2018,43(01):167-170.
[4]吕晓君,董峥,吴铁,关睿,苏丹.基于环保大数据的污染防治可行技术数据库建设路径研究[J].环境影响评价,2018,40(01):15-18+22.
[5]牛云景.大数据在环境保护中的应用[J].环境与发展,2017,29(10):249-250.
[关键词]环境监测;大数据技术
中图分类号:X830 文献标识码:A 文章编号:1009-914X(2018)41-0201-01
环境监测指的是由专业环境监测机构针对区域环境质量实施动态监视与测定,通过对各项能反映出环境整体质量的技术指标的动态监视及准确测定,能确定区域污染情况,为环境质量水平的判断提供依据。在具体的监测工作中,往往要面对很多复杂的数据,如物理指标数据、化学指标数据与生态系统数据等,这就要求有较高水平的数据处理技术,过去由于数据采集与处理技术水平不高,才限制了环境监测的未来发展。而大数据技术的出现和应用,从根本上解决了这一难题,目前正逐步成为环境监测重要工具,发挥出重要作用与意义。
1大数据技术及其应用现状分析
在互联网快速发展的进程中,它在人们日常生活生活中发挥了巨大的作用,各行各业通过对互联网技术的应用,都得到了很大程度的进步,随着其使用范围及次数的快速增多,数据量明显增加。对于大数据,它指的是在不借助抽样分析等分析方法的基础上,对所有类型的数据实施分析与处理。目前对大数据有很多种定义,而总体上看大数据具有数量庞大、运算速度快、多样性、价值密度较低等特点,从海量数据中挖掘有价值的部分是大数据技术及其应用的关键所在[1]。
就目前来看,我国大数据技术应用主要集中于经济发达地区。以腾讯与阿里巴巴等为首的互联网企业,以及以华为与魅族等为首的IT企业的快速发展,提供了持续不断的数据供应,从大数据企业角度讲,他们对于大数据的实际需求已经和互联网、IT企业产生稳定供需关系,继而形成完整的市场框架。然而,数据采集与挖掘维护等方面缺少对等服务措施,使市场体系欠合理,相应的产业链也亟待成熟。因环境监测领域的大数据有重要作用和突出效果,所以国家对此给予高度重视,很多地区正积极研发新技术,表现出良好发展态势。另外,企业也在很短的时间内正确认识到大数据所能带来的实惠,对其持有肯定的态度,随之增加研发投资,加之政府给予的政策支持,创造出前所未有的大数据发展条件及前景。但对于那些经济欠发达的城市,因作为大数据基础的互联网实际发展还受到限制,所以大数据发展停滞,表现出明显的地区差异,需要在日后的发展过程中重点解决[2]。
2大数据技术在环境监测中的应用
2.1现存问题
2.1.1信息保密方面
收集到相应的环境数据后,庞大且复杂的数据信息存储于相同位置,对数据信息安全提出极高要求。现阶段,尽管我国对互联网技术给予很高的重视,发展速度也很快,但对数据信息的保密却不够重视,在环境监测中,很多工作人员都完全忽视保密问题,即便重视保密也只是采取十分简单的措施,易被违法人员窃取或破解,进而造成数据信息外泄,引起难以挽回的破坏或损失[3]。
2.1.2网络环境安全方面
如前所述,互聯网技术正处快速发展阶段,各种形式的网络攻击层出不穷,已经成为这项技术发展的重要组成部分。因互联网目前是政府及大型企业等日常工作当中不可获取的重要工具,所以必须做好安全防护。对网络攻击而言,它一旦发生将严重影响信息安全,环境监测工作中需要和政府的网络进行必要的信息交流,导致政府一些重要资料遭到窃取。当前的大数据保护能力还较为低下,而且相关的法律法规也仍处空白,导致犯罪成本极低,如果数据早到窃取,则将直接危及数据安全。因此,在实际的大数据技术应用过程中,必须重视并做好安全防护。
2.2大数据技术具体应用
2.2.1数据采集
对于环境监测方面的大数据,其主要由两部分组成:其一,监测部门通过技术手段直接获取的数据信息,如测区生态环境组成结构方面的数据情况与和污染物有关的监测数据等。对这些数据而言,在时间跨度上往往保持一致,均在四十年左右;其二,在外部产生的能直接影响环境的所有数据,此类数据包括人们日常生产生活过程中产生的所有对环境有一定影响的数据,与之前那种不同,这种数据存在一定不确定性,无法进行预测,在结构性方面也较为欠缺,所以其时间跨度往往没有固定值。通过对以上两类数据的采集,能基本掌握测区环境基本情况,为日后的分析处理提供可靠的参考[4]。
2.2.2大数据集成
(1)数据转换模块
因互联网技术发展有很大的时间跨度,所以在具体的发展中需要用到的编码也持续发生不同的变化。在进行数据收集时,为保证收集准确性及全面性,一般不会对数据类型及格式做出过多限制,所以收集到的数据是十分复杂的。针对这些数据,应选出数据格式和类型与目前常用方式不同的部分,进行相应的处理和转换。使编码实现统一能为后续的数据处理创造便利,尤其是能实现统一处理,达到提高监测效率的根本目标。
(2)数据补采模块
在实际的采集工作中,操作人员无法避免的会产生很多问题,使收集到的数据信息不够完整。另外,如果数据储存设备存在问题无法正常工作,则会造成数据损坏与丢失,而数据一旦丢失,则会对监测工作造成严重影响,使监测数据结果难以反映测区实际情况。基于此,为提高数据信息完整性,达到预期的监测目标,对这些数据信息应实行分类存储与管理,根据实际情况采取正确有效的补采措施。此外,在必要时,可借助人工完成补采[5]。
(3)数据清理模块
在进行数据采集工作时,为保证数据信息实际采集的准确性和全面性,通常对采集没有提出严格限制,表现的较为松散,这就导致很多收集到的数据并非和环境监测有关的,这些数据在环境监测这一专业中被称作垃圾信息。为加快数据分析速度,避免这些无关数据造成影响,需要对这些数据进行有效处理。另外,数据信息真实性同样难以确定,这些真实性较差的数据容易影响后续数据分析,即所谓的脏数据。在实际工作中,此类脏数据不得存在,应根据实际情况进行有效清理。
3结束语
综上所述,大数据技术的产生与应用,在很大程度上加快了环境监测工作效率,解决在以往环境监测工作中面临的数据采集和处理困难等问题,保证监测质量与水平,无论是对当前的环境监测还是其未来发展都有重要作用与现实意义。随着环境恶化不断加重,和环境及其监测有关的数据信息持续增多,而且不同类型的数据也会产生一定影响,需进行收集与处理的相关数据的总量将变得十分庞大。为使环境监测充分发挥应有的作用,需要认清现存的各项问题,同时积极研发和应用大数据技术,持续对其进行优化与创新。总的来看,环境监测领域的大数据有着广阔的发展前景,它的应用和发展为环境监测工作提供了持续不断的技术驱动力,在将来的发展进程当中,这项技术将与环境监测工作更好的结合,进而创造出更大的实惠和便利,为社会提供优质的服务。
参考文献:
[1]肖巍.信息系统在环境监测工作中的应用分析[J].电脑知识与技术,2018,14(04):245-246+249.
[2]刘丽香,张丽云,赵芬,赵苗苗,赵海凤,邵蕊,徐明.生态环境大数据面临的机遇与挑战[J].大数据时代,2018(01):43-50.
[3]钮卿,程琳.基于环境保护大数据的监测与智能诊断研究[J].环境科学与管理,2018,43(01):167-170.
[4]吕晓君,董峥,吴铁,关睿,苏丹.基于环保大数据的污染防治可行技术数据库建设路径研究[J].环境影响评价,2018,40(01):15-18+22.
[5]牛云景.大数据在环境保护中的应用[J].环境与发展,2017,29(10):249-250.