基于hadoop的农业电子商务数据平台构建关键技术研究

被引量 : 0次 | 上传用户:zhuhande
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
当前农业信息化进程中,农业电子商务发展尤为迅速,越来越多的用户通过农业电子商务网站来购买农产品,农业电子商务网站中农产品、物流、用户数据的积累越来越多。这些数据是分布在不同的主机,不同的终端,如何采集,存储这些数据,为农业电子商务网站发展做数据支撑,成为很多农业电子商务网站待以解决的问题。大数据技术的飞速进步,带来了重构数据平台的新技术,基于hadoop的大数据技术能够很好的满足农业电子商务数据平台现有的需求,本文研究hadoop相关技术在农业电子商务中的落地实现,阐述其基本原理,使用hadoop相关技术采集和存储数据,通过该论文可以使农业电子商务相关行业人员迅速理解hadoop,了解hadoop相关技术的使用,快速搭建基于hadoop集群环境,构建基于hadoop的农业电子商务数据平台。本文的主要研究内容和创新点如下:1.针对农业电子商务的数据平台存在的相关问题进行研究,提出了一种针对海量数据处理业务的分布式数据采集、存储平台。可以解决原有的数据平台大数据采集和存储问题。2.考虑到hadoop平台的搭建步骤较多且具有一定难度,本文详细介绍了hadoop数据平台的搭建过程,为农业电子商务网站实现hadoop平台做参考,也通过部署过程加深对hadoop平台的了解。3、对农业电子商务数据采集技术的特点和难点进行了详细分析,包括分布式、高动态性、采集终端多样性等,针对这些数据采集难点,引入flume、sqoop数据采集工具,保证数据的可靠性采集。4、针对农业电子商务网站日益增长的离线和在线数据存储问题,引入hdfs分布式文件系统、和hbase非关系型数据库,解决对农业电子商务多类型,多业务数据的存储容灾、冗余备份等问题。
其他文献
1831年5月,年轻的托克维尔(Alexis de Tocqueville)第一次踏上美国国土。这是一场"自我放逐"之旅。他与波旁王朝的关系剪不断、理还乱,在新共和国的政权下难免受到怀疑,于是,
世界政治化是指技术性(或非政治)议题政治化并进入世界政治议程的现象。近几年,网络空间问题,包括网络安全、互联网自由与互联网治理三大内容迅速世界政治化,并成为一个显性
为海东市防治落叶松叶蜂提供参考,介绍了落叶松叶蜂在海东市的发生危害现状,分析了落叶松叶蜂的发生原因,提出了采取物理防治、营造林防治和化学防治等方法防治叶蜂的发生。
<正>俗话说:"万事开头难。"写好作文开头尤为重要。文章的开头如果写得有姿有彩,像凤头般靓丽夺目,定能吸引阅卷老师的眼球。请看各地中考满分文的开头技巧。技巧一设计悬念,
期刊
研究目的:合作农场作为城乡一体化背景下农村土地的新型经营主体,有其生产机制、运行模式。论文基于江苏省太仓市东林合作农场的案例分析,分析合作农场面临的挑战诸问题并提
澳大利亚是亚太地区重要的中等国家,海洋安全战略是其国家安全战略的基石。随着国家实力的增强和亚太地区安全形势的变化——尤其是美国亚太再平衡战略的实施,澳大利亚加紧了
本文从团队精神的基础及核心两个方面对团队精神进行深层次的剖析。继而就当今社会市场竞争进一步激化的环境下,如何打造最新意义上的团队精神,以更好地适应千变万化的外部环
<正> 足球运动是一项古老的体育活动,源远流长。据说,希腊人和罗马人在中世纪以前就已经从事一种足球游戏了。他们在一个长方形场地上,将球放在中间的白线上,用脚把球踢滚到
  课程体系作为高校人才培养的核心,决定大学生的基本素质,影响毕业生的就业状况。通过资源环境与城乡规划管理专业近年来毕业生的就业状况,指出就业形势的严峻性,提出顺应市场
在介绍黑龙江广播电视网络股份有限整合发展历程的基础上,指出广电网络长期以来所依赖的有线、无线、直播卫星服务垄断地位正受到来自电信IPTV尤其是互联网OTT的严峻挑战。为