海量结构化和非结构化大数据Hadoop集群规划

来源 :2017中国数据库技术大会 | 被引量 : 0次 | 上传用户:yanzhijianer
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
报告一个规模超上千个节点Hadoop集群的[硬件规划,软件规划,网络规划,应用规划]设计,综合考虑了集群头节点的高可用设计,元数据的备份恢复设计,读写流量分离,多租户,安全审计设计,集群冗余设,结合应用场景,结构化(文本和数据表)和非结构化数据(影像)的等不同并行处理方式,并探索深度学习和Hadoop分布式融合等规划.
其他文献
作为流域机构省区网络安全升级的一个典型案例.本文简述了机构网络现状,从网络区域划分、安全审计、威胁检测、日志管理和态势感知等方面,深入剖析了存在的问题,并据此制定了安全防护能力提升实施方案.升级策略着重于边界防护体系、审计体系、检测体系和感知体系等应具备的功能和设备配置.最后对项目实施后的效果进行了简要分析评价.
随着数字信息技术的发展,企业也在向数字化转型,所面临的信息安全风险也日益加大.因此,构建一套规范运维人员对各种IT资源的安全操作行为,提升风险控制水平,确保各种信息系统安全稳定运行的运维安全审计系统对于现代企业运营生产是相当必要的.本文从主要存在的问题为切入点,详细介绍了系统平台、功能、部署方式、关键技术等,用以解决传统运维模式下事前身份不明、授权不清,事中操作不可见、过程不可控,事后操作无法审计
疫情过后,为振兴经济和实现可持续发展目标,习总书记在浙江考察时强调,“要抓住产业数字化、数字产业化赋予的机遇,加快5G网络、数据中心等新型基础设施建设”,济阳黄河河务局在水利信息化发展方面相应习主席号召,从实际出发,在水行政执法、水政监察、防汛抗旱、水资源管理、水利工程建设管理等方面都取得了一定的发展.
加快新型基础设施建设在中央经济工作会提出以来,“新基建”项目在我国固定资产投资中占比显著提升,对传统基础设施供给侧与需求侧同时发挥渗透、融合、带动作用.文章分析了“新基建”丰富的内涵,以及相关行业对“新基建”的社会共识.聚焦水利传统基础设施行业,分析“新基建”对未来水利基础设施建设、提升和改造的影响,从加快推进水利基础设施数字化改造提升、促进水利公共服务体系和服务能力现代化水平提升的角度提出了相关
智能技术是为了解决基坑施工过程中实际问题而研发的,主要解决四个方面的问题:一是提高降水效果和工作效率,并使降水过程处于可控状态,有效降低对外围建筑物、地面沉降等影响作用;二是避免“烧泵”现象发生,最大限度减少用工和用电损失,达到节约成本目的,三是基坑降水过程中,坑内水泵一旦停止运行,将直接威胁基坑的安全,四是减少人员投入,避免地下水浪费,对此,对该项目的降水运行系统采用自动控制,使可能产生的降水安
中国水利学会团体标准《非结构化水文资料数据库结构标准》已于2021年2月1日实施.针对标准中的关键技术进行了研究,包括:非结构化水文资料数据库的数据存储与组织、中文自动分词与水文中文分词词典、文字信息索引、数据库拆分与合并、数据续装、数据库和索引文件存储位置、数据库备份、数据库设计等.研究结果表明,非结构化水文资料数据库可以很好地存储、组织和管理大规模、多种类型、多种格式的水文资料非结构化数据和结
针对数据资源不完整、数据资源分散、数据联动困难、信息共享不足、业务协同困难、数据溯源不及时等问题,提出了基于关系型数据库、非关系型数据库与空间数据库建立数字水文平台的总体思路,研究了多源异构数据的存储与组织、磁光电混合存储数据库、水文同义词词表与词表检索、光盘数据库全文检索、数字水文平台检索等关键技术,提升了水文信息资源共享应用水平,推动了水文科技进步,为数字水文、数字水利和数字经济建设提供了可借
为了推进和加快山东水文资料档案信息化建设,深入研究了纸质水文资料数字化、水文信息化标准和水文资料档案信息化功能,建立了水文资料档案管理系统,编制了中国水利学会团体标准《非结构化水文资料数据库结构标准》和《降水自记纸记录数字化规范》,介绍了水文资料档案信息化建设成果利用,提出了水文资料档案信息化建设在夯实基础、创新方法、人才培养等方面的建议,为水文资料档案信息化建设提供可借鉴的经验.
随着我国社会经济不断发展,各界人士对信息化建设助力乡村振兴的路径及策略十分重视,我国农村信息化建立通过优化内部结构、扩充建设队伍等有效提升乡村生活水平,保证乡村生活安康、民风淳朴,为乡村的振兴做出重要作用.但由于乡村大部分地区的建设设备过于落后,文化层次差异明显等问题,导致在信息化建设的过程中出现很多问题,以下就是以山东省枣庄市胜利渠灌区为例,从推动乡村信息化管理设备、改善民生问题等几个方面,提出
黄河通信专网建成时间较早,一直以来为确保黄河安澜提供通信保障.随着技术发展进步,黄河通信技术形式也不断变化,运行的业务也不断发展,特别是近些年,技术及应用发生了巨大变化,原有通信系统在运行中也暴露出新的问题.克服不同技术的缺点,发挥各自长处,适应治黄业务的需要,是今后黄河通信网络建设中需要考虑的问题.