基于SolrCloud大数据平台日志管理系统的设计与实现

被引量 : 1次 | 上传用户:fenglingxing
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
信息化时代的发展随之而来的是数据的爆炸性增长,各种大数据计算框架在这样的环境下应运而生(如Hadoop,Spark,Strom等)。与此同时,大数据集群由于其服务器规模大,生态圈复杂等原因,给集群的运维管理带来很大挑战,日志管理系统作为集群运维管理,用户行为审计的重要辅助工具,就变得尤为重要。本文完成的主要工作包括:(1)针对大数据平台下组件多样,日志结构多样,整体结构分散,设计了一个集中化采集管理,统一存储,并且提供多种查询方式,以精确定位系统问题,快速了解系统运行情况;(2)采用Solr搜索引擎的分布式模式SolrCloud,来分担集群的索引压力,查询压力,采用HDFS分布式存储来分担存储压力;(3)使用spring boot设计系统业务的逻辑,做到维护简洁,部署方便;(4)本文本着人机友好的原则设计了日志查询,查询结果反馈,用户行为审计等用户界面,方便用户快速上手。本文设计并实现了基于SolrCloud的大数据平台上的日志管理系统,现已在多个厂家投入生产并使用。解决了大数据平台日志分散,类型多样,难以集中化管理的问题,并且实现多种查询方式以达到快速精确定位日志的目的,也提供了用户行为统计分析作为审计依据,降低了运维的难度。
其他文献
《黄帝内经》是中医学四大经典之一,是中医药的理论基础和实践规范,至今仍指导着中国的医学研究和临床治疗。作为奠基中医理论基础的古籍,《黄帝内经》中含有丰富的文化负载
本文报道了我国首次参加全球食品污染物监测规划中东北地区农药残留监测情况。黑龙江省被选为代表我国东北地区的监测网点,1992年本省对鱼、肉、蛋、乳、植物油、粮食、蔬菜
目的通过介绍一例大剂量螺内酯加重肾脏损害的病例,对其作用机理进行分析讨论,提出药物治疗方案调整建议,为临床制定合理治疗方案提供参考。方法通过参与一例高血压伴2型糖尿
2013年“丝绸之路经济带”和“21世纪海上丝绸之路”的概念首次提出,“一带一路”成为二十一世纪最热门的话题之一。随着“一带一路”进程的逐步推进,“一带一路”倡议将会给
"十三五"时期是实现我国建设创新型国家和金融创新发展的重要时期。推动科技和金融的结合,是我国在未来一段时间内需要认真落实好的工作。科技水平的进步与金融紧密相连,离不
现如今人们正从IT时代走向DT(Data technology)时代,同时伴随着云计算的发展及云计算应用的大量普及,针对“云”平台下的各种不法行为也越来越多。电子取证技术虽然是打击计
《嘉莉妹妹》是美国著名作家西奥多·德莱塞的重要代表作品之一,讲述了主人公嘉莉如何从社会底层的一个农村少女一跃成为百老汇明星以及上流社会名媛的过程。该作品创作于190
AS电力公司作为地方电力企业,其管理信息系统建设与应用主要"以三个融合为内涵、以三个转变为导向、以四个提升为手段,实现国内领先为目标"的总体思路逐步实施,基于SOA架构的
<正>1前言这些年,随着生猪规模化、产业化发展,母猪繁殖障碍综合症发病病例有增多趋势,造成的损失是日趋严重。有的猪场因为此病,损失仔猪达数千头之多,造成的损失甚为惨重,
随着深化改革的脚步的加快,文化领域也迎来挑战,今年两会召开之时,就提出政府要转"送菜"变"点菜",加强文化供给侧改革,鼓励群众加入到文化活动中去。动漫领域作为文化领域里