基于Elasticsearch的公安大数据全文检索技术的研究

来源 :武汉邮电科学研究院 | 被引量 : 0次 | 上传用户:daxiang11
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
毫无疑问,大数据时代已然来临。阿里巴巴集团创始人马云曾说过:“21世纪核心的竞争是数据的竞争。”和农业革命、工业革命一样,数据革命已经正潜移默化地影响着人们生活、学习和工作的传统方式,并成为社会发展的源源不断的动力。毋庸置疑,大数据的热潮已经席卷了各大中小型科技公司并已经落地开花。然而,由于对新技术的不敏感和对核心技术缺乏实践,我国各级政府部门还未完全发掘出大数据对政务工作带来的巨大便利。在技术革新的关键节点,全面、深入地研究大数据的内涵及其核心技术,借着现阶段公安信息化建设的大好势头,建设数据驱动的公共安全型社会,具有很强的现实意义。本文首先深入剖析大数据时代公安业务客观发展需求与存在的问题,并以相关技术为背景,结合系统功能和需求,提出针对性的解决方案与对策。然后对照相应的需求,设计并实现系统具体的功能。本论文研究的内容有以下几个方面:1.全文检索关键算法的研究和改进算法的提出。在分析了常规中文分词器的关键算法之后,提出了本系统中使用基于双数组Trie和Edge Ngram算法的DT分词器的改进方案;在分析了倒排索算法之后,提出了采用倍增算法的改进措施;在分析了相关性算法和评分等算法之后,提出了基于LTR的改进排序算法。2.新型全文检索系统的设计。利用多种分布式技术和本论文提出的改进后的分词算法、倒排索引算法和排序算法,设计一个新型全文检索系统,包括Hadoop和HBase数据存储模块、基于本论文提出的DT分词器、LTR和Elasticsearch结合的数据检索模块和保证数据一致性的数据同步模块。3.针对海量公安业务数据,应用新型全文检索系统。实现了相关高效检索算法应用于实际应用场景,详细阐述了各个模块的具体实现,完成系统的性能测试和结果分析,实验证明该系统能应对大数据环境下海量公安数据的存储和检索,系统具有高可用性,可扩展性,高效的数据读写和查询效率。
其他文献
本文采用计算机辅助编程及计算机辅助制造的方法,对链式干燥机套筒滚子链链轮进行了自动编程和数控加工。此软件具有很强的通用性,适用于任何链轮的数控加工。
为量化机车编组方式对重载列车再充气特性的影响,结合神华铁路万吨重载列车纵向动力学试验结果,对万吨重载列车再充气特性进行分析,并利用基于气体流动理论的空气制动系统仿
土地资源是人类赖以生存的基础,但是随着我国工业化、城市化的发展,土地的需求量日益增加,城镇的现有土地已经难以满足城市的发展。因此,城镇周边土地及耕地成为新的用地目标
云计算实践推进了政府以云技术为支持与多源大数据相融合的政务服务云建设。然而,政务云面临着严峻的安全问题,大数据泄露、内部滥用、外部侵袭以及技术漏洞等诸多风险因素制
<正>1984年为解决公路建设资金不足的问题,国家提出"贷款修路,收费还贷"的政策。与此同时,为开辟融资新渠道,国家允许外资、民营资本进入公路建设经营领域,公路资产也由完全
研究背景瘢痕疙瘩是以成纤维细胞异常增殖并分泌大量细胞外基质(extracellular matrix,ECM)为主要特征的皮肤纤维化疾病,治疗效果不佳,发病机制尚不清楚。二聚糖(Biglycan,BG
在刑事审判中法官的职责是查明事实真相,依据证据对案件作出裁判,而当证据存有疑问时,法官对证据的准确判断、排除合理怀疑就显的尤为重要。对证据的判断方式有多种,既可以通
<正>随着80后写作群体的崛起,在中国当代作家阵营里,代际分化已越来越明显,代际冲突也时有发生。譬如,2006年的"韩白之战"(韩寒与白烨)与2008年的"韩郑之争"(韩寒与郑彦英),
为分析不同因素对城陵矶水位变化的贡献率,基于1955~2014年实测水文资料,利用Mann-kendall检验法、回归分析等方法分析城陵矶水位变化特征及其成因。结果表明,下荆江裁弯和葛
青藏铁路特殊的地理位置和地质、气候条件对所使用的轨下垫板提出了特殊的要求。TDI型复合橡胶垫板具有高弹性、性能稳定和使用寿命长等特点 ,较能满足青藏铁路特殊的使用要