网页去重方法研究

来源 :计算机工程与应用 | 被引量 : 0次 | 上传用户:qq38559322
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
搜索引擎返回的重复网页不但浪费了存储资源,而且加重了用户浏览的负担。针对网页重复的特征,提出了一种基于语义的去重方法。该方法通过句子在文本中的位置和组块的重要度,提取出网页正文的主题句向量,然后对主题句向量进行语义相似度计算,把重复的网页去除。实验证明,该方法对全文重复和部分重复的网页都能进行较准确的检测。
其他文献
中心加焦有利于高炉顺行,但如果中心加焦倾角过大和加焦量过多,则造成中心料柱沸点,燃料比上升。利用溜槽结构参数,提出高炉中心加焦溜槽倾角计算方法,模拟计算炉料在炉内二
对于多维函数的最优解搜索,粒子群优化算法存在前期易陷入局部最优,后期收敛速度缓慢的问题。将改进的k均值聚类分析策略与PSO相结合提出了一种混合粒子群优化算法CA-PSO。在
【案情】$$2017年1月,原告张某向被告某保险公司投保了一份医疗保险。张某通过手机操作,填写了电子个人寿险投保单。该投保单G健康告知书一栏的询问事项中包括“您是否患有、被
报纸
<正>卧轨,这一名词总会与自杀联系上。然而,在印尼雅加达,部分居民每天早上和午后躺在铁路轨道上,他们相信轨道电流可以治疗多种疾病,因此,他们每天都会抽时间进行特殊的"轨
目的研究老年门诊患者共病及老年综合征的发病情况及各疾病的分布。方法在6月内对389例在我院老年医学科门诊就诊的老年患者进行常规诊疗与老年评估,采用门诊简易老年患者疾
<正> 韩国文化主要受三方面的影响。一,中国的儒家思想。自1392年的YI王朝到1910年韩国被日本侵吞这长达500多年的历史中,儒家思想一直作为韩国的主流哲学思想。二,日本对韩
试验采用改良SBR工艺处理人工模拟生活废水。研究不同的C/N,DO和好氧区与缺氧厌氧区体积比对同步硝化反硝化的影响,结果表明:C/N为12,ρ(DO)为1.0~2.0mg&#183;L^-1,好氧区与缺氧厌氧区
在批评话语分析视角下,文章从词汇、句式选择和及物性分析层面对美国脱口秀女王奥普拉2018年第75届金球奖演讲进行分析,试图揭示语言、意识形态和权势之间的关系。结果发现,
<正>结核性脑膜炎是神经系统结核病最常见类型,由于病变所在的部位特殊,病情急、进展快、合并症多、死亡率高、致残率高,是最严重的肺外结核病之一[1]。近年来随着全球结核病
随着国民经济不断发展,人们生活水平日渐提升,个人财富也随之增加,个人理财业务逐渐成为银行业务范围之一,然而,受到管理体制、人员素质等因素的影响,我国银行个人理财尚处于