【摘 要】
:
在搜索引擎的检索结果页面中,用户经常会得到内容近似的网页.为了提高检索整体性能和用户满意度,提出了一种基于概念和语义网络的近似网页检测算法DWDCS(near-duplicate webp
【机 构】
:
北京理工大学计算机科学技术学院,北京航天飞行控制中心
论文部分内容阅读
在搜索引擎的检索结果页面中,用户经常会得到内容近似的网页.为了提高检索整体性能和用户满意度,提出了一种基于概念和语义网络的近似网页检测算法DWDCS(near-duplicate webpages detection based on concept and semantic network).改进了经典基于小世界理论提取文档关键词的算法.首先对文档概念进行抽取和归并,不但解决了"表达差异"问题,而且有效降低了语义网络的复杂度;从网络结构的几何特征对其进行分析,同时利用网页的语法和结构信息构建特征向量进行文档相似度的计算,由于无须使用语料库,使得算法天生具有领域无关的优点.实验结果表明,与经典的网页去重算法(I-Match)和单纯依赖词汇共现小世界模型的算法相比,DWDCS具有很好的抵抗噪声的能力,在大规模实验中获得了准确率>90%和召回率>85%的良好测试结果.良好的时空间复杂度及算法性能不依赖于语料库的优点,使其在大规模网页去重实际应用中获得了良好的效果.
其他文献
目的评价某化工企业电子信息化学品建设项目职业病危害控制效果。方法在试生产的情况下,对该企业进行卫生学调查和检测,并结合现场卫生学调查和监测数据,对该项目进行卫生学
沉降段基础施工的控制工作要求必须严格控制和掌握桥台施工质量的相关管理工作。充填材料必须科学合理,同时,必须做好防水工作,从根本上解决沉降段不均匀沉降的问题。从综合
<正>近年来,广州市工贸技师学院(以下简称学院)借鉴德国的"双元制"模式,探索适合于我国技能人才培养的现代学徒制模式——"校企双制"模式。通过甄选名优企业代表作为合作企业
农业科技园区作为农业科技组装集成基地、农业科技成果转化平台以及现代农业生产体系的示范和技术推广载体,是农业现代化的重要抓手。农业全产业链模式的主要特征是上下游产
目的小儿口腔手术护理。方法麻醉的处理不仅要充分的满足手术要求,而且还要确保呼吸道的通畅,因此,手术室护士做好麻醉过程中护理的配合显得尤为重要。结果无恶心、咽疼、误
近年来,我国道路交通建设发展迅速,对促进我国经济发展起到了重要作用。同时,人们对公路建设质量要求越来越高,尤其是安全舒适性方面。然而,在许多建成的公路工程中,普遍存在
目的对某地铁站站台公共区域集中空调通风系统运行期间开展卫生学评价,确保其运行期间卫生质量符合要求,预防和控制某地铁站站台公共区域集中空调通风系统可能出现的健康危害
目前,应用在“平安城市”项目的传输承载网技术主要有三个主流技术,分别是:GPON无源光网络技术、光纤直连技术和SDH/MSTP技术。其中,GPON是一种采用点到多点拓扑结构的无源光
通过对大学生进行有计划的系统式培训,让新进大学生员工的知识储备、专业技能、工作态度等得到改进,进而更好地完成工作任务,并促进自身不断发展。近年来很多企业都开始重视