主题网络蜘蛛的研究与实现

来源 :北京工业大学 | 被引量 : 0次 | 上传用户:opcs2009
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
伴随着因特网技术的快速发展,因特网上的信息资源以惊人的速度不断增长。在对这些海量的信息进行检索的过程中,传统的Web搜索引擎越来越无法满足人们的需要。在这种情况下,各类主题搜索引擎应运而生,成为研究的热点。而作为主题搜索引擎重要组成部分,网络蜘蛛的搜索算法问题的研究具有极其重要的意义。 本文从机器学习的理论角度出发,围绕如何提高网络蜘蛛的资源采集效率问题,采用了机器学习中的增强学习(Reinforcement Learning)方法,对主题搜索引擎网络蜘蛛的搜索算法进行了深入的研究。 本文首先介绍了增强学习的基本概念和网络蜘蛛搜索策略的研究进展,在分析和比较现有专业搜索引擎网络蜘蛛搜索策略的特点和优缺点的基础上,归纳了提高搜索效率的几个关键因素。 文中针对提高网络蜘蛛的学习效率问题展开研究,提出了一种基于经验偏向信息学习机制的增强学习模型。主要思想是,通过学习环境状态中的经验偏向信息,动态调整增强学习代理体的搜索策略,以减小搜索空间,提高学习效率。在此基础上,本文提出了一种基于经验偏向信息学习机制的主题网络蜘蛛学习算法,实验表明,该算法可以明显提高主题网络蜘蛛的学习效率。 针对传统的主题网络蜘蛛存在链接价值评价标准单一的问题,本文提出了一种基于增强学习的启发式主题网络蜘蛛模型,新模型将立即回报价值和未来回报价值结合,用于计算链接的综合回报价值。为解决对立即回报价值和未来回报价值信任度的权衡问题,本文引入了价值置信函数的概念,提出了对于未来回报置信度递减的启发式搜索算法,该算法的主要思想是将两类评价标准的优势相结合,以提高整体的搜索效率。针对于实际环境的搜索测试表明,新算法在性能上优于传统的主题网络蜘蛛搜索算法。 最后,将提出的算法和技术相结合,实现了一个基于增强学习的对计算机相关论文进行搜索的主题搜索引擎网络蜘蛛的系统原型。
其他文献
“北京教育考试网上咨询平台”是一个支持考生与专家在网络上进行实时文字咨询互动的系统,将被应用于北京市每年的各类招生考试网上咨询活动中。为了使系统具备较高负载能力,平
随着企业信息化的建设,如何实现各应用软件系统间无缝集成,消除信息孤岛,是各企业面临的重要问题。传统的企业应用集成方法大多是紧耦合的模式,不利于企业业务流程的调整和重组,缺
近年来,随着网络的飞速发展,分布式环境中的访问控制和授权管理作为安全服务的一个重要领域得到了快速的发展。尤其是办公自动化、电子商务的逐渐深入,政府部门、各单位和企业根
3G系统将提供真正的话音、数据和图像的综合移动服务,3G系统最方便在完全基于IP协议的网络平台上实现,其中无线信道的带宽是整个无线通信系统中最宝贵的资源。然而,由于层次性传
可满足性问题(Satisfiability Problem,简称SAT Problem)是众多NP完全问题的“种子”,它是一类问题的难度标准,很多NP完全问题最终都可以转化为可满足性问题的求解。参数化的
结构工程学是用力学的方法来分析建筑物、桥梁和道路等在各种荷载作用下的内力和变形,通过控制结构的内力和变形,达到结构在设计、施工和使用过程中保证一定安全可靠度的目的,因
近些年来,以规则引擎为核心的业务规则管理系统得到了很大的发展,但规则引擎服务器的效率始终处于一个比较低的水平。造成这一结果的原因有很多,其中规则引擎工作存储器中大量无
体育比赛中的精彩场面往往稍纵即逝,电视节目的制作者们常以慢镜头回放的形式展现精彩时刻给观众,这种方式可以在时间上,却不能在空间上满足观众的视觉需求,因为拍摄画面的摄像机
GD包装机是德国GD公司生产的专利产品,其在机械传动和电气控制方面的技术都达到了相当高的水平,小包烟支检测器是其至关重要的配件之一。当机器运行时,排列完整的20支烟随着模盒
图像是人们获取外界信息的重要媒介。尤其是在当今这个大数据的时代,图像对于人们的日常生活、科学研究都有着十分重要的作用。然而图像在记录和传播中难免会受到许多因素的