论文部分内容阅读
信息时代,Internet已经成为人们获取信息的重要途径,而基于关键字检索的Internet搜索引擎又是人们从互联网上查找信息的主要方法。从互联网获取信息的主要局限性在于,在互联网海量的Web页面中很难定位特定的知识;而搜索引擎又很容易将所需知识淹没在大量的低相关度,甚至无关网页中。另一方面随着信息技术的进步和人们的实际需要,涌现出了一些全新的基于Web的应用,例如监控股票市场的实时行情、各个电子商务网站的商品价格比较等等。仅凭传统搜索引擎技术和Web查询技术无法真正满足这些新兴的需求。与信息检索技术不同的是,数据抽取技术更侧重于从Web文档集合中发现相关联的文档,并从中抽取出用户感兴趣的信息,即将HTML等半结构化的数据转换成为结构化的数据。Web数据库的广泛使用使得大量高质量的信息无法被传统的搜索引擎索搜索到。这种基于数据库的应用被称之为Deep Web。Web数据库依据用户特定的查询要求或条件动态的生成Web页而,即查询相关Web页面中的数据记录之间具有极高的代码结构相似性,也就是说Web数据记录对应的DOM子树之间自然也就具有很高的结构相似性。本文从分析Web文档与DOM树的对应关系入手,提出了一种基于重复模式的高效Web自动抽取算法——DES算法,同时利用集成工具ODI进行数据集成,获得可以直接被其它的应用程序利用结构化数据,进一步完成信息检索、数据挖掘、机器翻译、文本摘要等后续Web信息处理。HTML对应的DOM树是该方法的Web数据结构化和分析抽取的基础。该抽取算法首先通过比较同一模板的两个样本网页的内容相似度,对DOM树进行裁剪,准确定位待抽取数据区域;其次通过TOP-DOWN树匹配算法进行树的结构相似件比较,发掘数据区域中多条数据记录的重复模式,得出数据记录的粒度,进而生成抽取规则。从而实现对DOM树中的数据记录的发现及抽取。最后论文应川基于相似性比较的方法对原型系统进行了实现。实验表明,该算法对于各类动态Web网页的信息抽取有着很好的效果。