文档表示是自然语言处理领域中的一项重要工作,目前主要的一种研究方法是基于文档的上下文语义对其进行分布式表示。其中doc2vec是由词向量模型word2vec扩展而来,是目前比较成功的文档语义表示模型。但doc2vec在表示学习时仅仅通过随机选择上下文窗口中的部分词来预测目标词,缺少上下文语义的有效获取。本文主要结合分层注意力机制对doc2vec进行优化研究,并且应用于海量科技文档的语义表示和搜索。具体研究工作如下:(1)研究提出一种基于doc2vec模型和分层注意力机制的文档表示模型,优化文档表示学习中的上下文语义信息获取。模型在目标词预测过程中引入分层注意力机制,将文档表示为文档、段落、词三层结构,并且在上下文窗口词之间,段落与段落之间体现出注意力权重。该模型丰富了目标词预测的上下文语义信息来源,提升了文档表示的精准度。实验结果表明,结合分层注意力机制的新模型在文档情感分类任务中体现出比word2vec和doc2vec更好的效果。(2)在(1)的基础上,针对特定文档提出一种半监督文档表示学习方法,利用文档内特定信息提升文档表示精准性。模型利用文档内的主题段落,主题词等特定信息,使用半监督的方式主动调节其注意力权重,将其调节为相对较高的值。通过对文档内特定信息的利用,改进了其他模型对特定信息语义获取不足的问题。使用科技文档近似查询实验,验证了改进的模型在处理包含特定信息文档时具有更好的效果。(3)基于上述研究成果,利用近似最近邻算法开发实现科技文档语义搜索引擎。针对用户输入的技术/产品/方法的文本描述,该引擎智能搜索匹配最相关的科技文档,科技成果等资源,以帮助用户获取技术资料和相应专家信息。综上所述,论文主要研究了文档语义表示学习方法,并将研究成果应用于佐创智推精准匹配平台,致力于企业需求精准推荐和科技成果转化。