基于多头注意力机制Tree-LSTM的句子语义相似度计算

来源 :中文信息学报 | 被引量 : 0次 | 上传用户:z360052113
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对现有句子语义相似度计算由于缺乏语义结构信息导致精度低的问题,该文在依存关系树的基础上,提出了一种基于多头注意力机制Tree-LSTM(multi-head attention Tree-LSTM,MA-Tree-LSTM)的句子语义相似度计算方法。首先,MA-Tree-LSTM将外部具有指导意义的特征作为输入,再将输入结合多头注意力机制作用在Tree-LSTM树节点的所有孩子节点上,为每个孩子节点赋予不同的权重值,从而实现多头注意力机制和Tree-LSTM的融合;其次,将三层的MA-Tree-LSTM
其他文献
回顾和探讨了地下水允许开采量、可持续开采量和安全开采量的概念和内涵的演变,综合考虑社会、经济、技术、资源等多方面约束,定义了安全开采量,并详细剖析了其区别于以往地下水
针对文本匹配任务,该文提出一种大规模预训练模型融合外部语言知识库的方法。该方法在大规模预训练模型的基础上,通过生成基于WordNet的同义-反义词汇知识学习任务和词组-搭
信息安全等级保护制度实施以来,在多个政策文件和技术标准中出现了等级的概念,本文分析和说明了信息系统重要程度等级、监督管理强度等级、安全保护能力等级概念之间的区别,并给出了在系统定级、安全保护和监督管理环节中上述等级概念之间的逻辑关系。
文章通过对云计算带来的信息安全问题的分析,建立了云计算安全体系结构模型,进而提出按照等级防护的思路破解云计算安全防御难题的应对办法。
目前,在各地均有商贸活动开展,且参与人员众多,如果公安机关事先未做好预案,一旦发生突发性事件,人员疏散不到位,极易造成群死群伤事件。文章以商品大集为例,构建参与人员的流动模型,利用计算机技术实现流量和流动状况的模拟仿真,获得接近实际的流动的时间和动态过程,利于事先对类似活动拥堵情况进行准确评估。