多头自注意力机制Siamese网络文本相似度计算方法

来源 :微电子学与计算机 | 被引量 : 0次 | 上传用户:GSo0osjo0o
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
文本相似度的计算是自然语言处理的核心问题.现有的文本相似度计算方法,存在对于深层次的语义信息提取的不充分,且对长文本的相似度计算能力有限的问题.针对现有文本相似度计算方法的缺陷,提出一种基于多头自注意力机制的Siamese网络,利用双向GRU为基础的Siamese模型精确提取文本样本中上下文的语义信息,同时加入多头自注意力机制学习长文本深层次的语义信息.在公开的SICK数据集上,实验结果表明加入多头自注意力机制的Bi-GRU Siamese网络模型可以学习到长文本深层次的语义信息,对比其他的文本相似度的计
其他文献
锥形光纤的结构形态对优化锥形光纤放大器光学性能具有重要意义。分析了不同结构形态锥形光纤的渐逝波透射深度的变化,提出了2种锥形结构的优化方案,并结合速率方程、功率方程及有限差分波束传输法建立了量子点锥形光纤放大器模型,研究了锥形光纤结构形态对放大器性能的影响。仿真结果表明:改变初始熔融长度和拉伸长度可使入射角在满足全反射条件下更接近临界角,从而增加锥区表面的渐逝波深度,优化后的锥形光纤结构形态有利于
资源储量核算是编制盐湖矿山储量年报的核心工作内容之一。通过分析近年一些盐湖矿山储量年报发现,相当一部分年报中资源储量核算不够严谨,导致资源储量核算结果不能客观合理地反映矿区资源储量变动及保有情况,可靠性差,利用价值低。因此结合现行相关标准、规范要求,对盐湖矿山储量年报中资源储量核算的要点进行了梳理分析,并就常见问题进行了简要探讨。
针对弹性光网络中现有碎片整理方法未能充分利用最大空闲频谱块且业务迁移数目较多的问题,提出一种剩余持续时间触发的最大带宽业务精确迁移的碎片整理(BBSEM-DF)算法。首先,构建碎片度量模型,衡量链路中频谱碎片的分布状态;然后,根据碎片量和业务的剩余持续时间设置阈值,触发碎片整理过程;最后,将最大连续业务组迁移至链路中与之所需频隙数相匹配的空闲频谱块处,进行精确迁移。仿真结果表明:与传统碎片整理算法
安乐锡多金属矿床位于大兴安岭南段的黄岗梁-孟恩陶勒盖锡铁多金属成矿带南西段之北西成矿亚带,是一个中型富Sn矿床,其成矿岩体的成岩时代、岩石成因、成矿指示意义以及地球动力学背景尚不清楚。以与安乐Sn多金属矿床相关的花岗斑岩为研究对象,利用LA-ICP-MS锆石U-Pb方法测得与成矿有关的花岗斑岩年龄为(144±2.6)Ma(MSWD=3.2),这一年龄与区域其他Sn多金属矿床成矿岩体的成岩年龄范围基本一致,说明大兴安岭南段与Sn成矿作用有关的花岗质岩石主要形成于早白垩世。全岩主量、微量和稀土元素地球化学特征
基于R/S分析法对矿井涌水量时间序列进行了分形刻画,结合灰色预测理论对某矿井涌水量进行了定量预测,结果表明:2011-2017年季度涌水量时间序列的Hurst指数估计值与1极为接近,说明时间序列具有长程相关性,且持续性极强;Hurst指数有效性验证结果显示,研究区原始的矿井涌水量时间序列存在记忆性,为有偏布朗运动,涌水量时间序列的平均循环周期为5个季度;基于2011-2017年季度涌水量数据建立的
针对传统磷矿浮选技术存在的P 2O 5回收率低、磷尾矿堆存量大等问题,开发了一种热化结合新型选矿技术,该工艺所获磷精矿品质高且无磷尾矿产生。热化选磷精矿用于硫酸法萃取磷酸相比于传统浮选磷精矿,前者反应活性好、滤酸浓度高、杂质含量低、淤渣少、黏度低,浓缩磷酸P 2O 5质量分数可达59.86%,氟逸出率达83.70%;同时由于热化选矿所得磷精矿中的大量钙镁杂质已在煅烧过程中脱除,使得用其萃取磷酸时的硫酸用量及石膏产量相应降低。热化结合选矿技术的推广将对磷化工产业技术升级、资源综合利用及减少环境污染具有重要意
由于复杂环境下的光纤复合架空地线(OPGW)长期受到环境变化的作用,光缆结构中的光纤、金属单线、油膏和光单元管等部分会遭受不同程度的影响,最终导致电力通信故障。提出一种基于环境参量和主成分分析的OPGW光缆状态风险评估方法,根据架空线路中光纤光栅传感器采集的环境参数,采用主客观权重法和主成分分析法对OPGW光缆的状态进行评估,数据分析结果表明该方法可以有效反映OPGW光缆的运行状态。
针对非对称限幅光正交频分复用(ACO-OFDM)系统高峰值平均功率比(PAPR)的问题,提出了一种降低PAPR的上行多址方案,采用选择性映射-稀疏码分多址(SLM-SCMA)技术抑制ACO-OFDM系统的PAPR,并通过Mat l ab软件对ACO-OFDM系统性能进行了仿真。仿真结果表明:当子载波数N=512、CCDF值为10-4时,不采用和采用SLM-SCMA技术的ACO-OFDM系统PAPR
手诊作为一种能够推理人体器官健康状况的辅助诊断方法,在中医和智能中医的发展中占据着重要的地位.针对现有的红外图像关键点定位方法存在定位不准确的问题,提出一种多尺度空洞卷积特征金字塔融合的残差网络应用于红外手掌图像关键点定位的方法.在每个特征金字塔融合模块中,采用了空洞卷积的金字塔层级与改进型Bottleneck模块的并联结构,在增大感受野的同时,提升了残差网络的泛化能力;并将多个多尺度空洞卷积特征
形状记忆聚合物因具有在受到外界刺激或环境改变时能从临时形状恢复至原始形状的特性而被广泛应用于生物医用材料、航空航天、3D打印、传感器、电子皮肤等领域。环糊精是由D-(+)-吡喃葡萄糖单元通过α-1,4-糖苷键连接而成的一系列环状低聚糖分子,由于其特殊的空腔结构和两亲性质,现已作为分子开关广泛用于智能响应材料。阐述了热响应型、水响应型、pH响应型、光响应型、多刺激响应型、其他类响应型形状记忆聚合物的特点,指出了该材料目前存在的不足与未来发展趋势。