【摘 要】
：
针对以文本词向量作为输入的神经网络无法充分利用文本语义结构特征信息、难以有效表示每个词语在句子中的重要程度等问题,提出一种基于自注意力机制的双向分层语义模型Satt-
【基金项目】
：
国家自然科学基金民航联合基金项目(U1633110);中央高校基本科研业务费专项基金项目(3122016D021)
论文部分内容阅读
针对以文本词向量作为输入的神经网络无法充分利用文本语义结构特征信息、难以有效表示每个词语在句子中的重要程度等问题,提出一种基于自注意力机制的双向分层语义模型Satt-BiHSNN。通过双层双向LSTM将文本词向量进行训练得到文本表示,解决长距离依赖问题;通过自注意力机制从多个视角有效获取每个词语在句子中的重要程度,减少噪音词语权重并获取更多隐藏信息;使用softmax分类器进行文本分类。在IMDB和20Newsgroup数据集上的实验结果表明,该方法在文本分类任务中,较之前基于传统注意力机制的文本分类模型
其他文献
在对可转换债券进行强制赎回的时候，由于稀释效应的存在，会对其标的股价产生一个负效应，国外的研究结论也证明了这一点。但通过对我国的三个赎回案例进行了模型分析以后却发现这
ue＊M＃’＃dkB4＃＃8＃”专利申请号:00109“7公开号:1278062申请日:00.06.23公开日:00.12.27申请人地址:（100084川C京市海淀区清华园申请人:清华大学发明人:隋森芳文摘:本发明属于生物技
用元素分析、ＩＲ、Ｘ射线衍射、ＥＳＲ、１３Ｃ－ＮＭＲ等分析方法研究了聚丙烯腈（ＰＡＮ）在不同热裂解温度下产物的结构特点。结果表明，ＰＡＮ热裂解产物最终具有共轭不饱和多环芳烃的梯状结构。
通过对职业教育园区中城校互动与资源共享理念的分析,提出园区的空间共享模式,并以渭南市职业教育园区规划设计为例,从园区规划用地布局、职校空间模式以及建筑空间置换等层
用聚乙烯醇制备了一种含水高达80％以上的水凝胶弹性体,并以该弹性体作为固定化增殖细胞的载体用于发酵生产酒精。用电镜、X射线衍射和DSC等手段对水凝胶的结构进行了研究,并测
提出一种改进的Eclat算法。该算法在垂直数据表示方式上执行广度优先搜索和交叉计数。新算法充分利用了垂直数据表示和交叉计数的高效优势，以及Apriori算法的剪枝策略，减少了计
采用化学腐蚀光学显微法和同步辐射截面形貌术研究了三硼酸锂 (LBO)晶体的生长缺陷 ,实验结果表明 ,LBO晶体中的主要缺陷是位错、包裹物和扇形界 .讨论了这些缺陷形成的原因
研究超高分子量聚丙烯腈（ＰＡＮ）薄膜的应力应变性能，得到其基本力学性能数据，并对该薄膜在拉伸过程中出现的应力交替增降现象，低温慢速拉伸过程出现的结昌度增大现象和动态力学性能进行
英国女作家夏洛蒂.勃朗特成功地塑造了朴实、追求自由、平等地位和敢于反抗的简.爱形象。简.爱的形象是突破传统意识的女性形象,是新型美丽的代表。因此,通过分析发现简.爱这
ue＊M＃’＃dkB4＃＃8＃”专利申请号:00109“7公开号:1278062申请日:00.06.23公开日:00.12.27申请人地址:（100084川C京市海淀区清华园申请人:清华大学发明人:隋森芳文摘:本发明属于生物技