【摘 要】
:
针对双向长短时记忆神经(BiLSTM)模型训练时间长、不能充分学习文本上下文信息的问题,提出一种基于BiGRU-attention的文本情感分类模型。首先,利用双向门控循环(BiGRU)神经网络层对文本深层次的信息进行特征提取;其次,利用注意力机制(attention)层对提取的文本深层次信息分配相应的权重;最后,将不同权重的文本特征信息放入softmax函数层进行文本情感极性分类。实验结果表明,
【机 构】
:
辽宁工程技术大学科学技术研究院,辽宁工程技术大学电子与信息工程学院,辽宁工程技术大学矿业技术学院
【基金项目】
:
国家自然科学基金资助项目(61772249),2016年辽宁省教育厅城市研究院一般项目(LJCL008)
论文部分内容阅读
针对双向长短时记忆神经(BiLSTM)模型训练时间长、不能充分学习文本上下文信息的问题,提出一种基于BiGRU-attention的文本情感分类模型。首先,利用双向门控循环(BiGRU)神经网络层对文本深层次的信息进行特征提取;其次,利用注意力机制(attention)层对提取的文本深层次信息分配相应的权重;最后,将不同权重的文本特征信息放入softmax函数层进行文本情感极性分类。实验结果表明,所提的神经网络模型在IMDB数据集上的准确率是90. 54%,损失率是0. 2430,时间代价是1100
其他文献
由于目前缺乏维吾尔文情感分类特征表示方面的系统性研究,以传统n-gram特征为基础,按不同规模从维吾尔文情感标注语料库中提取了新特征及其组合特征,基于支持向量机(SVM)分类
针对现有阈值分割算法利用穷举搜索寻找最优阈值而造成的计算成本较大的问题,提出了一种基于粒子群优化算法和模糊熵的多级阈值图像分割算法。图像分割是图像分析中非常重要的预处理步骤,在提出的方法中,首先选择香农熵和模糊熵作为优化技术的目标函数;然后建立一种基于粒子群优化算法的多层次图像阈值分割,通过最大化香农熵或模糊熵进行图像分割。最后从图像分割数据库中选取Lena、baboon和airplane作为测试
针对如何更有效地使用卷积神经网络从训练图像中学习到的分布式特征进行研究,提出了一种面向人脸表情识别的ROI区域二级投票机制。将图像划分成一系列感兴趣区域(ROI)图像输入到卷积神经网络中进行训练;然后将测试图像的ROI图像输入到卷积神经网络中,统计所有ROI图像的判别结果;最后采用二级投票机制确定测试图像的最终类别,得到最终判别结果。针对卷积神经网络不能从人脸图像中学习到旋转等空间位置信息,引入了
潜在狄利克雷分布(LDA)以词袋(bag of words,BOW)模型为基础,简化了建模的复杂度,但使得主题的语义连贯性较差,文档表征能力不强。为解决此问题,提出了一种基于语义分布相似度的主题模型。该模型在EM(expectation maximization)算法框架下,使用GPU(generalized Pólya urn)模型加入单词—单词和文档—主题语义分布相似度来引导主题建模,从语义关
针对化妆对人脸识别准确率的负面影响,提出了基于补丁集成学习的改进鲁棒人脸识别算法。将每张人脸图像嵌入补丁中,并用一组特征描述符描述每个补丁,即本地梯度Gabor模式(LGP)、Gabor空间定序定比测量直方图(HGSFRM)和密集采样局部多值模式(DSLMP)。使用改进的随机子空间线性判别分析(SRS-LDA)方法采样补丁,并在化妆之前与化妆之后图像之间建立多个公共子空间进行集成学习。利用协作和稀
为了理清系统级故障诊断中各个可诊断性之间的关联关系、优缺点以及适用性,在充分分析系统级故障诊断中可诊断性的国内外研究现状的基础上,针对各个可诊断性的继承性关联关系、诊断能力、故障的限制性条件进行了研究,进而指出了可诊断性未来的发展方向和各种诊断方法的工程应用潜力与前景。
传统的手指语识别采用卷积神经网络的方法,模型结构单一,在池化层会丢弃很多信息。Capsule(胶囊)是在神经网络中构建和抽象出的子网络,每个胶囊都专注于一些单独的任务,又能
介绍了混合蛙跳算法的最优参数选取过程。在种群总数以及总迭代数给定的情况下,分组数、允许青蛙个体位置改变的最大步长和组内迭代数是影响混合蛙跳算法优化性能的重要参数。不同参数值的选取会对算法结果产生不同的影响。对混合蛙跳算法中这三个参数值进行选择,首先进行了参数对算法影响的分析,其次取每个参数的三个常用值,利用正交实验设计法设计三因素三水平的实验。接着在相同环境条件下,用CEC2013实参函数测试集验
云计算环境中,资源池节点异常模式挖掘对于快速诊断节点状态具有重要作用。针对云环境下计算资源池、存储资源池、网络资源池节点数据特征,对资源池节点状态信息进行预处理,利用关联规则算法挖掘资源池节点参数状态信息之间的关联关系,如高位—高位和低位—高位模式等。提出了一种基于限制属性连接并具有垂直数据格式的关联规则算法i-Eclat算法。i-Eclat算法通过转换资源池节点状态数据格式、建立非频繁2-项集以
针对自然场景中维吾尔文检测难度大的问题,改进单深层神经网络对自然场景中维吾尔文进行检测。该网络结构由维吾尔文特征提取组件和多层特征融合的文本检测组件组成,以端到端