情感分析的跨模态Transformer组合模型

来源 :计算机工程与应用 | 被引量 : 0次 | 上传用户:chenmojay
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
基于Transformer的端到端组合深度学习模型是多模态情感分析的主流模型。针对相关工作中此类模型存在的低资源(low-resource)模态数据的情感特征提取能力不足、不同模态非对齐数据的特征尺度差异导致对齐融合过程中易丢失关键特征信息、基础注意力模型并行处理多模态数据导致多模态长期依赖机制不可靠的问题,本文提出了一种基于轻量级注意力聚合模块与跨模态Transformer的能使用多模态非对齐数据执行二分类和多分类任务的多模态情感分析模型LAACMT。LAACMT模型提出采用门控循环单元与改进的特征提取算法提取低资源模态信息、提出位置编码配合卷积放缩方法用于对齐多模态语境、提出跨模态多头注意力机制融合已对齐的多模态数据并建立可靠的跨模态长期依赖机制。LAACMT模型在包含文本、语音和视频的三种模态非对齐数据集CMU-MOSI上的实验结果表明该模型的性能评价指标较SOTA有稳定提升。其中Acc7提升了3.96%、Acc2提升了4.08%、F1分数提升了3.35%。消融实验结果数据证明本文所提模型解决了多模态情感分析相关工作中存在的问题,降低了基于Transformer的多模态情感分析模型的复杂度,提升了模型性能的同时避免了过拟合问题。
其他文献
采用我国2011—2020年长三角41个城市的面板数据,运用双向固定效应模型、中介效应模型和空间杜宾模型,实证分析数字经济对共同富裕的影响以及新型城镇化的中介效应。结果表明:第一,数字经济显著促进了共同富裕,并且这种促进效应存在非线性特征,经过缩尾处理和剔除直辖市与省会城市后,结果依然稳健;第二,数字经济通过提升新型城镇化水平推动了共同富裕的发展;第三,数字经济对共同富裕的积极影响存在空间溢出特性
期刊
文章基于中国31个省份2010—2020年的面板数据,采用改进的熵值法测度省域数字经济发展水平,并运用出口二元边际法测度省域出口质量,进而构建空间面板模型和中介效应检验模型,从数字基础设施、数字产业化、产业数字化三个不同维度和技术创新、人力资本、贸易成本三条不同路径实证分析数字经济对出口质量的直接和间接影响,并探究不同区域数字经济对出口质量的异质性影响。研究发现:数字经济对出口质量具有积极影响,其
期刊
加快数字经济发展是实现经济高质量发展的重要途径。本文基于2011-2020年长三角41个城市的面板数据,围绕“数字经济对经济增长质量的影响”这一主题展开一系列机理分析和实证检验。实证结果表明:数字经济发展显著提升长三角城市经济增长质量;数字经济的发展对长三角都市圈内城市经济增长质量的提升促进效果显著;机制效应检验发现:数字经济可以通过产业结构升级和固定资产投资比重增加两条路径提升城市经济增长质量。
期刊
随着信息化时代的发展,数字经济将推动长江经济带制造业改革供给侧结构,聚焦需求产业,加快高新技术产业、社会需求产业,从而淘汰市场需求下降的产品。大力调整产业过程向着自动化、数字化发展,优化制造业资源配置,加强制造业企业经营管理以及提升风险管理能力,有序推动“数字产业化”“产业数字化”的改革发展。
期刊
法律解释客观性是关乎法治命运的重要命题。面对非法治论者的冲击,亟需捍卫法律解释的客观性。为此,提取“法律解释”一词的逻辑三要素,分别从内容、客体、主体三个层面探讨法律解释的客观性。法律解释客观性的逻辑证成倚赖三个命题:一是解释之于法律具有必然性;二是作为解释客体的法律具有客观性;三是法律解释者的客观解释立场。
期刊
针对差分隐私保护k均值聚类算法(DP k-means)随机选取初始点,导致算法往往收敛于局部最优,进而影响聚类效果的问题,本文结合差分隐私的相关理论以及层次聚类的思想提出了一种基于差分隐私保护的二分k均值聚类算法(DP Bi-k-means)。首先,以得到全局最优为目标,将随机选取初始点的过程进行改进,由上至下对目标数据集进行二分;其次,在迭代过程实现基于拉普拉斯机制的差分隐私保护。经安全性分析以
期刊
针对移动社交网络隐私保护方案的研究现状,分析总结了当前方案中存在的隐私保护效果差、通信开销高和数据可用性低等问题.首先,系统地介绍了移动社交网络位置隐私保护主流的三大体系结构;其次,分析总结了当前国内外应用在移动社交网络中的隐私保护方案的隐私保护程度、计算开销、服务质量及数据可用性等问题,分别从基于失真、加密、增强和差分隐私四个方面对其进行讨论;最后,从理论、技术、硬件设施三个方面阐述了移动社交网
期刊
报纸
本文首先介绍了用户位置隐私泄露的现实风险和隐私保护的重要性,然后分析了当前的位置隐私保护技术的特点,最后,本文总结了当前位置隐私保护研究的不足之处,并提出了未来研究的方向,如更好地解决隐私保护与数据利用的平衡问题,提高位置隐私保护的效率和可用性等。
期刊
随着当今社会经济的发展,工业化进程也在不断加快。而在云计算、物联网以及信息技术等的不断发展中,工业领域也实现了智能化发展。自大数据技术在工业领域中的应用和推广以来,以智能制造为基础的工业智能化发展更是上升到了一个全新的层次。但在工业大数据的具体应用中,其安全风险也开始逐渐显著。基于此,本文对工业大数据的安全风险及其应对技术进行了分析,包括工业大数据安全风险及其分类、工业大数据安全风险的主要特征以及
期刊