transformer模型相关论文
时间序列广泛存在于现实世界的各个领域,其相关的预测任务使用历史时间段的观察点序列来预测未来时间段可能的观察点序列,对工业、......
互联网的普及为电商的发展提供了平台,在这股东风的助力下,每日都会产生大量的网络订单,极大促进了我国经济的繁荣。与此同时,各大......
在传统投资组合模型中，备选资产的预期超额收益率的预测误差将导致模型的投资绩效劣化。文章采用Transformer深度学习模型对备选资......
针对机器识别人类情感过程中的精度不高、泛化能力不强等问题，提出了一种基于语音、文本和表情动作的3种模态情感识别融合方法。在......
传统基于规则的web攻击检测方法需要人工设计添加规则，规则较多时消耗的计算资源会增长并降低检测效率，且无法识别未知攻击；近年基于......
提出一种基于Transformer模型的通信信号调制识别方法：在数据准备阶段，构建一个不同符号速率调制识别（DSRMR）数据集；在数据预处理阶段，提......
基于气象历史观测资料，将长短期记忆网络LSTM方法和Transformer模型结合提出了混合短期风速多步预测模型BLSTM-TRA。以山东半岛南部......
针对目前城市轨道交通短时客流量预测模型在构建特征时容易忽略客流变化周期依赖性的不足，提出了一种考虑多时间尺度特征的混合深度......
随着现代电子技术的蓬勃发展，人工智能在军事领域呈现快速上升的鳌头趋势，同时也面临着数据量严重不足的困境，针对目前侵彻多层过载信......
针对金属缺陷识别领域中传统深度学习方法存在参数量多、计算量大的问题，提出了一种浅层卷积神经网络融合Transformer模型的金属缺......
基于像素相关性的传统视频压缩技术性能提升空间受限，语义压缩成为视频压缩编码的新方向，视频图像重建是语义压缩编码的关键环节。首......
针对当前多模态网络存在模态特征信息提取困难、模态间的信息差异，模态间信息融合不充分而导致网络模型预测精度低等问题，提出基于ST......
鉴于测量精度高、设备成本低等优点，基于单目图像的卫星位姿估计方法在交会对接、空间攻防等应用中具有广泛前景。得益于强大的特征......
针对现有机器翻译模型翻译质量低的问题，通过结合多粒度特征融合与基于ELMo模型的动态词向量，并以采用多粒度位置编码和多粒度自注意......
KPI异常检测一直是AIOps（智能运维）领域里一项非常重要的任务。在大型互联网公司（特别是通信公司运营商）中,运维部门的工程师一般在后......
近年来,机器学习在文本生成任务中的应用已成为学界和业界共同关注的热点话题。传统研究将深度神经网络应用于文本生成任务时,大多......
语音合成作为如何将机器智能化的关键研究领域,旨在解决如何让机器发声的问题。随着社会智能化程度越来越高,智能语音设备已经融入......
电力行业内部会积累规模可观的电力业务数据,自动挖掘电力业务数据中的信息对提升相关部门业务能力、降低电力行业内巨大运维成本......
互联网上产生大量的非结构化文本数据,如何有效的从这些非结构化的文本数据中挖掘并抽取实体和关系信息就要涉及到实体关系抽取研......
滚动轴承作为电机的重要组成部件,其运行工况复杂多变且服役环境恶劣,导致轴承容易出现故障,进而降低整个电机系统的可靠性。传统......
随着流媒体技术的快速发展,在线视频资源日益丰富,用户已经不仅仅满足于观看视频,而是希望可以表达自己的观点。然而大多数情况下,......
目前在苹果生产中,农户获取技术指导的途径主要是他人经验以及基于检索式的问答技术,获取方式单一、效率差、依赖知识库,因此苹果......
电商平台中真实可信的用户评论可以帮助消费者做出正确的消费决策。然而,受不同动因驱使,电商平台中也充斥着大量虚假评论。虚假评......
随着航空运输国际化进程的不断深化和航线网络的不断拓展,国内空域中的外航飞机越来越多,由于军航的管制人员使用英文空管指令的场......
北方水稻作为我国“北粮南运”工程中的重要粮食作物,受纹枯病危害较严重,为提高北方水稻的产量及品质,通过利用Transformer模型结......
近年来,深度学习的应用不仅在图像识别、文本生成等领域表现突出,在自然语言处理方面也效果显著。自然语言处理系统在生活中比比皆......
平行句对抽取是缓解低资源机器翻译中数据稀缺问题的关键任务,同时也是提升机器翻译性能的重要手段。但是目前平行句对抽取的方法......
准确的滚动轴承剩余使用寿命（remaining useful life，RUL）预测对保证机械安全运行和减小维修损失起着至关重要的作用。为提高滚动轴承......
命名实体识别是自然语言处理技术中的基础任务。作为转化非结构化文本数据的关键步骤和重要手段,命名实体识别在信息提取、问答系......
为克服依靠图像数据进行识别的局限,使用航迹数据和深度学习方法是当前船型识别的热门方案.针对船型识别任务中常用的长短时记忆(L......
随着互联网的全面普及,人们在微博、论坛、点评网站、购物网站等平台上发表的观点和评论数量呈指数形式增长。通过对这些数据进行......
针对传统文本生成摘要方法在生成摘要时存在并行能力不足以及事实性错误问题,提出在Transformer框架基础上引入事实感知的FA-T R模......
人类营养健康命名实体识别旨在检测营养健康文本中的营养实体,是进一步挖掘营养健康信息的关键步骤.虽然深度学习模型广泛应用在人......
针对现有的文本风格转换模型语句内容保留度较低、内容与风格间平衡性较差,提出了基于文本属性可控转换模型(CTAT)的平衡性改进模......
神经机器翻译是人工智能和自然语言处理领域中的一个非常重要的研究方向,而句法分析在信息处理中起着承上启下的作用,在翻译过程中......
为实现对即时通讯软件使用过程中话题分组信息的情感分析,采用基于BERT的预训练语言模型的微调方法,支持中文语义下的情感分析.在......
针对微博文本以实现谣言检测为目标,深度挖掘微博正文内容的语义信息,并且着重强调用户在微博评论中体现的情感倾向性,提升谣言识......
针对长时间序列电力负荷的预测精度低的问题,应用了基于Informer长时间序列模型的电力负荷预测方法.该方法通过Informer模型中的自......
基于文档的对话是目前对话领域一个新兴的热点任务.与以往的任务不同,其需要将对话信息和文档信息综合进行考虑.然而,先前的工作着......
循环神经网络和Transformer在多轮对话系统的建模上依赖大量的样本数据且回复准确率过低。为此,提出一种针对任务型对话系统的建模......
针对大规模中文常识获取困难且费时费力的问题,该文提出了一种基于预训练模型的大规模常识自动获取技术,主要优点为:(1)基于BERT模......
股票市场中拥有大量用于描述股票价格变化的财务指标,这些指标为股票价格预测提供了良好的数据基础.但由于股票数据存在高维相关性......
随着互联网的发展和人工智能技术的革新,大量的文本信息出现,如何生成优质的句向量,对文本相似度进行衡量成了当前研究的热点和难......
对话系统是自然语言处理的研究热点之一,其研究任务包括对话生成、对话匹配、对话状态跟踪和对话动作识别等。目前有关研究集中在......
模糊测试作为一种自动化检测应用程序漏洞的方法,常常被用来检测各种软件以及计算机系统的漏洞挖掘中.而种子文件质量的高低对于模......
为了提前预测IGBT的剩余寿命(RUL),减小失效造成的损失并辅助维护,提出了一种基于Transformer模型的RUL预测方法,使用瞬态热阻曲线......
针对循环神经网络模型无法直接提取句子的双向语义特征,以及传统的词嵌入方法无法有效表示一词多义的问题,该文提出了基于ELMo和Tr......
本文针对实际党建领域中的新闻标题进行自动生成,提出了一种融合指针网络的自动文本摘要模型-Tri-PCN.相比于传统基于编码器-解码......
针对日趋复杂的海上交通情况,船舶航迹的跟踪预测问题显得尤为重要,然而船舶航行轨迹的数据是具有长期特性的数列,而且易受到风浪......
依赖雷达测量数据的炮位侦察在遇到炮弹低射角时面临极大的挑战。雷达观测数据弧段短、测量误差大,且具有数据批量小、非线性、不......
