【摘 要】
：
单任务学习常常受限于单目标函数的不足,多任务学习能有效利用任务相关性的先验性,故而受到了学界的关注.在中文自然语言处理领域,关于多任务学习的研究极为匮乏,该领域需同
【机 构】
：
上海理工大学 光电信息与计算机工程学院,上海200093
论文部分内容阅读
单任务学习常常受限于单目标函数的不足,多任务学习能有效利用任务相关性的先验性,故而受到了学界的关注.在中文自然语言处理领域,关于多任务学习的研究极为匮乏,该领域需同时考虑到中文文本特征提取和多任务的建模.本论文提出了一种多任务学习模型MTL-BERT.首先将BERT作为特征提取器以提升模型的泛化性.其次分类和回归是机器学习中的两个主要问题,针对多标签分类和回归的混合任务,提出了一种任务权重自适应框架.该框架下,任务之间的权重由联合模型参数共同训练.最后从模型最大似然角度,理论验证了该多任务学习算法的有效性.在真实中文数据集上的实验表明,MTL-BERT具有较好的计算效果.
其他文献
关系抽取是信息抽取的主要任务之一,远程监督作为关系抽取中的一种有效的方法,已成功地应用于包含上千关系的大型语料库.然而,远程监督造成的错误标注会影响关系抽取的性能.
目前,针对数据库系统内部攻击与威胁的检测方法较少,且已有的数据库异常检测方案存在代价开销高、检测准确率低等问题.为此,将密度聚类和集成学习融合,提出一种基于密度聚类
高职教育进入新的发展阶段,要求高职院校必须树立质量意识,改革创新,加强内涵建设,提高高素质技能型人才培养的质量.本校为提高高素质技能型人才培养质量,围绕教学质量工程建
摘要：随着我国教育模式的不断改革，传统落后的教学模式已无法满足新时代的发展需求。新课程改革的不断深入，要求教师要突破已有的教学模式，积极探索新型有效的教学方法。本文对幽默教学、多媒体教学、文学与历史相结合教学、情境教学等在高中历史课堂教学中能够迅速激发学生潜在学习兴趣的措施进行了深入分析，希望能够提高教师对激发学生学习兴趣的重视度。 关键词：高中历史；课堂教学；学习兴趣 现代教学论认为，学习过
从理论上来说,校企合作能够实现校企"双赢",但现实中,校企合作却处于"两难"的尴尬境地,究其原因主要是缺乏校企合作的良性运行机制.因此,校企合作要真正实现"双赢",应加强校
人机对话中的情感识别对提升人机交互效率具有重要意义.当前,人机对话系统中的情感识别主要由特征提取和回归两步完成.但是,通常这两个步骤是相互独立的,目标并不一致,难以判
随着物联网、大数据和人工智能等技术研究和应用的蓬勃发展,各类时间序列数据不断涌现.时间序列数据特征是表象,内在蕴含着丰富的领域知识,如何高效分析时间序列特征模式,提
许霆与父亲许彩亮的关系,为许霆案增加了另一种可供解读的视角“人生有些难啊,想躲都躲不掉……”50来岁的山西临汾人许彩亮又点燃一纸卷烟,侧身靠在窗台上,看着外面广州街头
给婴儿按摩是向婴儿表达爱的最好方式。这不但有助于让哭闹的孩子安静下来,让焦躁的母亲逐渐接受这个弱小的需要自己细心呵护的婴儿,还能够加强父母与子女之间关系的发展。
给出了基于缓冲器门限的多优先级双队列图像/话音/数据综合业务复用模型,并采用流体流法进行了详细的分析,给出了模型主要参数的解法,最后本文还介绍了控制各优先级业务信元