【摘 要】
：
鉴于Transformer模型在自然语言处理等序列任务中的优异性能,提出了一种适用于语音情感识别任务的改进的类Transformer模型.为了减小Transformer模型中多头注意力单元内部由softmax运算引起的巨大时间消耗与内存开销,提出了一种新的线性自注意力计算方法,通过使用泰勒级数展开公式代替原来的指数函数,并根据矩阵乘积的关联性将softmax运算相对于输入序列长度的时间复杂度和空间复杂度从O(N2)降至O(N),其中N为序列长度.在2个不同语言的情感语料库上进行实验.结果表明:所提出的线性
【机 构】
：
东南大学信息科学与工程学院,金陵科技学院计算机工程学院
【基金项目】
：
The National Key Research and Development Program of China(No.2020YFC2004002,2020YFC2004003),the National Natural Science Foundation of China(No.61871213,61673108,61571106).
论文部分内容阅读
鉴于Transformer模型在自然语言处理等序列任务中的优异性能,提出了一种适用于语音情感识别任务的改进的类Transformer模型.为了减小Transformer模型中多头注意力单元内部由softmax运算引起的巨大时间消耗与内存开销,提出了一种新的线性自注意力计算方法,通过使用泰勒级数展开公式代替原来的指数函数,并根据矩阵乘积的关联性将softmax运算相对于输入序列长度的时间复杂度和空间复杂度从O(N2)降至O(N),其中N为序列长度.在2个不同语言的情感语料库上进行实验.结果表明:所提出的线性
其他文献
在高职教育“双高计划”和“百万扩招”的改革背景下,学校的专业建设对图书馆专业馆员服务提出了更高要求。专业馆员服务水平的提高和专业馆员制度的建立完善成为当下要务。通过文献和网络调研,分析高职院校专业馆员服务的现状及存在的问题,提出专业馆员服务不能照搬本科院校的学科馆员模式,应立足高职院校的实际需要,转变对服务的认知,利用图情知识的特长重点开展教学支持服务,从专业能力提升、管理制度、人才培养机制、绩效考核制度多方面建立系统的专业馆员能力提升机制。
大学生思想政治教育是促进精神文明建设的强力抓手,是实施素质教育的重要前提。文章基于新时代视角,探索了大学生思想政治教育的丰富内涵,结合疫情这一特殊背景,从政治观念淡薄、道德修养不足、人文情怀缺失等方面分析了当前存在的壁垒,提出通过加强宣传教育、培育道德风尚、涵养文化自信等以马克思主义为指导灵魂的创新途径,提高当代大学生政治素质、道德情操和文化修养,以期为开辟大学生思想政治教育新思路创造生动实践价值。
社会力量参与城市24小时阅读空间建设提升了公共文化服务的深度与广度,打通了公共文化服务“最后一公里”,对构建城市基层公共文化服务体系具有重要意义。文章选取温州城市书房、合肥24小时悦·书房、张家港24小时图书馆驿站作为研究对象,从激励机制、服务内容、考核标准、保障机制等角度,分析城市24小时阅读空间志愿服务工作的发展现状以及存在的问题,并提出完善绩效评估体系、深化志愿服务内容、构建志愿服务平台、加强志愿者权益保障等改进措施,以促进城市24小时阅读空间志愿服务的发展。
摘 要：在经济社会快速发展背景下，我国研究生教育改革与发展工作取得显著成效，但也需要根据当前研究生教育教学工作存在的问题，提升研究生教育改革工作战略地位、做好研究生教育改革部署工作、优化研究生教育教学治理模式，促进研究生教育改革工作的合理发展。基于此，本文结合我国研究生教育改革与发展的现状，提出深化改革研究生教育教学工作的策略，以期实现研究生教育改革与发展工作的与时俱进。 关键词：研究生教育;发
随着我国高等教育办学规模的逐步扩大,国家财政投入力度加大,高校图书馆迎来了快速发展.但高校图书馆普遍存在馆舍布局不合理和图书利用率低的现象,有限馆舍和纸本图书存取模
在立德树人成为教育根本的新时代,作为学校原创性智力成果宝藏的高校图书馆文库也承担着重要的育人功能,依托新媒体平台开展文化育人服务变得日益重要。文章以上海交通大学图书馆“交大人的文脉时光”微信专栏为案例,探讨其在顶层设计、内容挖掘、表达形式和传播模式等方面的建设思路,以期为高校图书馆文库开展新媒体育人服务工作提供有益借鉴。
文章从目标任务、合作主体、合作内容、保障机制等方面对安徽省政府10部涉及公共文化政社合作的政策文件加以具体解读和分析,结合安徽省公共文化产品服务政社合作供给与运营
随着信息技术的飞速发展,许多优秀的教育资源通过网络被分享。信息素养教育有很强的普适性,很适合通过网络平台推广相关课程。文章以国外5门信息素养类网络课程为调查对象,主要采用网络调查法和文献调查法对课程的开设情况进行调查,从教学内容、互动模式、证书与奖励、资金来源四个方面,总结分析国外信息素养类网络课程发展现状,以期为我国信息素养类在线课程提供借鉴。
摘 要：为贯彻落实党的十九届五中全会关于“更加充分更高质量”的就业任务目标，高校责任重大。本文通过对高校毕业生进行跟踪调查，结合就业形势，分析了毕业生就业存在的主要问题，并从政府完善顶层设计、高校健全人才培养体系、毕业生增强就业主动性、企业树立社会责任感等方面，提出了解决毕业生就业难的对策，旨在通过多方合作、共同发力，更好地解决毕业生就业问题。 关键词：高校;毕业生;就业;创业 中图分类号：G
针对高职院校专业建设由专业转向专业群的变化,本文以江门职业技术学院新一代信息技术高水平专业群建设研究与实践为例,探讨了高水平专业群的组群逻辑、建群基础、建设目标、建设内容与举措。本文认为,高职院校应通过不断完善办学体制机制,改革人才培养模式,深化产教融合校企合作,加强对外交流与合作,以更好地服务粤港澳大湾区的发展,发挥侨乡优势,探索出具有侨乡特色的高职教育高水平专业群发展模式。