互编码器辅助视频的多模态场景分类

来源 :南京邮电大学学报(自然科学版 | 被引量 : 0次 | 上传用户:wei2859699
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
为了解决多模态场景分类准确率不高的问题,文中提出一种由互编码器辅助视频的多模态场景分类方法。音频部分首先对输入音频数据进行特征提取并且使用自注意力机制取得关注信息,图像部分首先对视频进行分帧图片提取,然后通过ResNet50网络进行特征提取,然后将提取得到的双模态信息进入互编码器,互编码器通过提取各个模态隐层特征进行特征融合,融合后的新特征结合attention机制辅助视频特征。在该模型中,互编码器为融合特征的辅助系统。实验基于DCASE2021 Challenge Task 1B数据集进行验证,结果表明互编码器能够提升分类准确率。
其他文献
目的 研究极低出生体重早产儿1岁追赶生长时神经发育现状及早期干预。方法 选取本院就诊的极低出生体重早产儿120例作为研究对象,出院后7~10d及纠正胎龄40周各1次,纠正月龄1~12个月每月1次,并对早产儿体格发育进行评估,采用婴幼儿智力发育量观察早产儿的智力发育指数(Mental developmental index,MDI)、精神运动发育指数(Psychomotor developmenta
针对物体和镜像之间的匹配问题,引入RNFA边缘链检测方法获取更丰富的线段,提出一种改进的LBD算法用于构建局部不变特征描述符,通过比较局部不变特征描述符获得初始匹配对。采用全局投影角度的筛选方式,并通过拟合投影中线的方式剔除初始匹配对中误匹配项。在完成全局投影角度的选取和投影中线的拟合后,放宽对局部不变特征描述符阈值的筛选,以获得更多的匹配对,提升召回率。图像集仿真实验结果表明,所设计算法在纹理较
<正>手脚冰凉的根本问题在于气血运行不畅。春渐远,夏将至,随着气温的逐渐升高,人的身体也暖和起来,但是有的人依然手脚冰凉。这到底是怎么回事?该如何缓解呢?“凉”出有因中医认为,手脚冰凉是一种“闭症”,“闭”即不通。手脚冰凉的根本问题在于气血运行不畅,其主要原因有三个:1.患者自身阳气不足,不能温化四肢。这类人群除手脚冰凉外,
期刊
信贷消费使负债家庭获得消费和投资上的机会公平,但导致的负债也带来财务压力和相对剥夺感,从而降低了社会公平感。基于2015年中国家庭金融调查数据(CHFS 2015)的实证研究发现:家庭负债行为总体上显著负向影响社会公平感,财富属性和民生属性是判断各种类型负债行为对社会公平感影响的关键,非银行负债行为对社会公平感的负向影响更大;分群样本检验发现,对于低收入、西部、农村地区群体,家庭负债行为的负向影响
<正>北宋钱币,因字体不同而模范特精,有真、行、草、篆、隶、瘦金体等,一般版别都有二种或三种字体,被泉学家名之为"对钱",日本泉家则称为"符合钱"。崇宁元年(1102)蔡京为相,12月,铸崇宁通宝当五钱,次年,又铸当十的崇宁重
会议
低场核磁共振与成像技术具有快速无损、精确安全的特点,现已应用于中医药领域科学研究中。介绍低场核磁共振与成像技术原理,阐述低场核磁共振与成像技术对中药材、中药饮片及中药制剂样品内部中水分、油脂的赋存状态和迁移变化机理规律,探讨该技术在中药质量控制与评价研究应用中存在的问题与影响因素,展望前景应用并提出改进方法,以期为在中医药领域深入研究提供理论支持。
近年来,压缩空气储能作为新型储能的一种重要类型,受到业界越来越多的关注。自2021年以来已有多个10MW级以上项目陆续并网,压缩空气储能的技术正在逐步成熟,产业化进程开始加速。本文首先简要介绍了压缩空气储能的技术路线和四个关键环节,并将后续研究聚焦于目前技术相对成熟且工程应用最多的绝热压缩空气储能。接着通过梳理分析已建、在建和规划项目的技术经济指标,总结提出技术经济特点及发展趋势。在技术层面,压缩
面对创新驱动发展和知识产权强国建设的新时代要求,有必要厘清实用新型制度的目标、定位,构建具有中国特色、符合创新规律、全面完善的实用新型制度。实用新型保护的长度、宽度、高度与速度,总在量与质、快与慢、高与低、远与近之间变换。我国实用新型制度的改革完善应聚焦于保护宽度、保护高度与保护速度,相应指向于客体范围的扩大、实质条件的优化与审查程序的细化,具体包括:实用新型的客体延伸至产品制造方法;实用性修改为
对农村物流发展进行梳理,发现我国农村物流发展存在物流基础建设不完善、供应链商业模式运用程度低,农村物流模式单一的问题。分析认为农村物流发展应强化农村物流枢纽网络建设、数字化供应链管理、对农村物流服务模式进行创新,并提出利用政策促进农村物流枢纽网络的构建、以“新基建”推进数字化供应链、利用电商发展推动农村物流服务模式创新的具体策略,旨在推动农村物流发展,解决农产品流通难的问题,助力构建双循环新发展格
<正>《男生女生》为统编初中《道德与法治》七年级下册第一单元《青春时光》第二课第一框内容,且融合了七年级上册第三课正确认识自我的相关内容。本课涉及“性别”“心理性别特征”“性别刻板印象”等知识,学生需要在认识青春期的生理、心理、思维变化的基础上,进一步了解两性区别,正确对待性别差异,能够相互取长补短,促进自身成长;同时要看到不同的个体具有差异,要学会正确对待自己的优势和不足,
期刊