【摘 要】
:
卷积算子是卷积神经网络的核心构造块,它根据一定的感受视野,融合卷积神经网络各层与不同通道之间的信息,提取出原始图像特征。然而图像中的相邻像素往往具有相似的值,导致卷积层的输出包含大量冗余信息。为了减少冗余信息,加快模型推理速度,神经网络中会加入池化层进行信息降维。对比传统降维方法,池化本身具有平移和旋转不变性,对图像特征的降维效果更好,并能维持模型是端到端的。利用这样的特性,本文提出一种基于注意力
【基金项目】
:
国家自然科学基金(61862021),海南省自然科学基金(618QN217)
论文部分内容阅读
卷积算子是卷积神经网络的核心构造块,它根据一定的感受视野,融合卷积神经网络各层与不同通道之间的信息,提取出原始图像特征。然而图像中的相邻像素往往具有相似的值,导致卷积层的输出包含大量冗余信息。为了减少冗余信息,加快模型推理速度,神经网络中会加入池化层进行信息降维。对比传统降维方法,池化本身具有平移和旋转不变性,对图像特征的降维效果更好,并能维持模型是端到端的。利用这样的特性,本文提出一种基于注意力机制的降维方法。在特征提取过程中非线性地复用神经网络各层降维后的特征信息,使网络能学习到它们之间的潜在联
其他文献
各种形式的非正规金融在发展中国家和地区也广泛存在,中小企业在台湾的经济腾飞中扮演了重要角色,可是台湾岛内私人企业借款中的1/3以上是由非正规渠道所提供的.在世界其他国
西部开发是我国国民经济和社会发展'十五'计划的一项重大举措,也是一项集环保、资源开发与科教人才战略于一体的系统工程.可持续发展的目标与西部脆弱的生态环境,决
'就研究本身而言,就研究成果而言,任何科学研究都离不开科学合作.'没有科学合作,科学事业寸步难行.因此,对于科学工作者来说,认清科学合作的本质是进行科学合作的基
环境保护是矿区生态协调稳定和资源可持续利用的重要保证.内蒙古的矿山环境问题十分严重,且我国现行的矿业环境法律体制不健全,产权不明晰,法律制度不完善,使法律在我区难以
针对一般免疫算法收敛速度慢的缺点,提出一种免疫粒子群优化算法,算法保留了基于抗体生存期望值的多样性保持策略,同样采用了交叉和变异产生新的抗体,在此基础上引入了粒子群优化的思想,采用粒子群优化的方法,使抗体在更新的过程中只跟踪全局极值,使其进化具有明确的方向性。采用免疫粒子群优化算法对典型的多峰函数进行优化,仿真结果表明了方法的有效性,并通过与一般免疫算法进行比较,表明方法能够加快一般免疫算法的收敛
日前,为进一步加快新农村路网建设步伐,四川省成都市出台了《关于加快成都市农村公路发展实施意见(试行)》,提出在“十一五”期间,全市农村公路建设计划总投资84亿元,到2010年,完成“
如果把阿尔泰学研究理解得广一些,除了有关语言的比较研究外也包括有关语言的个体研究的话,中国阿尔泰语系语言的研究,都有相当长的研究史.阿尔泰学已经是个国际性的学科.中
地形勘查使命执行过程中,AUV(自治式水下机器人)控制系统的规划层对于AUV自主智能决策起到了至关重要的作用,对于AUV控制系统规划层进行DEDS(离散事件系统)建模与仿真研究可以使我们深入地了解并验证AUV自主能力。介绍了AUV控制系统逻辑模型以及监督控制理论,采用分层PETRI网对规划层进行了离散事件系统建模,采用了一种改进的RW离散事件监控方法对规划层模型进行了协调,通过对于任务库所的扩展,
针对许多大型设备排气噪声的环境污染问题,提出了一种基于免疫应答机制的噪声智能控制方法(NIC),并设计了一种调频噪声智能控制系统。该NIC具有自学习、记忆和进化能力,能够在消除主频噪声的过程中自动生成控制抗体。当控制器初次运行时,使调频管移动一个全行程,找出消声最佳点,然后通过定位控制,使频率调节管移动到对应位置,并形成第一个控制抗体。当主频噪声再次出现时,智能控制系统能够利用控制抗体存储的控制策
经济学理论界崇尚通过构建数理模型来进行理论分析是根植于西方文明的毕达哥拉斯情结;构造既反映经济行为又能被实际数据检验的动态理论模型成了经济学难题.目前,经济学家尚