【摘 要】
：
深度神经网络目前在许多任务中的表现已经达到甚至超越了人类的水平,但是其泛化能力和人类相比还是相去甚远.如何提高网络的泛化性,一直是重要的研究方向之一.围绕这个方向开展的大量卓有成效的研究,从扩展增强训练数据、通过正则化抑制模型复杂度、优化训练策略等角度,提出了很多行之有效的方法.这些方法对于训练数据集来说都是某种全局性质的策略,每一个样本数据都会被平等的对待.但是,每一个样本数据由于其携带的信息量
【基金项目】
：
贵州省科技计划（黔科合支撑[2020]4Y058）；
论文部分内容阅读
深度神经网络目前在许多任务中的表现已经达到甚至超越了人类的水平,但是其泛化能力和人类相比还是相去甚远.如何提高网络的泛化性,一直是重要的研究方向之一.围绕这个方向开展的大量卓有成效的研究,从扩展增强训练数据、通过正则化抑制模型复杂度、优化训练策略等角度,提出了很多行之有效的方法.这些方法对于训练数据集来说都是某种全局性质的策略,每一个样本数据都会被平等的对待.但是,每一个样本数据由于其携带的信息量、噪声等的不同,在训练过程中,对模型的拟合性能和泛化性能的影响也应该是有差异性的.针对是否一些样本在反复的迭代训练中更倾向于使得模型过度拟合,如何找到这些样本,是否可以通过对不同的样本采用差异化的抗过拟合策略使得模型获得更好的泛化性能等问题,提出了一种依据样本数据的差异性来训练深度神经网络的方法,首先使用预训练模型对每一个训练样本进行评估,判断每个样本对该模型的拟合效果;然后依据评估结果将训练集分为易使得模型过拟合的样本和普通的样本两个子集;最后,再使用两个子集的数据对模型进行交替训练,过程中对易使得模型过拟合的子集采用更强有力的抗过拟合策略.通过在不同的数据集上对多种深度模型进行的一系列实验,验证了该方法在典型的分类任务和细粒度分类任务中的效果.
其他文献
针对视觉异常检测任务,提出一种基于特征约束的蒸馏学习方法,充分利用教师网络模型的特征来指导学生模型高效的识别异常图像.具体地,引入Vision Transformer （ViT）作为异常检测任务的主干网络,并提出中心特征策略约束学生网络的输出特征.由于教师网络的特征表达能力较强,特征中心策略从教师网络中动态地为学生网络生成正常样本的特征表示中心,从而提升学生网络对正常数据特征输出的描述能力,进而扩
目的 探讨血液及尿液标本检验在慢性乙型肝炎患者鉴别诊断中的应用价值。方法 选择我院2020年1月至2021年12月收治的100例慢性乙型肝炎患者，均进行血液及尿液样本HBV-DNA检测，以及血液样本HBeAg检测。比较血液与尿液样本的HBV-DNA阳性率，比较血HBeAg阳性与阴性患者的尿HBV-DNA阳性率。结果 100例患者中，血液样本的HBV-DNA阳性率为76.00%，高于尿液样本的25.
自由基聚合反应可以为聚合物工业生产和科研研究提供理论依据。本文以过氧化二苯甲酰（BPO）引发甲基丙烯酸甲酯（MMA）进行自由基聚合反应,研究不同聚合条件下所得聚甲基丙烯酸甲酯（PMMA）的分子量,总结影响PMMA分子量大小的聚合因素。设计并合成低分子量PMMA,对PMMA结构在NMR谱图中化学位移位置进行深度分析,同时分析MMA聚合反应行为。为进一步分析PMMA结构NMR谱图,首先合成苯甲酰初级终
目的 探讨阴性淋巴结数目（NLNC）对胃印戒细胞癌（GSRC）患者预后的影响及构建GSRC患者的预后预测模型。方法 基于SEER数据库收集GSRC患者2101例，随机分为建模组和验证组，检验临床病理特征与GSRC预后的关系。多因素Cox比例风险回归模型分析影响总生存的独立危险因素并建立预后预测模型。一致性指数（C?index）、校准曲线、净分类指数（NRI）、综合判别指数（IDI）和临床决策曲线（
为探明饲料添加小球藻生长因子对对虾生长性能、基础体成分和营养成分的影响，以凡纳滨对虾幼虾为试验对象，在基础饲料中分别添加0%、0.5%、1.0%、5.0%、10.0%、15.0%的小球藻生长因子，进行45 d的养殖试验，测定其生长性能、基础体成分和营养成分。试验结果显示，饲料添加小球藻生长因子能够提高凡纳滨对虾的存活率、质量增加率和特定生长率，降低饲料系数。饲料中添加小球藻生长因子能够降低凡纳滨对
在教育现代化的进程中,信息技术与语文教学的融合是必经之路,通过多种教学方式提高课堂效率,以培养学生"核心素养"为目标,将课堂活动化、趣味化,本文就《猫》这一课进行了深刻的反思,在反思中感悟教育之道。
检察委员会是检察机关的业务决策机构。检察委员会制度是中国特色社会主义检察制度的重要组成部分。在检察机关全面实施检察官办案责任制,建立运行新的司法办案机制的宏观背景下,检察委员会的职能定位、作用发挥、议题范围、提请程序、责任追究等也将发生相应调整。进一步明确检察委员会的职能定位、增强司法属性和专业化水平、落实责任机制、健全办事和决策辅助机构是其不断发展完善的必由之路。
生产效益和生产安全是影响加工制造型企业竞争力的两大重要因素。而在现实中,企业为追求高生产效益,往往会制定高的生产绩效目标,这势必导致一线生产员工体验到较大的绩效压力。工作场所的压力已被证实是影响员工安全生产的一个主要因素。但到目前为止,绩效压力的研究仅仅关注其对员工的绩效、不道德行为等方面的作用后果,却鲜有研究探讨其与员工安全生产行为之间关系。因此,本研究旨在探究绩效压力与安全生产行为（包括安全遵
钢琴曲《百鸟朝凤》是中国钢琴改编作品中的一首经典曲目,改编自同名唢呐曲,由作曲家王建中先生所创作。作品汲取了原唢呐曲中民族音乐的精华,保留了多段体的传统曲式形式,并结合民间音乐素材重新进行构思编创,完美地将中国经典传统民间乐曲与钢琴这一西洋乐器结合起来。给大家带来耳目一新的中国传统民族音乐风格的钢琴作品,受到广大人民群众的喜爱。本文以钢琴改编曲《百鸟朝凤》为研究对象,梳理作品从唢呐曲到钢琴曲的改编
幼儿因为缺乏时间观念而容易产生拖延问题。幼儿园应尽早引导幼儿领悟时间与生命之间的内在关联，培养幼儿的时间管理意识和能力，发展幼儿的自我管理与自我规划能力。幼儿的身心发展特点决定了幼儿园实施时间管理教育应坚持具象性、体验性和递进性的原则，通过直接引导帮助幼儿初步认识时间的不同表现形态，通过环境熏陶促使幼儿初步内化时间的社会功用，通过规划练习支持幼儿时间管理能力的初步发展。