改进型的batch normalization:BNalpha

来源 :计算机应用研究 | 被引量 : 0次 | 上传用户:loadway
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对提高卷积神经网络(convolutional neural network,CNN)在图像识别方向的训练速度和识别准确率进行了研究。从BN(batch normalization)着手,通过新增参数对BN的仿射变换进行具体调节,并提出一种改进型的BN——BNalpha。除去带有某些特定结构的神经网络,相对于原始的BN,BNalpha可以在不增加运算复杂度的前提下,提升神经网络的训练速度和识别准确度。通过对BN仿射变换的参数进行分析和对比,尝试解释BN在网络中的运行机理,并以此说明BNalpha相
其他文献
针对SMOTE(synthetic minority over-sampling technique)等基于近邻值的传统过采样算法在处理类不平衡数据时近邻参数不能根据少数类样本的分布及时调整的问题,提出邻域自适应SMOTE算法AdaN_SMOTE。为使合成数据保留少数类的原始分布,跟踪精度下降点确定每个少数类数据的近邻值,并根据噪声、小析取项或复杂的形状及时调整近邻值的大小;合成数据保留了少数类的
为使移动平均法预测技术的应用从专业化向大众化、人工化向智能化转变,在对一次移动平均模型进行改进之后,以预测的局部残差平方和最小为原则,设计出一种优选移动平均预测模型的Min-Min算法:首先,分别选出一次移动平均模型和二次移动平均模型各自的最优移动项数;然后,在最优的一次模型与最优的二次模型之间作出最优次数的选择;最后,基于优选出的移动平均模型对未来一期开展点预测和区间预测。同既有算法相比,本算法
不同于长文本,短文本信息量缺乏,在研究中通常难以获得丰富的语义特征并且难以提取完整的句法特征,因此短文本分类模型的分类效果有待提升。针对这个问题进行了研究,基于Res LCNN模型进行改进,引入神经主题模型,并融合多个神经网络输出特征进行分类。首先,通过神经主题模型提取主题来丰富短文本的信息;其次,将主题信息储存在记忆网络中,并与序列信息进行融合,丰富文本的表示;最后,将其输入具有残差结构的卷积神
能效优化是5G通信领域的一个研究热点。首先针对单小区多用户上行大规模MIMO通信系统,在满足用户QoS需求和系统可容忍的信道有效噪声条件下,建立关于发射功率、导频序列长度、基站天线数的能效优化模型;其次,不同于传统利用迭代算法求解使系统能效最佳的基站天线数,提出了采用Lambert W函数分析得到最佳基站天线数的闭式表达式;最后根据分式规划理论,采用迭代优化算法联合优化系统导频序列长度、发射功率、
在室内同时定位与建图(SLAM)的实际应用中,对称单一结构环境易造成激光SLAM错误建图,低质量光照或低纹理环境易造成视觉SLAM失效。针对上述室内退化环境,提出一种将激光、视觉、惯性测量单元(IMU)进行紧耦合的LVI-SLAM方法。在该方法前端,设计视觉评价环节对视觉信息置信度进行自适应调整;在该方法后端,进行位姿图优化以及多传感器回环抑制累积误差。视觉评价实验、单走廊实验以及大场景建图实验的
为提高软件缺陷严重程度的预测性能,通过充分考虑软件缺陷严重程度标签间的次序性,提出一种基于有序回归的软件缺陷严重程度预测方法 ORESP。该方法首先使用基于Spearman的特征选择方法来识别并移除数据集内的冗余特征,随后使用基于比例优势模型的神经网络来构建预测模型。通过与五种经典分类方法的比较,所提的ORESP方法在四种不同类型的度量下均可取得更高的预测性能,其中基于平均0-1误差(MZE)评测
针对核应急环境中,环境模型未知、人工开门危险性较大的问题,提出了一种基于力觉引导的机械臂自适应开门旋拧方法。该方法通过机械臂末端的六维力传感器获得力和力矩信息,将实际力或力矩与期望力或力矩之间的差值作为深度确定性策略梯度算法的状态输入,同时输出动作;利用机械臂末端所受两个方向力的函数关系,设置基础奖励函数,通过机械臂的期望运动方向,设置引导性奖励函数,使机械臂自动适应力与力矩的变化,完成旋拧门把手
可诊断度是评估多处理器系统可靠性的一个关键指标。t/k诊断策略通过允许至多k个无故障处理器被误诊为故障处理器,从而极大提高了系统的可诊断度。与t可诊断度和t_1/t_1可诊断度相比,t/k可诊断度可以更好地反映实际系统的故障模式。3元n立方是一种性质优良并且应用广泛的网络拓扑,在许多分布式多处理器的构建中被用做底层网络。根据一些引理以及确定系统为t/k可诊断的充分条件,研究得出当n≥3及0≤k≤n
基于人工设计特征的检测算法检测速度普遍较慢,检测精度也有待提高,已无法满足现今工业生产中的需求。而基于深度学习的检测技术,因其需要大量的计算和存储空间无法在资源受限的设备上部署使用。针对这些问题,引用一种通道剪枝方法实现YOLOv3检测网络的轻量化,得到剪枝模型SlimYOLOv3,并进一步提出将SlimYOLOv3用于工业场景下的实时检测任务。方法通过对通道缩放因子施加L1正则化来增强卷积层的通
针对机器人实时异常监控问题,提出了基于多粒度联合孤立森林的实时异常监控方法。该方法对机器人的历史数据进行多粒度参数重组得到一系列具有不同参数组合的数据集,每一个数据集都可以训练一个孤立森林,最终产生了一个孤立森林集合。多个孤立森林联合投票策略是使用一个异常数据集对各个森林进行测试,求出异常数据集在每个孤立森林上的平均异常分数,并由此确定每个孤立森林在联合孤立森林模型总体决策中的话语权。以机器人的碰