【摘 要】
:
现代生活中,基于深度神经网络的深度学习技术已经在多个应用领域取得了突破性的成功。随着物联网的发展,在嵌入式设备上实现这类人工智能应用的需求也在不断增加。然而,经典深度神经网络往往需要大量的计算开销和存储占用,阻碍了其在资源有限的物联网设备上进行部署。为应对该挑战,许多模型压缩技术被研究者们陆续提出。其中,二值量化方法由于极高的存储节省比和高效的卷积计算方式成为了一种简单且高效的压缩方法。但当前二值
论文部分内容阅读
现代生活中,基于深度神经网络的深度学习技术已经在多个应用领域取得了突破性的成功。随着物联网的发展,在嵌入式设备上实现这类人工智能应用的需求也在不断增加。然而,经典深度神经网络往往需要大量的计算开销和存储占用,阻碍了其在资源有限的物联网设备上进行部署。为应对该挑战,许多模型压缩技术被研究者们陆续提出。其中,二值量化方法由于极高的存储节省比和高效的卷积计算方式成为了一种简单且高效的压缩方法。但当前二值化神经网络仍存在以下问题:一是其由于使用极低的比特表示导致了性能大幅下降,阻碍了二值化模型的实际应用;二是大多数二值化方法都在图像分类任务上进行优化,而如何提升其在目标检测任务上的性能仍需进一步的研究。针对上述问题,本文提出了一种二值化神经网络增强方法,能够极大改善二值化模型在图像分类任务上的性能。同时,将该增强方法应用到二值化目标检测当中,旨在提升二值化模型的检测精度。具体来说,本文主要贡献如下:提出了一种并行二值化神经网络增强方法。首先,本文提出使用一种多并行二值化子网络的模型结构来提升网络的容量和表示能力。其次,提出引入同卷积层之间的侧向连接增加了整个网络的信息流动和梯度路径。然后,提出引入基于L21范数的正则化项对侧向连接进行稀疏化来去除冗余的连接。最后,利用知识蒸馏的方法帮助二值化模型获得更好的训练效果。实验结果表明,该二值化模型在CIFAR-10数据集上相较于基准模型准确率提升了4.6%,在Image Net数据集上的分类性能超过了其他前沿的相关工作,证明该方法能够有效增强二值化模型的性能。提出了一种将二值化网络增强方法应用于目标检测任务的二值化检测器。首先,本文使用基于信息瓶颈的损失函数来减少冗余信息和大量假正例。其次,提出使用并行二值化网络增强模型作为骨干网络增强提取特征的质量。最后,提出引入正则化项优化与检测任务相关的侧向连接结构。实验结果显示,在PASCAL VOC数据集上该检测网络相较于基准模型检测精度提升了6.6%,证明了所述方法在目标检测任务上的有效性。
其他文献
实测数据表明,侵入变电站及电力装备的过电压波形往往具有振荡衰减特性,然而现行绝缘配合与绝缘设计仍以IEC所推荐的标准双指数波为依据,其波形特征与实测过电压波形特征的显著差异以及两种波形作用下的绝缘失效特性差异给统计绝缘配合的应用带来难题。本文在某10 k V变电站内长期的过电压在线监测统计数据基础上,考虑实测过电压波形参数(振荡频率与衰减常数)的概率密度分布,通过大量试验研究揭示了波形参数对空气间
GaN高电子迁移率晶体管(Gallium Nitride High Electron Mobility Transistor,GaN HEMT)以其独特的半导体材料优势在高功率密度、高开关频率、高效等电力电子变换领域具有巨大的发展潜力,成为近年来第三代宽禁带半导体器件研究的热点。然而目前市场上商用的GaN功率器件性能远低于其理论值。新材料、新结构、新封装等带来的可靠性问题是限制其性能发挥的重要方面
随着社会经济发展以及风光等新能源的大量并网,“储”作为“源网荷储”四维互动新型电力系统不可或缺的元素,可有效解决设备利用率低以及新能源波动性等诸多问题,因此储能在电网中的科学合理配置显得尤为重要。本文分别针对用户侧、分布式电源侧以及电网侧储能配置进行了研究。对于受季节性影响较小的大用户负荷储能配置,本文针对年典型日负荷曲线,以基于两部制电价的用户净收益最大为目标,进行储能电池功率和容量的优化配置。
随着光伏等新能源产业与直流配电网的兴起,直流导线接头越来越多见,很容易发生电弧现象。直流电无过零点,电弧不会自动熄灭,燃弧时间更长,易引发电极的烧蚀,甚至造成火灾。因此,研究直流故障电弧的温度与电气特性以及电弧对电极的侵蚀规律,对保障直流供配电系统的安全可靠运行具有重要意义。本文首先研究电弧的电气与温度特性。搭建直流故障电弧的实验平台,通过实验数据分析得到直流故障电弧的电气与温度特性的规律。接着,
随着分布式电源(Distributed Generator,DG)大规模接入,常规配电网向含DG配电网转变。由于配电网结构日趋复杂,配电线路绝缘化率逐渐提升,受雷击和外力等影响,近年来断线故障频发。断线故障造成系统缺相运行,引起三相电压、电流严重不平衡,且可能伴随接地现象,加剧故障的危害性,导致负序、零序分量的大量产生,威胁旋转类设备和敏感电力电子设备的安全,影响DG控制系统性能和稳定性,严重时甚
受潮是导致油浸式电力变压器绝缘劣化的重要因素,严重影响设备的安全运行。采用无损测试手段,在不吊罩取样前提下准确获得油纸绝缘的受潮状态,从而制定合理的运维检修策略,对提高设备运行可靠性、延长其使用寿命具有重要的工程意义。基于绝缘频域介电响应特性的绝缘测试和诊断技术,已被证实在无损检测设备内绝缘分布式缺陷的应用中表现出较大的潜力,已有进口商用仪器面世并实现了现场变压器绝缘受潮程度的定量评估。该技术的评
为遏制全球变暖,缓解能源危机,实现“碳达峰、碳中和”的战略目标是我国未来重要的发展方向。实现“双碳”战略的一个重要途径就是汽车电动化,为了提升用户体验同时充分利用电动汽车的储能特性,有必要设计具有双向功率传输的车载充电机。一般两级式车载充电机设计的关键在于隔离双向DC-DC变换器(Isolated Bi-directional DC-DC Converter,IBDC)的设计,在众多的IBDC中,
电流与电力系统运行状态密切相关,其传感技术是保证电力系统安全稳定运行和推动智能电网发展的关键技术之一。目前,光学电流传感器因具有体积小重量轻、绝缘性能优良、抗电磁干扰能力强等优势,得到了大量研究和广泛应用。其中,基于磁致伸缩效应的无源光栅电流传感器相较磁光效应型和干涉型传感器而言不会受到双折射效应或外界振动等因素的影响,具备宽频、宽温、高性能测量的潜力。但基于已有研究发现,此种传感器在频率响应、温
在“十四五”规划的推动下,为发挥我国风能资源丰富的优势,风力发电在新能源发电领域逐渐占据重要位置。变流器作为风力发电系统中最关键且故障率最高的装备,其中功率器件IGBT是最脆弱、最容易失效的部件。准确的变流器可靠性评估结果对于整个风电机组的稳定运行、提高经济效益具有重要意义。受风速随机性的影响,机侧变流器输出参数频率(0~20Hz)与IGBT模块热时间常数(100ms)不匹配,而传统寿命模型难以反
触觉传感器是实现人机交互的重要接口元件,逐渐被应用于消费类电子产品、机器人和医疗器械等领域。现实世界中触觉传感器在机器人中的应用仍然具有挑战性,速度缓慢、分辨率低、体积大、成本高等因素制约着其在机器人领域中的应用。本论文针对以上问题,提出了一种基于MEMS(Micro-electro-mechanical system,MEMS)和CMOS(Complementary metal oxide se