深度神经网络模型压缩方法与进展

来源 :华东师范大学学报(自然科学版) | 被引量 : 0次 | 上传用户:ywdiy_cn
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度神经网络(Deep Neural Network, DNN)模型通过巨大的内存消耗和高计算量来实现强大的性能,难以部署在有限资源的硬件平台上.通过模型压缩来降低内存成本和加速计算已成为热点问题,近年来已有大量的这方面的研究工作.主要介绍了4种具有代表性的深度神经网络压缩方法,即网络剪枝、量化、知识蒸馏和紧凑神经网络设计;着重介绍了近年来具有代表性的压缩模型方法及其特点;最后,总结了模型压缩的相关评价标准和研究前景.
其他文献
农业职业技术院校如何服务新农村建设是新形势下服务"三农"面临的一个新课题。从"发挥教育资源优势,探索服务新农村建设途径和方式"的角度出发,对农业职业技术院校如何服务新农村
本文利用苹果混合汁芳香物模型对固相萃取柱制备芳香物样品进行了研究。在9种不同的非极性萃取柱中,C—18柱适于苹果混合汁芳香物样品的制备。甲醇用作洗淋溶剂。对于100mg规
针对40 mm宽厚板出现裂纹的现象,采用宏观观察、金相组织分析、扫描电镜观察和能谱分析的方法对宽厚板裂纹进行了系统的分析。结果表明,连铸坯中的原有裂纹及杂质、内应力以
两个豇豆品种的种子经96个小时发芽,分别于发芽24、48、72和96个小时时取样,测定低聚糖以及能量、蛋白质、抗环血酸、尼克酸、硫胺素、钙、镁、铁、锌、钾和磷含量的变化。
本文对化学去皮过程中氢氧化钠在不同浓度和不同温度条件下透过加工番茄果皮的表面扩散速率进行评估。当碱液中氢氧化钠浓度为2M或更高时,其表面扩散速率与浓度的增加无关,这
重症急性胰腺炎(SAP)是一种凶险的急腹症,其进展迅速、病情危重,常常由于并发多器官功能障碍综合征而造成患者死亡。近20年来,越来越多的证据显示肥胖因素影响胰腺炎病情,加
近日,特钢事业部中型车间对550轧机孔型进行了升级改造,年创经济效益72万元。该车间550粗轧机孔型充满度大,压下量分配不太合适。下轧制线压下量太大,上轧制线压下量太小,料
针对新疆公司高速线材生产过程中出现的吐丝圈形质量问题进行分析,并提出解决措施。通过有针对性的调整与控制,产品吐丝质量得到明显改善。
运用沉积学、古生物地层学、层序地层学、岩石粒度分析等方法,从岩性特征、沉积构造、沉积体系等方面对研究区童子岩组地层的沉积特征进行了详细的研究,对其沉积环境演化特征进
介绍了40CrMnMoA钢的研究开发情况。通过合金成分设计,采用电炉流程工艺开发的产品满足了高速重载货车缓冲器制动使用的材料要求。