结合半波高斯量化与交替更新的神经网络压缩方法

来源 :计算机工程 | 被引量 : 0次 | 上传用户:wangjiejin
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
为使神经网络模型能在实时性要求较高且内存容量受限的边缘设备上部署使用,提出一种基于半波高斯量化与交替更新的混合压缩方法。对神经网络模型输入部分进行2 bit均匀半波高斯量化,将量化值输入带有缩放因子的二值网络通过训练得到初始二值模型,利用交替更新方法对已训练的二值模型进行逐层微调以提高模型测试精度。在CIFAR-10和ImageNet数据集上的实验结果表明,该方法能有效降低参数和结构冗余所导致的内存和时间开销,在神经网络模型压缩比接近30的前提下,测试精度相比HWGQ-Net方法提高0.8和2.0个百分点
其他文献
潘家大辣椒是长江中游洞庭湖区域久负盛名的地方优良辣椒品种,流传于湘鄂两省江湖平原地区,畅销湖南省内长、株、潭、岳及江西、广东等省外市场。因其原产地位于华容县潘家乡
文章通过分析“高等数学”课程融入思政教育的必要性,对“高等数学”课程融入思政教育可行性进行了分析,并对如何在高等数学课程中融入思政教育提出了解决办法。
论坛召开前夕,我们在业内展开调研和征稿,交流养老与康养产业发展经验。报告编写出版并在论坛发布,得到了业内的关注,会议期间及会后,本刊对部分参会代表进行了采访,并征集感
博白县六林钼钨矿区位于广西博白-岑溪俯冲增生杂岩带(O-S)四级构造单元博白县油麻坡钨钼矿集区。在区域性物化探工作基础上,通过土壤剖面测量、水系沉积测量、激电中梯扫面
网络表征学习技术被广泛应用于获取网络中节点的特征及其语义。已有网络表征学习方法主要研究邻接矩阵或邻接矩阵的幂,使得向量空间中一个节点的相似节点存在于网络中与它相
甲骨文是刻写在龟甲、兽骨上的古典文献遗产,是汉语的母体,为实现甲骨文更好的活化利用,让人们以一种喜闻乐见的形式来学习甲骨文,设计了一款基于微信小程序、数据库技术和MI
广西贺州市与湘、粤交界,史上有"三省通衢"之称,素有"粤港澳后花园"的美誉[1]。"南国仙山"-贺州姑婆山由马鞍山、天堂顶(海拔1844 m)、姑婆山(海拔1730 m)等主峰连成西南走向的山脉主体[2],长期的地质历史演变,在内外应力交互作用下形成特殊的地形构造,主峰突兀,群峰并立,地势险峻,沟长谷深,绝壁众多,形成沟沟皆瀑、有瀑必奇的独特景象;集"雄、险、奇、秀、幽"于一体,是罕见的宇宙地质奇
阐述了当前选煤工艺中粗煤泥的分选概况,指出在正常工况下,重介全级入选工艺或重介分级入选粗煤泥工艺分选下限均可达到0.25 m m甚至达到0.125 mm。在此基础上,明确了粗精煤
食堂不仅满足是企业员工的就餐场所,也是员工聚集、交流活动的场所。当前公司企业食堂管理模式,仍旧面临一些问题,包括排队、效率和浪费等问题。构建基于微信公众号智慧食堂
花椰菜为十字花科芸薹属甘蓝种在地中海东部沿岸演化出的1个变种,属一二年生草本植物,于19世纪中期引入中国。其由于营养丰富、质地柔嫩、味道鲜美而深受广大消费者的喜爱,近