基于MB-K-Means的网络模型参数压缩

来源 :电脑知识与技术 | 被引量 : 0次 | 上传用户:qianchen912009
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度学习目前是计算机领域研究热点之一,而神经网络是深度学习不可缺少的一部分,然而深度网络模型参数巨大,导致迁移学习困难,硬件需求条件巨大。该文提出了一种基于MB-K-Means算法对权重进行聚类,并进行量化的压缩方法。首先,对模型的参数权进行剪枝,并进行稀疏训练恢复其精度。第二,基于MB k-means算法进行权重聚类,然后权重量化共享。利用算法能够增加网络的训练速度,在深度卷积神经网络上进行参数压缩,减少网络模型大小。实验表明,在ImageNet-1000数据集上,AlexNet模型缩小了31倍,VGG
其他文献
随着蓝黄战略逐步上升为国家发展战略,山东省面临着经济发展新契机。但当前省内产业结构不合理,制约着区域经济的发展,推动产业结构优化成为山东省经济增长的关键驱动力。国
随着人口老龄化程度的不断加深,我国面临着沉重的养老压力,尤其是老年人的医疗问题日益突出。发达国家通过养老服务整合、养老机构向医护型转型等方式进行了一系列改革,取得了良
摘要:自改革开放以来,特别是进入新世纪,中国工业化和城市化进程加快,粗放型经济发展方式造成了严重的环境污染,特别是重金属的高毒性严重威胁了生态环境及人类健康。近年来矿
目的:1、在肉眼及显微镜下观察CO2激光、1940nm连续掺铥(Tm)光纤激光、1070nm连续掺镱(Yb)光纤激光、1070nm脉冲掺镱(Yb)光纤激光对离体新西兰兔颊部软组织的切割、气化能力以
精益生产方式是当代先进的管理方式之一,广泛应用于制造业的生产管理中。精益思想的广泛应用对卷烟生产产生了巨大的影响,它使得卷烟厂由关注制造技术问题转向于关注生产管理
随着社会文明的发展,社会公众对企业的要求不再仅限于经济发展,而是从经济、法律、社会责任等方面全方位考察企业。作为社会责任方式之一的慈善捐赠,也受到政府、消费者等相
对于经济高速发展的中国来说,石油是至关重要的战略资源,是决定国家发展的安全命脉。随着我国经济的发展,成品油的需求量也在快速的增长。德阳地区是中石油四川分公司的重要
教材,作为课程资源的核心,是学生学习和教师教学的重要内容和手段,也是从课程理想到教学实施的中心桥梁。特别是语言教材,作为语言课程实施的重要组成部分,它的选材、编排直
绩效考核主要是针对员工的工作态度、技术水平及业务能力进行考核,企事业单位依据考核结果对员工实施奖惩、激励、晋升等相关后续工作,以此来调动员工的工作积极性以及自我提
分析了目前云南省林地资源管理存在着林地资源信息的获得、更新及管理滞后、林地逆转呈上升趋势、林地资源流转不规范、林地四权不落实,争地矛盾突出、生态效益补偿缺位等问题