【摘 要】
:
目前深度神经网络(DNN)被广泛应用于计算机视觉中的各个领域并取得了瞩目的成效,然而其仍面临着两个重要难题:(1)所需计算规模庞大难于向轻量级设备部署;(2)其端到端的预测模
论文部分内容阅读
目前深度神经网络(DNN)被广泛应用于计算机视觉中的各个领域并取得了瞩目的成效,然而其仍面临着两个重要难题:(1)所需计算规模庞大难于向轻量级设备部署;(2)其端到端的预测模式很少需要人工介入,导致其模型解释能力弱,在重要领域(例如医学领域)难以被信任。本文提出一种新的演化神经网络算法对这两个问题进行研究,目标在于降低DNN模型运算需求,并提高其解释能力。针对第一个问题本文借助演化神经网络算法出色的随机搜索能力从已知网络结构出发逐渐将该结构进行大幅度网络压缩,并且仍能保持原有的分类性能。本文给出了一种动态剪枝的方法,在针对不同复杂程度的问题(数据)时可以有效地控制模型缩减的程度,避免网络出现性能急剧衰减的情况发生。此外本文使用演化神经网络算法对网络中的特征按照类别进行划分,目标在于将网络划分为各自独立的特征子网。这些特征子网未来可以被组合成类似决策树一样的具有较高解释性的模型。同时为了验证这些特征子网是否真正将原网中的特征按照类别进行划分,我们借助了特征可视化与图片激活度热度图等技术对其进行验证。我们在CIFAR-10与CIFAR-100这两个数据集上对以上两个问题进行验证。对于减小网络规模方面,我们最高将ResNet-110模型运算量缩减到原来的20.17%,参数量仅为原来的19.17%,而准确率仅下降了0.41%。对于第二个问题,我们通过特征可视化等方法从视觉上验证我们的方法确实将网络特征分开,并且通过测试其准确率还原程度可以发现,我们的方法将准确率变化控制在-1%~1%。
其他文献
生存分析中模型研究的重要分支是AFT模型。AFT模型由于其形式简单,且具有容易解释的性质,通常使用在删失数据的研究上。生存分析中另一种更加常用的模型是Cox模型,近年来Cox
目标跟踪方法的研究是计算机视觉领域中的一项重要应用,也是安防、交通和人机交互的核心技术,目标跟踪的目前困难的地方在于需要在一个算法中考虑到外观变形,光照变化,快速运
随着生产力和生产水平的提高,商品的种类越来越多。顾客需要从商品集合中挑选合适的商品。商家也需要给顾客推荐合适的商品集合。品类优化研究关心的就是如何优化商家的推荐
脑胶质瘤最常见的原发性颅内肿瘤,约占所有中枢神经系统肿瘤的32%,约占颅内恶性肿瘤的81%。关键基因生物标志物,如MGMT、Ki67和IDH1/2,是评价脑胶质瘤恶性程度的主要指标,对
脑胶质瘤是一种常见的脑部肿瘤疾病,它在脑部肿瘤中所占的比例高达七成,脑胶质瘤发展到恶性程度时有着非常高的致死率,如今脑胶质瘤成为了影响人们身体健康的重大疾病之一。
随着我国经济的快速发展,城镇化的进程也在逐步推进,全国各城市都在进行空间的扩张与服务的完善。城市基础设施为城市发展提供着物质基础,在城市的建设中是最基础的环节。近
“网络图书检索服务”是一种新兴的线上图书服务模式。该类服务的运营者收集、整理大量图书作品,并向用户提供检索服务。其中部分运营者还提供少量图书片段的浏览服务。这类
冠状动脉粥样硬化性心脏病(简称冠心病)是一个值得高度关注的健康问题,近年来发病率仍呈上升趋势,已经成为危害人类健康的一大疾病。因此,基于X射线计算机断层成像(Computed
行人重识别主要研究如何识别不同监控摄像机拍摄的特定行人,近年来随着智慧城市建设的不断发展得到越来越多的关注。现有的行人重识别方法仍然面临着成像视角变化、行人姿态变化、光线变化以及行人被遮挡等问题的挑战。为了有效解决以上问题,本文以深度卷积神经网络为基础,通过引入属性识别和注意机制来增强神经网络获得高层语义信息和空间信息的能力,从而提高整个行人重识别系统的性能。本文首先提出了融合属性识别的行人重识别
近年来,随着政府对农民专业合作社的大力扶持及持续推广,我国农民专业合作社已成为提高农户经济收入、加快农村经济发展、推动农业产业进步的重要农业现代化经营组织形式。中