【摘 要】
：
针对基于深度卷积神经网络的图像分类模型的可解释性问题,通过评估模型特征空间的潜在可表示性,提出一种用于改善理解模型特征空间的可视化方法.给定任何已训练的深度卷积网
【机 构】
：
中国科学院成都计算机应用研究所,中国科学院大学
论文部分内容阅读
针对基于深度卷积神经网络的图像分类模型的可解释性问题,通过评估模型特征空间的潜在可表示性,提出一种用于改善理解模型特征空间的可视化方法.给定任何已训练的深度卷积网络模型,所提出的方法在依据原输入图像使得模型类别得分激活最大化时,首先对反向传播的梯度进行归一化操作,然后采用带动量的随机梯度上升训练策略,反向回传修改原输入图像.引入了通过激活最大化获得的图像可解释性的正则化方法,常规正则化技术不能主动调整模型特征空间的潜在可表示性,结合现有正则化方法提出空间金字塔分解方法,利用构建多层拉普拉斯金字塔主动提升目标图像特征空间的低频分量,结合多层高斯金字塔调整其特征空间的高频分量得到较优可视化效果.通过限制可视化区域,提出利用类别显著性激活图技术加以压制上下文无关信息,可进一步改善可视化效果.对模型学习到的不同类别和卷积层中单独的神经元进行合成可视化实验,实验结果表明提出的方法在不同的深度模型和不同的可视化任务中均能取得较优的可视化效果.
其他文献
<正>患者,男,21岁,学生。因纳差、乏力1周,于2011年8月11日入住当地医院血液科。入院时无畏寒、发热,无咳嗽、咳痰。入院后即出现寒战、高热、咳嗽、咳痰。查血常规WBC 0.95
4月下旬以来,国内钢价涨势趋于平缓,市场呈波动运行态势。钢铁行业要密切关注国家宏观经济政策变化,坚持以销定产方针;加大节能减排力度,调整产品结构;加强降本增效工作,提高
$T南京城墙是我国目前留存规模最大的京城城墙。关于南京城墙的长度，600年来仅官方公布的不同数据就达十余种之多。$$ 2005年初，南京市文物局申报“南京明城墙科学保护与抢险
目的建立高效液相色谱法检查右旋糖酐40氯化钠注射液中5-羟甲基糠醛限量。方法采用十八烷基硅烷键合硅胶柱(250mm×4.6mm,5μm);以1g.L-1磷酸溶液-甲醇(90︰10)为流动相;流速为
【本刊讯】2010年12月6日，铁江现货有限公司（IRC）与中国电工设备总公司签订工程、采购及建设合同。根据该合同，中国电工设备总公司将担任设计及建设铁江现货有限公司K＆S采矿业务一
2008年12月20日，百色市重点工业企业百色融达铜业有限责任公司恢复生产。该公司是百色市引进的一家外来铜冶炼企业，生产规模为年产粗铜3万吨，阳极板5万吨，硫酸7万吨，年产值可达15
背景和目的膀胱癌是泌尿系统最常见的恶性肿瘤,而且近年来的发病率有增长趋势。膀胱癌的组织病理学类型中以移行细胞癌(bladder transitional cell carcinoma, BTCC)为主,约
党校行政管理是党校全面科学发展的重要保障;是党校提高教学水平的基础支撑;是党校的一项主要的、高难度的管理系统。时代的不断进步,信息化社会的高速发展,为党校的深化发展
This study proposed a decomposition method based on the normalized quadratic shadow unit cost function to explore the determinants of the change in energy inten
膜技术与生化法相联合的方式越来越多的应用于渗滤液的处理,处理过程中会产生可生化性低、有机物浓度高、色度高、盐度高的浓缩液,膜滤浓缩液成为处理的难点和焦点。新型硫酸