【摘 要】
:
稀疏问题是在现实生活应用十分广泛的一类问题,已经有很多解决各种实际应用问题中稀疏问题的传统优化算法以及深度网络的方法,例如,图像去噪、图像修复、图像超分辨等等。传统优化算法具有高度可解释性但低性能的特点,而一般的深度网络方法具有高性能但其可解释性却较为缺乏。近年来,深度展开网络由于能够有效结合传统优化以及深度网络的优点,逐渐成为关注度高的一类方法。在传统优化启发下,本文主要从以下三个方面对求解稀疏
论文部分内容阅读
稀疏问题是在现实生活应用十分广泛的一类问题,已经有很多解决各种实际应用问题中稀疏问题的传统优化算法以及深度网络的方法,例如,图像去噪、图像修复、图像超分辨等等。传统优化算法具有高度可解释性但低性能的特点,而一般的深度网络方法具有高性能但其可解释性却较为缺乏。近年来,深度展开网络由于能够有效结合传统优化以及深度网络的优点,逐渐成为关注度高的一类方法。在传统优化启发下,本文主要从以下三个方面对求解稀疏问题的深度展开网络进行研究:1.虽然近年来深度展开网络的研究发展十分迅速,有一系列相关的深度展开网络被提出,但通过整理调研发现,目前现有的大部分深度展开网络都是类似层层串联的简单结构。因此,受传统优化算法,优化梯度方法OGM的启发,本文将深入分析后得到的传统优化算法展开,提出了创新的具有稠密连接的深度展开网络DLISTA,并将其与深度网络中经典的Dense Net建立联系,为原本缺乏可解释性的Dense Net提供一定的可解释性。此外,为了得到具有良好性能以及相对简化的结构的网络,本文也提出了分块结构的DBLISTA网络,并通过实验验证了其解决稀疏问题的高效性能。2.深度展开网络能够为深度网络提供可解释性,而常微分方程也常被用于解释深度网络。本文对深度展开网络进行推导,将其改写为求解一阶常微分方程的欧拉数值方法的一步,成功地建立起深度展开网络与常微分方程的系统性联系。此外,通过引入经典的求解常微分方程的高阶数值方法―线性多步法,本文提出一个可以应用于任意单变量深度展开网络的高阶数值架构HNO,并将这一创新的架构应用于一些经典的深度展开网络中,提出了一系列创新的、具有良好网络性能的深度展开网络,并从理论和实际实验多个方面验证了HNO能够对现有的深度展开网络进行提升。3.在深度展开网络中,阈值函数也起到重要作用。目前大多数深度展开网络中使用的阈值函数是求解l1范数正则问题的软阈值函数。但这一函数并不一定能够确保解的稀疏性。因此,本文引入非凸的l范数正则,并基于这一正则函数设计了一种自适应求解阈值函数中的阈值的方法PAT。此外,为了进一步增进提出的自适应阈值方法求解阈值的精确度,本文也为PAT方法提出两个不同的设置超参数的策略,并提出两个改进版本的自适应阈值方法。最后,本文通过大量的多种类别的实验验证了所提出的一系列自适应阈值方法的有效性。
其他文献
本文是一篇关于专利翻译实践的报告。伴随着现代科技发展脚步的加快,科技翻译已然成为国际间相互交流的一种重要内容。因此,科技翻译特别是科技日语翻译对更好地学习和引进外国先进技术起到重要作用。鉴于专利翻译具有清晰的逻辑结构,准确的表达方式,以及独特的专业术语,翻译时不仅仅要注重语句的表达,对原文的专业知识背景也需要有一定的了解。因此,我们有必要对专利项目翻译进行深入的研究与探讨。本文是根据延边汇延翻译咨
给定一个视频和一个视频相关的自然语言问题,视频问答任务输出问题的答案。结合计算机视觉和自然语言处理的视频问答任务接近通用人工智能,有很高的研究价值和广阔的应用场景。视频中不同对象之间的关系所构成的结构信息非常复杂,制约了理解和推理,特征的融合与交互是视频问答的关键。得益于图神经网络在结构信息上的表征能力,跨模态交互可以被建模成图神经网络的更新。随着多模态融合技术的发展,基于Transformer的
当前我们国家已经进入中国特色社会主义新时代,中国梦翻开了新的篇章,科学技术的发展交流,已经成为大国之间交流必不可少的话题。国家要强大,要发展,就离不开科学技术的支持。日本的科学技术能力历来领先于世界发展水平,笔者选择专利文献《固定ガスメータの判別システム》进行翻译实践,希望能够更好地促进中日两国之间的科技文化交流,提高我国科学技术水平。本报告共分为五部分。第一部分笔者对实践的具体情况和翻译文本的文
随着国际化交流的日益发展,科学技术的飞速进步,和对外交流程度的日益加深,翻译已成为在社交,科技,知识全球化共享的必要推进方式之一。语言服务翻译领域也因而进一步扩大,所涉及的翻译内容也随之呈现多样化。随着翻译量的巨幅增长,翻译环境的改变,翻译人员的个人能力及综合素质也要与之全面提升,翻译质量的标准和规定也更加细化和严格。那么本次翻译由横河信息系统(大连)有限公司委托,由笔者参与的9人组成的小型翻译团
随着遥感技术相关领域的飞速发展,遥感影像的应用需求也日益增加。遥感图像语义分割,作为一项理解遥感影像的关键视觉任务,已广泛应用于城市规划、智能农业、环境保护等领域。近年来,深度学习的快速发展促进了遥感图像语义分割性能的不断提升,但由于遥感图像数据本身具有图像尺度大、成像范围广、背景信息复杂多变的特点,现有方法仍然在分割多尺度物体时面临分割精度低的挑战。本文针对这些挑战,对遥感图像语义分割展开了研究
无人机可以为深入理解和分析行人行为供独特视角,基于无人机影像的行人定位与识别已经成为无人机图像处理的热门研究领域。而人作为社会活动和军事活动的主体,对其在无人机视角下进行准确且快速的检测与识别具有重要的实用价值。针对无人机场景下的行人目标具有密集、遮挡严重、特征模糊、尺度变化大、中小目标多等特点,并考虑到实际应用的高效性,本文对现有的通用目标检测方法进行了深入探索,并出了一系列高效的基于深度卷积神
中国作为发展中国家的代表性国家,致力于从“高速”经济到“质量”经济的转型,从而慢慢浮现出“一味地模仿只能跟在其他发达国家的后面,无法将其超越”的客观问题。这一转型,引起了许多公司与个人对“知识产权”也就是“专利”的重视。作为经济高度发达的日本,也作为专利大国,不少中国企业在借鉴日本专利,或在日本注册专利时必须借助“翻译”手段,将两国语言互相转换,以便达到更好的借鉴或发生不必要的产权纠纷,促使专利工
随着日本国内人工成本的不断上涨,大部分日本IT企业都开始了信息系统开发业务的海外外包,其中,因人工成本相对偏低且同样是汉字文化圈的中国逐渐成为了主要海外外包对象国。在强烈的外包业务需求下,作为委托方和承包方进行沟通交流的主要媒介的信息系统开发相关文档的翻译需求也不断扩大。本翻译实践报告是根据笔者进行日本信息技术企业的信息系统开发相关文档的日译汉翻译的基础之上撰写而成的。翻译内容是从信息系统开发到正
近年来,由于对自动驾驶和视觉监控的需求,多传感器融合使用受到了很大关注。除了传统的RGB之外,红外传感器以及一些激光雷达等深度传感器也被广泛使用,准确的深度图的采集对于自动驾驶至关重要。目前的深度获取方法多种多样,其中一种方法是使用双目立体匹配预测视差,视差可以通过焦距转换为深度,这样的深度图可以大致得到场景的三维信息,但其精度存在误差。另一种方法是直接使用Li DAR相机捕获精度高但由于扫描通道
随着科学技术和电器产业的迅猛发展,新的科技发明层出不穷,各国之间的相互交流也日益频繁。因此,科技专利的翻译是引进和借鉴国外先进技术的主要内容和重要手段。本稿是一篇关于《流量测量装置》电器专利发明的日汉翻译报告,主要包括翻译项目的介绍,翻译过程,实例分析,总结四个部分。第一部分对该翻译项目的简单介绍,第二部分为翻译过程中所进行的工作,包括专利翻译时的注意事项和背景知识、理论框架、翻译过程、翻译后的工