可解释深度学习中高维概率分布转换算法研究

来源 :大连理工大学 | 被引量 : 0次 | 上传用户:fish5191418
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
当下,深度学习可解释性是最前沿且重要的科研难题之一。可解释深度学习中许多问题都可以归结为高维概率分布转换,如工程中应用广泛的生成模型、领域自适应等。目前可以计算高维概率分布转换的算法比较缺乏,基于切片最优传输的方法是一种可行思路,但尚未有人基于该理论提供有效算法。本文创新之处是第一次实现了高维切片最优传输算法,为可解释深度学习提供了一种高维全离散型概率分布转换的可行算法。首先,通过对切片最优传输的理论研究,明确了本文研究范围和对象。然后,按照一维和高维分别阐述了本文算法原理。接着,给出了算法思路,即通过将源分布和目标分布同时乘以高维旋转矩阵来不断变换坐标系,将高维分布投影成多个一维分布,在每个一维分布上做最优传输映射,将源分布的一维投影分布转换为目标分布的一维投影分布,迭代足够多次数后,该变换将逼近高维的最优传输分布,即完成了高维概率分布转换。之后,通过Python语言实现了算法,使用CUDA并行加速求解。最后,按照二维、三维和高维展示了实验结果,并分析了算法的计算复杂度、稳定性和收敛性。实验结果表明,本文算法切实有效,可以处理高维的概率分布转换,为可解释深度学习提供了有效算法。计算复杂度与源分布或目标分布本身的特性有关,越复杂的分布,则概率分布转换的难度越大。
其他文献
随着自然语言处理的不断发展,实体关系抽取作为信息抽取中的一个重要子任务受到许多研究者的关注。实体关系抽取可以分为开放域实体关系抽取和限定域实体关系抽取。限定域实
目前,随着科技的发展和普及,学习形式也越来越多样化。在线学习已经成为了一种重要的学习方式,并且每天都有大量的学习视频上传到网上。演讲视频是其中一种非常重要的学习资料,但是这些视频都未结构化,如果用户想要了解演讲视频中某个具体的知识点,他们往往要浏览整个视频才能找到。这种学习方式会大大降低学习者的学习效率。因此,很有必要利用演讲视频摘要技术自动化地提取演讲视频中代表性的知识信息。目前,很大一部分录制
烂木沟金矿床位于秦岭造山带南秦岭构造亚带碌曲—旬阳印支褶皱带中段,属秦岭板块南秦岭逆冲推覆系构造岩片。前人对烂木沟地区以西成矿带金矿地质特征、控矿因素、矿床成因的研究较多,观点各异,但对烂木沟地区的研究较少,缺乏系统分析。本文综合分析了区域成矿背景,对烂木沟金矿床进行了详细解剖。通过对矿区地质调查、薄片显微观察、矿床地球化学及同位素年代学等方面的研究,查明了矿体分布特征、矿区控矿构造、可能的成矿物
在气候变暖的大背景下,多数陆地地区的极端气候事件频率和强度都呈现上升趋势,研究长江流域极端降水的时空变化特征及区域频率,可以为流域内的防洪减灾工作提供参考。本文基
力学反问题具有广泛的工程背景和学术价值。力学反问题主要包括确定未知物性参数、识别边界几何形状、求解未知边界条件和缺陷检测等几种反问题。这几类问题一般是不满足适定
正交频分复用(OFDM)技术自上世纪六十年代诞生于美国贝尔实验室,现已广泛运用于有线和无线通信中并成为了长期演进技术升级版(LTE-A)的标准。而将OFDM技术运用于光网络,并得益于
联络口译是应用最为广泛的一种口译形式,与会议口译相比,联络口译正式性相对较低,因此也更为灵活。在联络口译过程中,译员处理信息时往往会发挥自身主观能动性。然而,在口译实践中,译员可能会质疑这一做法是否符合译员职业道德。产生质疑的原因在于,传统的译员角色要求译员遵守绝对忠实的原则。而随着口译相关研究的发展,译员逐渐找到了自身作为“人”而非“机器”的角色。在这些角色当中,基于传播学“把关人”理论而出现的
随着现代计算机视觉技术的不断发展和硬件计算能力的不断提高,人脸识别相比于指纹识别等其他生物特征识别技术,由于其非侵扰、高效率、友好性等诸多优势,已广泛应用于电子商
WiFi技术得到广泛应用,除了作为方便的短距离无线通信方式,还可以用来实现神奇的无线感知。近年来,基于商用WiFi设备获取的信道状态信息(Channel State Information,CSI)的各
近年来,SQL注入漏洞一直被国际OWASP(Open Web Application Security Project)组织列为Web应用高危安全漏洞之一。面向SQL注入漏洞检测的恶意数据生成成为学术界和产业界研究