基于残差的矩阵乘积态及其在机器学习中的应用

来源 :浙江师范大学 | 被引量 : 0次 | 上传用户:dmj_66666
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
张量网络最初被用于解决多体物理中的指数发散问题,它能够有效地将指数维希尔伯特空间的波函数用多项式复杂度的参数表示。得益于其对指数复杂问题的处理能力,近年来张量网络方法作为一种新兴的机器学习模型在人工智能领域蓬勃发展。作为一种跨学科的方法,张量网络可以运用于传统机器学习、量子启发式机器学习以及量子计算。因此,对于张量网络的研究和发展有助于联系量子理论和人工智能领域。尽管张量网络方法在人工智能领域具有广阔的发展空间,但是现阶段其在图像识别中的表现却不如神经网络。本文将一些神经网络中广泛运用的概念和工具引入张量网络,以提升张量网络方法在机器学习中的表现。这其中包括层级结构、自适应矩估计(Adam)优化器、残差结构和单位参数化条件等。我们将看到,层级结构是使用神经网络结构改良张量网络的基础,Adam优化器比密度矩阵重整化群算法达到的精度更高,残差结构赋予了模型新的可解释性,单位参数化条件给出了网络稳定训练的参数区间。我们的研究衍生出一种新的张量网络模型——残差矩阵乘积态,它可以看作是结构最简单的张量网络即矩阵乘积态的改良版本。我们进一步讨论了线性和非线性的残差矩阵乘积态的性质。我们将线性的模型命名为精简残差矩阵乘积态,它可以和矩阵乘积态相互转化。在参数数量不变的情况下,其达到和矩阵乘积态一样的图像识别精度。而在参数量减半的情形下,其精度略低于矩阵乘积态。这启发我们发现矩阵乘积态作为机器学习模型的参数冗余性。非线性的模型被命名为激活残差矩阵乘积态。它引入了神经网络中的激活函数和dropout层结构,在同等参数量前提下,其图像识别精度超过了目前所有的张量网络模型,并超过了基于卷积神经网络技术的Alex网络(Alex Net)。因此精简残差矩阵乘积态和激活残差矩阵乘积态从不同层面改良了矩阵乘积态。我们的工作提供了新的改良张量网络的思路,并帮助我们理解张量网络和神经网络的工作机制,及进一步对两者进行改良。
其他文献
近年来,大气污染越来越严重,对大气的监测变得尤为重要,而激光雷达作为大气监测的重要工具,发展越来越迅速。随着激光雷达应用领域的推广,其对光源的要求也越来越严格。希望激光光源的输出功率高、光束质量好、使用寿命长且工作波长要处于人眼安全波段,1.6微米铒镱共掺光纤激光器符合这些特点。首先,铒镱共掺光纤的工作波段在1535 nm至1620 nm,1.6微米属于该波段;其次,1.6微米是人眼安全波段,对烟
本文主要研究了一维p波超导Aubry-Andre-Harper(AAH)模型,并主要讨论了其中的两种非平衡动力学行为。我们先分析系统的相变类型和所属普适类,然后验证临界点附近的慢淬火非平衡动力学行为。其次,我们还研究系统参数突然变化的动力学,并解析研究V=0和V=∞两种极限情况下的系统,说明在不同相之间突然淬火会出现动力学量子相变。此外,我们通过数值方法系统研究上述两种极限之间的淬火动力学。通过细
神经元群体通过训练神经元间的突触权重达到学习的目的,进而形成记忆.本文研究三种不同模型下神经元群体的训练与学习,并探讨影响突触可塑性构建的长期记忆的因素.第一部分构建简单感知器模型,通过数值模拟得到以下结论:(ⅰ)在一定参数范围内,学习速率越大,整个学习过程中所需步数越少;(ⅱ)网络对字母的训练与学习是成功的.随后利用Hopfield模型和递归最小二乘法(RLS)训练神经元网络,使其对常值函数进行
孤子是非线性系统中最基本的一类激发,具有稳定性和局域性。人们已经在不同类型的玻色-爱因斯坦凝聚体(BEC)中成功制备了孤子,包括玻色原子气体、光学微腔中的激子极化激元系统等。近年来随着实验技术的发展,对这些系统进行非平衡调控的研究,例如对相互作用强度进行突然淬火,发现了许多超越平衡态的新奇普适现象,因而成为研究热点。而对于孤子在实验上的非平衡态调控仍在探索阶段,需要理论上的理解与支撑。在本文中,我
2017年8月31日,南京成为中国首座且唯一一座国际和平城市,推动了南京城市身份从殉难城市向和平城市的转变,标志着南京大屠杀记忆从民族国家记忆向世界和平记忆的转变。这种转变不仅意味着记忆叙事的扩展,参与群体的扩大,纪念活动的升级;也意味着城市纪念性空间建设步入新的发展阶段。当下南京已经建成了以南京大屠杀纪念馆为核心、纪念碑及丛葬地为辅助的记忆空间系统,讲述民族苦难、控诉大屠杀暴行。为进一步推进和平
植被物候可以记录植物生长季的开始(Start of Growing Season,SOS)和生长季的结束(End of Growing Season,EOS)以及生长季长度(Length of Growing Season,LOS)等植物季节性变化,在反映植物光合作用和陆地生态系统对气候变化的响应中起着重要作用。然而目前关于物候对气候因素的响应的研究不够深入,而且物候对光合能力的影响是一个值得探讨
森林生态系统在应对CO2升高、气候变暖、大气氮沉降、生物多样性减少等全球变化问题中扮演着重要的角色。东亚季风区适宜的雨热状况,为树木生长和碳固定提供了较好的条件。开展亚热带森林生态系统生物化学过程的研究,对阐明中国陆地生态系统碳源汇变化特征及其驱动机制,以及准确估算中国陆地生态系统碳收支具有重要意义。虽然冠层是进行光合作用的主要场所,但是叶片光合性状在冠层垂直梯度上存在空间异质性。目前,针对森林冠
总初级生产力(Gross Primary Productivity,GPP)是陆地植物通过光合作用吸收的碳量,是陆地生物圈与大气之间主要的CO2通量,在全球碳循环和气候变化中发挥着重要作用。因此准确量化区域GPP对于理解陆地生态系统和大气的交互作用至关重要。近十年来,由于植物叶绿素荧光与光合作用在生理上的紧密联系,基于卫星反演的日光诱导叶绿素荧光(Sun-Induced chlorophyll F
费托合成(Fischer-Tropsch synthesis)作为多相催化中最重要的反应之一受到研究者的广泛关注。然而,费托反应过程极其复杂,产物分布广泛,这导致了无论是在工业生产中还是基础研究中都具备相当的难度,成为科学研究的一大难点。钴基催化剂由于具有优异的催化性能和较低的经济成本,是费托合成反应中极具前景的催化剂。其中,Co(0001)单晶因其良好的热稳定性且容易制得,并具有良好的费托活性,
机器学习算法是计算机自动分析已有数据获得规律,并用所获规律进行判断决策的算法。机器学习算法包含非监督学习算法和监督学习算法,比如,主成分分析算法是一种简单的非监督学习算法,神经网络则是一种常用的监督学习算法。近年来,机器学习算法开始被引入到物理学研究中。在量子关联体系中,机器学习算法被用于刻画量子多体波函数;加速现有的量子多体算法,发展新的量子多体算法;识别不同的相及相变。本论文中,我们将机器学习