受限玻尔兹曼机特征表达研究

来源 :西南交通大学 | 被引量 : 0次 | 上传用户:congsun
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
受限玻尔兹曼机(Restricted Boltzmann Machine,RBM),作为一种基于能量的生成式模型,被广泛应用于数据降维、数据编码以及深层神经网络中。标准RBM的结构是一个由二进制类型的可视层节点和隐藏层节点组成的对称二部图,因此只能处理二进制输入数据。为了解决这一弊端,高斯-伯努利RBM(Gaussian–Bernoulli RBM,GRBM)被设计来处理实数型数据(如,图像数据)。与标准RBM不同的是,GRBM的可视层由实数型节点组成。得益于GRBM强大的无监督数据编码能力,GRBM常常被当做一种高效的无监督表征学习模型,许多基于GRBM的表征学习模型被相继提出。然而,现有的基于GRBM的表征学习模型都忽视了原始输入数据中的点间亲和度信息可以被用于提高模型在隐藏层所学数据表征的表达能力。本文提出了一种基于点间亲和度的GRBM模型(interpoint-Affinity-Based GRBM,ab GRBM)用于学习判别性数据表征。在所提出的ab GRBM模型中,原始数据中的点间亲和度信息被用于引导模型的无监督表征学习过程,从而可以促使模型在不依赖于任何外部数据标签的前提下,在隐藏层学习有利于聚类或分类任务的数据表征。首先,通过在原始GRBM目标函数中引入有关点间亲和度信息的正则项,构造了改进的、用于学习判别性表征的ab GRBM模型的目标函数。接着,通过求解ab GRBM目标函数,得到了模型参数的更新法则。最后,根据所求解的模型参数更新法则,设计了基于ab GRBM模型的表征学习算法流程。为了验证模型的有效性,提出了三种基于ab GRBM模型的无监督聚类算法ab GRBM-KM,ab GRBM-AP,ab GRBM-DP,以及一种基于ab GRBM模型的有监督分类算法ab GRBM-SVM。实验通过比较这四种算法与其他对比算法在多个Microsoft Research Asia Multimedia(MSRA-MM)图像数据集的性能表现,来评估ab GRBM模型在学习判别性数据表征上的有效性。实验结果表明,所提出的ab GRBM模型可以显著提升隐藏层所学数据表征的表达能力,同时也验证了原始数据中的点间亲和度信息的有效性。此外,为了进一步分析模型,实验还探讨了不同超参数设置对模型表征学习性能的影响。
其他文献
《周易》《中庸》作为中国哲学的两部重要代表作品,《周易》乃六经之首,《中庸》更是四书之一,备受历代学者的推崇。《周易》当为《中庸》思想的重要源泉之一,《中庸》则为《周易》哲学的主要方法论。《周易》与《中庸》究其根本均是为儒家核心思想“仁”服务的。《周易》形而上的“生生”之道乃是仁道之要,《中庸》“致中和,天地位焉,万物育焉”思想与《周易》“生生”之道相贯通,故而宋至明清以来的学者发明了以《中庸》诠
随着科技的进步,存储技术也在不断的发展,闪存因其高性能低成本而成为应用最广泛的非易失性存储器。随着制造工艺的进步,虽然闪存的容量不断增加、成本不断降低,但闪存中数据的可靠性越来越难以保证,这导致闪存在存储数据过程中出现错误,降低闪存芯片的使用寿命。为此,闪存中应用了纠错编码(Error-Correcting Codes,ECC)差错控制技术,以确保正确的对闪存进行写入和读取。本文首先对NAND闪存
在科技快速发展的现代化社会中,调制识别作为介于信号检测和信号解调的中间步骤,促使自动调制识别技术进一步发展的越显得更加重要。目前调制识别技术普遍存在着人工选取特征,而且在不同的通信系统难以统一特征的选取,带来处理效率低和识别模型鲁棒性差等问题。而随着大数据的驱动和深度学习技术的不断发展,借助深度学习模型特征提取和拟合的能力,能够促使调制识别领域的前进。因此,本文基于深度学习研究调制识别领域中合适的
随着互联网和计算机技术的迅猛发展,海量数据的安全存储、可靠计算、便捷共享等问题日益成为大众关注的焦点。云计算与传统的网络应用模式相比具有高灵活性、可扩展性和高性价比等特点,是继互联网技术之后的又一次技术革命。云存储作为其基本的服务之一,主要用于远程存储与数据管理,为用户节约了大量的数据管理时间和软硬件基础设施投资。因此,越来越多的用户倾向于将数据存储至第三方云存储平台。由于云存储中数据的管理权与所
随着社会信息化技术的发展,数据成为了推动发展的关键因素,利用数据共享来发掘数据背后的价值变得越来越重要。常见的数据共享模型是数据由数据提供者提供,代码由数据需求者提供,将代码与数据放在第三方平台上进行计算,但这种模型下存在几个问题,一是第三方平台一旦遭受攻击,数据与代码就存在被篡改或窃取的风险,二是如果数据被非法使用,无法进行问责。为了解决以上问题,本文提出了一种基于SGX(Software Gu
在经济水平稳步提升的过程中,居民所积累的财富也稳步增加,其投资理财需求不断扩大。私募基金是采用非公开的形式而面向特定的投资者筹集资金的一种基金,其高收益、高风险,且投资策略多种多样。从当前的财富管理市场来看,私募基金的重要性日益突出。私募基金的稳健发展对于高净值群体、机构投资者及整个资本市场来说,都具有深远意义。由于私募基金为一种新型基金,当前有关私募基金产品营销策略方面的研究非常少,营销方面的不
因特网的快速发展逐渐丰富了人们的通信方式,使得移动通信能够更加方便快捷地实现,同时无线通信的应用范围也越来越广。但是,无线通信中的广播特性使得所有用户都能够接收到信息发送方发出的消息,从而信息在传输过程中就非常容易被窃听者窃听,这就使得我们难以有效地保证信息在传输过程中的安全性,因此研究安全通信的方式具有重大的意义。而物理层安全技术的逐渐发展,从信息论角度提出了在物理层实现安全通信的方法。因此,物
身份认证技术是鉴别网络实体身份的技术,传统的身份认证主要分为线下基于证件的身份认证和中心化的电子身份认证,但是基于证件的身份认证要求认证者携带多种身份证件,为实际应用带来不便,同时存在认证者隐私信息泄露和信息过度出示等问题;中心化的电子身份认证中用户的身份数据保存于中心服务器,认证过程对认证中心的可信度依赖明显,因此认证中心容易因为拖库,分布式拒绝服务攻击等攻击导致用户隐私信息泄露或服务不可用。本
在我国经济步入新常态的大背景下,经济发展由高速向中高速增长转变,我国房地产行业亦步入调整整合期。目前,从国家制定了严格的房地产市场调控政策,严格限制房地产价格的过快上涨,多地政府也都实行了严格的限价限购政策。在此背景下,全国房地产项目由于品质、区位的不同受此政策的影响差别较大,有些项目在该政策下反而成为市场追捧的对象,有些项目却成为由原本的市场追逐对象转变为市场冷落的对象。XC房地产集团的YJFH
量子精密测量是近几年受到人们广泛关注的交叉学科。它是量子力学与度量学相互结合的产物,在度量学领域,任何一个度量系统首要的问题就是如何获得更高的测量精度。量子精密测量的核心是利用量子效应提升度量系统的测量精度,是量子计算、航空航天、雷达制导等领域的核心技术。光学干涉仪是一种非常成熟的用于精密测量的仪器,结合量子效应以及光学干涉仪成为了量子精密测量领域的常用方案,例如多次探测到引力波事件的美国LIGO