深度学习(Deep Learning)是近年来新兴的一门机器学习子领域。该领域的研究内容主要是探讨包含多层结点的人工神经网络的建模和学习问题。这种‘‘深度神经网络’’由于在信息处理方式上更加类似于人类大脑,因此被认为有希望更好地解决一些复杂的智能问题。目前最有效的深度学习算法是将一个深度神经网络视为多个限制玻尔兹曼机(Restricted Boltzmann Machine或RBM)的层叠进行逐层学习。由于RBM相对比较容易学习,因此这种算法克服了直接对多层网络进行训练的效率问题。可见,RBM的机器学习问题在深度学习领域占据着核心地位。在本课题中,我们将进一步探讨RBM的学习问题。本文的研究内容和创新性工作主要包括:(1)总结了近年来兴起的各种RBM学习算法,并发现马尔可夫链蒙特卡罗方法(MCMC)对提升RBM学习效果具有广阔的前景;(2)我们探讨了现有方法的主要缺点——仅仅将MCMC作为一个工具使用,并没有充分利用机器学习过程的特点反过来加强MCMC算法;(3)我们提出了一种MCMC和机器学习相互利用的思想,并设计了一种针对机器学习的MCMC算法;(4)我们的实验证明该算法在传统的效率、似然度评价指标上明显优于现有的方法;(5)我们提出了包括模式集内容和收敛性等多项独创的新指标。随着深度学习领域的兴起,基于MCMC的机器学习算法将变得越来越重要。随着MCMC和机器学习联系更加紧密,针对机器学习而专门设计的MCMC算法将成为未来的一个研究热点。而我们的工作首次提出和验证了这个思想,并证明了它的潜力,为这个新方向探索了一条可行的道路。