论文部分内容阅读
概率统计模型由于其完备的理论体系而备受人们青睐,而深度学习则是凭借其良好的性能被人广泛的应用,如何将两者结合在一起一直是一个人们探索的方向。本文主要从概率统计模型出发,介绍了深度学习模型构造的几种方式,引入了一种深度神经网络跟概率统计模型结合得到的更普遍的、深度、有向生成模型,并将其在数据仿真、数据可视化和图像超分辨的性能进行了介绍。各部分的主要内容概括如下:第一部分,介绍了概率估计的几种方法和深度学习用到的几种神经网络。首先,我们介绍了概率估计中三种估计方法,并在混合高斯模型的上对三种方法进行比较;然后介绍了几种常见的神经网络,并给出了一些构建模型和优化模型的技巧;最后对这两种方式作了比较,总结了一下两者的异同点。第二部分,介绍了一种深度神经网络跟概率统计相结合得到的变分自编码模型(variational autoencoder,VAE)。首先介绍了VAE模型的基本原理,然后就模型的求解过程用到的重参技巧进行了描述,通过引入的重参技术巧妙地解决了模型的训练问题,最后对VAE模型与自动编码器(autoencoder,AE)模型进行了多方面的比较,就它们的异同点进行了分析。第三部分,基于VAE模型进行了几个实际的应用实验。首先,第一个应用是基于VAE模型的数据仿真,通过在多个数据集上进行数据仿真实验,证明了VAE模型在数据仿真应用上的优越性,分析了这种优越性的内在原因;然后,对VAE模型在数据可视化领域作了尝试,对比了其他几种方法,分析了VAE模型在图像可视化的特点;最后,提出了一种基于VAE方法的图像超分辨模型,在基于VAE方法的图像超分辨模型中,我们用了两个基本的VAE模型作为最终模型的参数初始化,并在低分辨图像特征域和高分辨图像特征域之间建立起一个映射,最终构建了一个低分辨图像到高分辨图像的端到端的模型。