随着机器学习技术的发展,无监督表征学习已经成为目前最重要的研究方向之一。变分自编码模型（variational autoencoder,VAE）因其显式的生成模型建模方式,已经被视为无监督表征学习领域最具研究价值的模型之一。无监督聚类表征学习是表征学习领域一个重要研究分支。传统深度聚类表征学习方法更多关注通过深层神经网络去提取数据的隐层特征来提升聚类精度,较少对聚类任务中数据类别的确定性问题进行分析,同时缺乏对施加约束后的离散隐向量分布的分析。本文提出熵正则化下的变分深度生成聚类模型（variational deep generative clustering model under entropy regularization,VDGC-ER）,以变分自编码为基础框架,对其隐空间进行高斯混合先验建模,并以高斯混合中的离散隐向量作为类别向量。通过对离散隐向量引入样本熵正则化项增强预测聚类类别的区分度,同时对离散隐向量定义聚合样本熵正则化项以降低聚类不平衡、避免局部最优,并提升生成数据多样性。之后,采用蒙特卡洛采样及重参数方法估计VDGC-ER模型的优化目标,并利用随机梯度下降法求解模型参数。最后在MNIST,REUTERS,REUTERS-10K和HHAR数据集上设计了对比实验,验证了VDGC-ER模型不仅可以生成高质量的样本,而且可以显著提升聚类精度。无监督解耦表征学习是表征学习领域另一重要研究分支。传统解耦表征学习模型对数据隐空间的建模方式较为单一,而真实世界的数据集中往往存在不同数据的生成因子的物理含义完全不一致的情况,导致这些解耦表征模型能力受限,在复杂数据集上不具备鲁棒性。本文在VAE框架下提出基于结构化先验的VAE层次解耦模型（Hierarchical Disentanglement Method based on VAE with Structured Priors,SPHDVAE）。该方法首先使用高斯混合模型对隐向量先验建模,学习结构化的隐空间表征,实现粗粒度的解耦表征。随后,对隐空间的结构化表征引入正则项归纳偏好,在结构化表征的基础上实现细粒度的解耦表征,使SP-HDVAE模型整体上具备层次化解耦表征能力。最后,通过在d Sprites,MNIST,Fashion-MNIST,3dchair,celeb A与混合数据集上设计对比实验,验证SP-HDVAE模型具备优秀的解耦能力,且可以泛化到更加复杂的数据集上。