表示学习又称表征学习（Representation learning）,是利用机器学习或数据挖掘算法获取实体或者关系的向量化表达。表示学习的目标是,通过机器学习将研究对象的语义信息表示为稠密低维实值向量。机器学习和神经网络领域顶尖专家Yoshua Bengio教授对表示学习的重要性进行了阐述:“机器学习算法的成功通常取决于数据表示,这是因为不同的数据表示可以或多或少的包含和隐藏数据变化背后的可解释因素”。近年来,关于表示学习的研究和应用正在不断深入和扩展。关于表示学习的文章在CVPR,NIPS,SIGKDD,AAAI等人工智能顶级会议和IEEE Transactions on Image Processing,IEEE Transactions on Geoscience and Remote Sensing等人工智能顶级期刊上都有发表。随着大数据时代的到来和技术的不断积累,如何更好的从数据中学习更高层次和更抽象的特征表示成为了新的研究热点。深度学习是指在多层神经网络上运用各种机器学习算法解决图像,文本等各种问题的算法集合,是目前效果最好也是研究和应用最广泛的方法。本文针对如何在表示学习的过程中保持数据向量的独立性,数据空间的分布相似性以及如何利用部分标签信息优化特征表示,使其更加鲁棒和抽象的问题,在不同的应用领域如迁移学习或多任务学习中,采用基于深度稀疏自编码的表示学习方法取得了良好的分类效果。我们的方法构建了统一的共享潜在特征空间,并使不同领域的数据分布在此空间上保持一致。然而,当面对的任务是较大的图像数据集时,如何在深度学习架构中保持输入数据的固有结构且避免海量数据标签的需求是一个需要解决的问题。为此,本文利用半监督学习的方法构建基于叠加卷积稀疏自编码机的表示学习模型,取得了良好的效果,具有重要的研究和应用价值。本文对基于深度学习的表示学习算法进行了研究,并提出了几种基于深度学习的表示学习算法。主要研究工作如下:（1）提出一个迁移学习领域的表示学习算法SRICA,该算法基于深度学习的方法,通过学习数据的抽象特征表示提高迁移性能。本项研究基于如下几个出发点:首先,由于要保持特征表示子空间中向量的独立性和稀疏性,因此传统的深度学习模型难以有效的完成这个目标。其次,由于迁移学习中源领域的标签信息可知,放弃标签信息优化特征会导致不能有效缩小领域差距。针对以上问题,通过引入重构独立成分分析算法并扩展至深度架构,将原始数据向量映射到共享潜在空间中,并通过源领域标签信息编码优化特征表示,最小化KL距离缩小源域和目标域在共享潜在空间中的距离,优化特征表示,提高迁移学习分类的准确性。实验结果表明:SRICA优于其他的对比方法。（2）提出一个能够在多任务间进行模型参数共享和特征表示学习的多任务学习方法DSML。由于多任务学习中每个任务模型存在通用参数和特有参数,因此仅仅基于特征表示优化的多任务学习方法难以有效的优化通用参数。针对这一问题,利用深度稀疏自编码的算法优化模型通用参数,保证了数据表示的稀疏性,从而有效的克服过拟合问题,提高了数据表示质量。并在参数调优的过程中,使用了更为简洁的模型,有效的降低了计算复杂度,提高了算法的效率。实验结果表明:DSML在图像分类任务上优于其他对比方法。（3）提出了一个半监督学习的基于卷积方法的表示学习算法SCSAE,该算法可以保持输入数据固有结构并优化表示特征。针对有监督深度学习算法如深度卷积神经网络需要大量有标记数据,以及无监督深度学习方法如自动编码机不能有效利用标签信息的问题,SCSAE通过带白化层的深度稀疏自编码机学习特征表示,使用softmax回归模型将标签编码优化,并通过卷积的方法优化特征表示,以学习更高层次的特征表示用以数据分类等任务。最后,通过系统的实验证实SCSAE在图像分类任务上能够获得出色的效果。