回归模型是一种常用于数据预测的数学模型,其在目标检测、人脸识别和行为识别等领域都有广泛的应用。传统回归模型可以在少量样本上拟合相对简单的非线性函数。但当前回归任务需要面临复杂的问题和处理大量的数据,传统回归模型在建立复杂映射关系和提取高层数据特征等方面都面临巨大挑战。而深度神经网络作为一种近期兴起的技术,具有从大量数据中自动地学习复杂映射关系和高层数据特征的能力。因此,采用基于深度神经网络的回归模型能够有效地减少上述问题对数据预测的影响,提高回归的准确度。本文围绕基于深度神经网络的回归模型开展两个方面的研究,分别为基于深度神经网络构造的回归模型研究和基于深度神经网络特征的回归模型研究,以克服传统回归模型在建立复杂映射关系和提取高层数据特征方面存在的局限性。由于图像中头部姿态估计是计算机视觉领域中典型的回归问题,视频中人体行为分类是计算机视觉中广义的回归问题。因此,本文针对这两个不同任务设计不同的回归模型。这样不仅可以提高头部姿态估计和人体行为分类的准确度,还可以获得构建基于深度神经网络回归模型的方法。本文的主要研究内容如下:1)为了克服传统头部姿态估计方法对姿态初始值和人脸特征点准确定位的依赖问题,本文提出了一种基于级联深度神经网络的头部姿态估计方法。该方法采用基于深度神经网络的级联框架和多层次的回归算法,逐步地对头部姿态进行估计。首先,构建一种级联深度神经网络模型,逐层地估计人脸图像的初始姿态和姿态偏差值。之后,采用一种多层回归算法,根据全局网络层的初始姿态和局部网络层的偏差值,由粗到细地微调头部姿态。实验结果表明,在无需姿态初始值和人脸特征点准确定位的情况下,该方法依然能够较好地进行头部姿态估计。2)为了对头部姿态多个自由度之间的关联性进行建模,本文提出了一种基于尺度不变约束深度神经网络的头部姿态估计方法。该方法根据不同姿态下脸部变化的规律,构建基于尺度不变约束深度神经网络的回归模型,进一步降低头部姿态估计的平均绝对误差。首先,分层地提取人脸图像的全局特征和局部特征。然后,通过全局网络层和多个局部网络层分别估计初始姿态和姿态偏差值。最后,根据姿态偏差不断地调整初始姿态,以获得最终头部姿态。另外,分析不同个体不同姿态下和相同个体不同姿态下人脸图像的变化特点,为基于尺度不变约束深度神经网络的估计方法提供经验依据。实验结果表明,该模型具有较好的泛化能力,不但可以实现头部姿态单个自由度的估计,还可以实现头部姿态多个自由度的估计。并且,该方法比基于级联深度神经网络的头部姿态估计方法取得更好的估计结果,但是计算时间较长。因此,该方法适用于速度要求一般,准确率要求稍高的场景中。3)为了克服现有头部姿态估计方法在训练数据不充分、不完整情况下的估计效果不佳问题,本文提出了一种基于姿态敏感多变量标记分布学习的头部姿态估计方法。该方法采用深度神经网络提取的鲁棒姿态特征,构建一种基于姿态敏感多变量标记分布学习的头部姿态估计模型实现头部姿态估计。首先,利用深度神经网络提取人脸图像的鲁棒姿态征。之后,采用多变量标记分布学习算法预测姿态特征的标记分布,并根据该分布计算最终的头部姿态。在多变量标记分布学习算法中,为每个姿态标记一个分布来描述每个姿态标签对单张人脸图像的重要程度,在一定程度上缓解了样本不充足、不充分的问题。实验结果表明,该方法在训练样本不充分和不均衡的情况下实现不同头部姿态的估计。4)为了充分利用邻近区域先验知识并使行为表征有较明确的含义,本文提出一种基于递归神经网络和两阶段回归的人体行为分类方法。该方法利用回声状态网络提取能刻画行为序列几何结构的局部特征,并将邻近区域的先验知识融入到两阶段回归模型中,实现人体行为的分类。首先,利用回声状态网络获得行为骨架数据关节点每一维坐标轨迹的概念子。其次,对同一行为序列的概念子进行编码,计算行为序列的局部特征。然后,利用第一阶段网络预测行为序的融合特征。最后,根据融合特征运用第二阶段回归网络实现人体行为的精确分类。实验结果表明,在较复杂场景中,该算法仍然能有效地进行行为分类。