在机器学习中,人们期望神经网络对微小输入扰动也应有较小的输出扰动,说明网络具有较高的鲁棒性,也反映了网络具有较高的泛化能力。然而,目前的自动编码器和宽度网络容易受到具有微小扰动或噪声输入数据的影响。另外,利用与训练样本相差很远的未见样本来衡量网络的泛化能力可能会被误导,即从全局输入空间来计算网络的泛化误差并不合理,所以本文引入局部随机敏感度（Localized Stochastic Sensitivity,简称LSS）,以衡量网络对训练样本和位于其邻域内的未见样本之间输出值差异平方的期望,推导出一套高泛化自动编码器的训练方法,并进一步将其进行深度与宽度的拓展,提出基于局部随机敏感度的深度自动编码器与宽度网络训练方法。这些理论方法的提出旨在通过最小化局部随机敏感度来提高网络对具有微小扰动输入的鲁棒性和泛化能力,为目前神经网络泛化能力的研究提供重要的理论和技术支持。本文的主要研究内容和主要创新点归纳如下:1)针对自动编码器对具有微小扰动输入的敏感度较高,从而导致网络的鲁棒性和泛化能力较差的问题,本文提出一种基于局部随机敏感度的自动编码器（Localized Stochastic Sensitive Autoencoder,简称LiSSA）算法。通过引入局部随机敏感度,LiSSA降低了对与训练样本有微小差异（扰动）的未见样本的敏感度并提高了网络的泛化能力和鲁棒性。在三十个基准数据集上的大量实验结果表明,LiSSA在图像重构和分类任务上明显优于几种经典和最近较流行的自动编码器算法。此外,在三个基于人体骨骼动作识别数据集上的实验结果也证明了LiSSA具有良好的性能。2)在局部随机敏感度理论的基础上,本文将其进行深度拓展。本文提出了一种基于局部随机敏感度的深度自动编码器（Deep Autoencoder with Localized Stochastic Sensitivity,简称D-LiSSA）算法。D-LiSSA通过最小化局部泛化误差（包括训练均方误差和局部随机敏感度）,从训练样本邻域的未见样本中学习信息丰富的隐藏表示来加强网络在分类和回归预测任务上的鲁棒性和泛化能力。此外,本文在六个基准图像数据集和四个来自欧洲电力系统ENTSO-E所提供的真实公共电力负荷数据上对D-LiSSA的性能进行评估。与经典和最新算法的大量实验结果表明,D-LiSSA不论是对图像分类任务还是对真实时序数据预测任务都获得了最优的结果,由此证明D-LiSSA具有良好的泛化能力和鲁棒性。3)本文将局部随机敏感度理论进行了宽度拓展。针对宽度网络在面对复杂噪声环境导致性能下降这一问题,本文将局部随机敏感度引入宽度网络,提出一种基于局部随机敏感度的宽度网络（Broad Network based on Localized Stochastic Sensitivity,简称BASS）算法,增强了宽度网络对噪声和扰动数据的鲁棒性。同时本文给出了三种增量学习算法,以确保网络在有新的样本到达或网络被认为需要扩展时可以快速构建,而不必再次对整个网络进行重新训练。在回归和分类任务上的实验证明了BASS方法的良好性能。