公共场所的监控视频中经常会出现密集的人群,从中检测出异常行为对保障公共安全有着重大意义。基于视觉技术的异常检测方法作为一种无接触也无需监视对象主动配合的异常检测方案,越来越受到人们的关注。常见的异常检测方法通常利用正常样本训练卷积自动编码器,然后根据训练后的自动编码器中测试样本的重构误差的大小来判断异常。然而,由于自动编码器具有较强的泛化能力,对于异常情况有时仍然能够很好地重构。最近,一些研究人员在正常情况下构建记忆模块,并在推理过程中使用这些正常记忆项来重构测试样本,以增加异常情况的重构误差,从而提高对异常的判别能力。然而,在实践中,利用记忆项重构的正常样本的误差也经常增加,这使得区分正常和异常情况仍然很困难。针对现有方法存在的不足,本文开展了如下研究:（1）提出了基于注意力U-Net的异常检测方法。通过引入注意力机制,从一个新的角度来缓解自动编码器泛化能力过强的问题。该网络在U-Net网络的跳跃连接前增加了注意力模块,使模型更关注前景目标,训练过程中使正常前景目标学习得更充分,所以在测试中利用连续多个视频帧对频繁出现的正常目标能够实现更准确的预测,从而使极少出现的异常目标因为预测误差较大而得以凸显。在真实场景的监控视频UCSD数据集、CUHK Avenue数据集和ShanghaiTech数据集上检验所提方法的有效性。在UCSDPed2、CUHKAvenue和ShanghaiTech数据集上,提出的方法取得了良好的性能。在UCSD Ped1数据集上,所提方法优于现有的异常检测方法。（2）提出了基于混合注意力和运动约束的异常检测方法用于异常检测和定位。为了进一步提高模型的描述能力,我们采用了混合注意力。混合注意力包括编码过程中使用的通道注意力模块和添加到编码器与解码器之间跳跃连接的空间注意力模块。通过引入混合注意力机制,增加特征矩阵中有用的特征通道和目标区域的权重,抑制无用的通道和区域,使特征能够更好地描述目标,即正常状态的人群能够被训练好的自动编码器更准确地预测。此外,通过引入运动约束来提高自动编码器在密集人群场景中预测正常活动的能力。在多个公开的真实场景的监控视频CUHKAvenue、ShanghaiTech和UCSD数据集上进行了实验。实验结果表明,所提方法能够对频繁出现的正常人群活动实现更准确的预测,即正常样本的预测误差更小,从而增大了正常帧预测误差与异常帧预测误差之间的差距,因此,所提方法能够更好地区分正常和异常样本,与现有的方法相比表现出极具竞争力的性能。在UCSD数据集上的像素级异常检测结果表明,基于混合注意力和运动约束的异常检测方法取得了更好的定位效果,优于现有的异常检测方法。（3）提出了基于注意力多级记忆对抗网络的异常检测方法。构建基于注意力多级记忆的自动编码器,在编码器和解码器之间使用多个记忆模块在不同的特征层级上记录正常模式,并通过跳跃连接补偿由记忆造成的信息压缩。同时,在记忆模块前使用空间注意力模块对不同层次的特征进行过滤使记忆模块中记录的记忆项更具代表性。对于多变的正常人群活动能够实现较好的预测。为了进一步增强模型预测视频帧的能力,我们将基于注意力多级记忆的自动编码器作为生成器,并引入马尔可夫判别器进行对抗训练。在公开的真实场景的监控视频UCSDPed1和ShanghaiTech数据集上进行了实验。实验结果表明,所提方法与基于单一记忆模块的方法相比,能够对多场景中多变的正常人群活动实现更准确的预测,同时异常视频帧具有较大的预测误差,从而增大了正常帧与异常帧预测误差之间的差距。因此,所提方法能够较好地区分正常和异常样本,与现有方法相比表现出更出色的性能。