随着数字信息技术的进步,互联网技术的发展突飞猛进。近年来,出于国家对公共安全的重视,在街道、地铁站、机场等公共场所,视频监控设备的数量逐年增加。传统视频监控技术逐渐无法满足日益增长的海量视频数据,可自动检测、识别监控场景中的异常行为的智能视频监控系统得到了社会的广泛关注。异常行为检测作为智能视频监控算法中的高层处理,主要对监控画面的异常行为进行实时的预警与检测,以减少突发异常事件对社会、对公民的危害。本文以监控视频中的中高密度人群作为研究对象,针对视频监控系统中的群体异常行为的检测问题展开研究和讨论。本文的主要研究内容与成果如下:(1)介绍了异常行为检测的基本理论及方法。针对运动目标检测中较常用的几种方法的基本原理进行了阐述,并对比分析了各自的优缺点。依照异常行为的检测流程对异常行为的定义、特征选择和运动模式构建以及异常行为检测机制进行了阐述。(2)当发生异常逃散事件时,大多数情况下行人会本能地四散逃跑以躲避危险。基于此种群体运动特点,提出一种基于方向-集群性模型的群体异常逃散行为检测方法。该方法使用GMM提取背景图像并采用gKLT特征点跟踪算法提取群体中的运动粒子轨迹。随后提取群体中运动粒子的集群性特征和方向无序性特征,将其进行特征相乘融合得到方向-集群性特征用来表征群体运动模式,通过阈值法判断群体逃散行为是否发生。实验结果表明,该算法具有较好的检测效果,能有效检测对比度低、个体间遮挡和背景复杂的群体逃散行为。但当逃散行为具有有序的运动模式时,会将其误检为正常行为。(3)针对监控设备拍摄角度过低带来的透视形变问题,提出一种基于多尺度分块方向-集群性模型的群体异常行为检测方法。考虑到距离监控设备较近的目标由于在画面中占据较大的区域面积可以提供更多的特征描述信息,首先建立尺寸从上至下递增的多尺度分块结构。为减少计算复杂度,只对多尺度分块结构中包含足够前景信息的活跃块进行特征提取操作。由于方向-集群性特征对于运动幅度小但较为无序的正常行为和运动幅度大但较为有序的异常行为表征能力较差,故在方向-集群性特征的基础上,融合了速度能量特征。最后采用基于GMM的异常行为推理模版进行群体异常行为的检测。实验结果表明,该方法对于拍摄视角较低、较为有序逃散和较为无序正常行走的场景均能准确鲁棒的检测群体异常行为。