监控视频中的异常行为检测是视频监控领域极具应用价值的研究方向。本文分析了视频监控系统在异常行为检测方面所面临的问题,对异常行为检测系统的实现形式、其中所涉及的运动信息提取方法以及异常行为检测方法进行了研究,设计并实现了一套监控视频中行人异常行为检测系统。本文的主要工作包括以下几个方面：(1)设计了一个监控视频中异常行为检测系统的硬件结构和软件框架,通过分层的方法,支持硬件设备的自由拓展,比如增加监控点、增加处理器,同时支持多种算法的灵活切换,包括目标检测与跟踪算法,异常行为检测算法。在该框架的基础上,实现了一套行人异常行为检测系统,在硬件和软件两个层次完成调试并实际运行。在易用性和智能化方面,本文对视频中所发生的事件进行分类存储,以方便后期检索查询,同时根据监控视频中有无运动的发生对监控录像进行压缩,节省了存储空间。(2)研究了视频中行人的检测与跟踪方法。本文一方面通过将帧差法与基于HOG特征的行人检测器的结合实现了针对运动行人的串联检测器,另一方面研究并拓展了基于时空上下文学习的目标跟踪方法,实现了多目标跟踪,并通过将检测信息与跟踪信息的融合,实现了跟踪的自动初始化和对错误跟踪的自动删除,提高了准确度。(3)针对校园室外和室内不同的监控场景,实现基于规则的异常行为检测方法,包括越界检测和周界保护。此外,在对监控视频进行长时间分析的基础上,建立了行人的运动模型,提出了基于多运动模型的行人异常行为检测方法,并验证了方法的有效性。(4)研究了基于前景像素点的区域行人密度估计方法,在区域行人密度较高的情况下,使用基于社会力幅值加权方向直方图的异常行为检测方法,实现对单人区域和多人区域使用不同的行为检测算法进行异常行为检测。