随着社会稳定的发展和民众安全意识的提高,智能监控逐渐成为人们生活和工作中的重要需求。作为智能监控重要分支,群体行为分析已经成为计算机视觉领域的热点话题,而运动人群分割和人群异常行为检测是人群行为分析的首要步骤和基本前提。人群异常行为检测技术能够自动地对视频场景中出现的异常事故报警,减少公共场所的人身损失,具有极大的研究意义和前景。异常行为检测性能主要依赖于感兴趣区域的划分和特征提取。然而,大多异常行为检测方法选用固定大小的矩形框作为感兴趣区域,这极大地破坏了运动人群的完整性和一致性。此外,被广泛应用于异常行为检测的UCSD和UMN数据集的分辨率过低,普通的纹理特征很难描述感兴趣区域的外观特征。另外,这类方法所提取的属性特征也难以有效的表征人群运动。针对上述问题,本文给出了一种基于行人自组织理论的人群异常行为检测方案。本文主要内容如下:（1）受到行人自组织现象形成过程的启发,提出了一种迭代聚类算法。该算法根据行人自组织理论不断对连通区域进行迭代,每次迭代过程都包括:连通区域筛选、属性信息聚类和噪声组合并。（2）在LBP统计特征的基础上,计算出了LBP相似度特征来描述一致性小组的外观。首先将一致性小组均等的划分为10小块,根据局部二值模式对它们一一进行编码,通过统计得到具有相同编码值的LBP统计特征。然后对每一小块的统计特征进行PCA降维,得到一组维度为10的特征。最后,与其它一致性小组特征计算平方误差,并将平方误差的倒数作为相似度衡量标准。（3）将流体力学中的倾向流理论引入到人群行为分析中,利用倾向流的流体属性描述群体运动。在迹线和脉线基础上,计算倾向流场作为人群运动矢量场。计算流体粒子在倾向流场中的能量和倾向流角作为一致性小组的倾向流特征来描述群体运动。在两个公共数据集中的实验结果表明,本文方法比现有的方法具有更高的精确度。本文选用的LBP相似度特征能够有效的刻画正常样本和异常样本的差异。