运动目标检测是图像处理的基本工作之一,为后续更深层研究工作的基石。光流法是运动目标检测中最主流的方法之一,它能提供图像中各像素点的运动速度及运动方向。变分光流法,由于具有完备的数学理论基础,清晰的组成结构,强大的兼容性等诸多优点而成为最主要的光流估计算法之一。然而,在实际应用中,变分光流法所赖以存在的基本假设通常不成立(如:光照异常、遮挡严重、噪声干扰、存在大位移运动、图像中包含多运动目标及非刚体运动等),这就造成所估计出的光流场与实际运动存在着很大的偏差。本文针对光照变化、低对比度、亮度不均等各种实际问题,以分数阶理论为数学工具,对变分光流模型进行了一系列的改进。针对光照变化场景中的光流估计问题,提出一种双分数阶变分光流模型(Dual Fractional Order Variational Optical Flow Model,DFOVOFM)。该模型在传统HS(Horn&Schunck)光流模型的数据项及平滑项中同时采用分数阶导数代替整数阶导数,并利用欧拉-拉格朗日方程求解双分数阶光流模型的能量函数最小化问题;同时,提出基于图像的二重分数阶微分掩模,将二重分数阶导数的计算过程化简成二重分数阶微分掩模与相关矩阵函数的卷积。该模型将目标点周围的像素值及光流向量特征权加到目标点中,较传统整数阶变分光流模型,文中所提模型对环境变化的鲁棒性更强;同时,优化的计算方法提高了模型的运算效率、且易于计算机编程实现。针对低对比度场景中的光流估计问题,在DFOVOFM的基础上,提出一种自适应双分数阶光流模型(Adaptive Dual Fractional Order Variational Optical Flow Model,ADFOVOFM)。该模型通过图像信噪比计算DFOVOFM中二重分数阶微分掩模的阶次及尺寸;再应用以光流向量及空间距离为特征的线性迭代聚类算法(Simple Linear Iteration Cluster,SLIC)将光流场颜色编码图分割成若干超像素区域,使得每个二重分数阶微分掩模都被限定在同一个超像素区域中。该模型把不符合中心点运动特征的像素点排除在了该中心点的微分掩模之外,增强了同一运动区域内像素点间的整体性及相关性,使得模型能通过运动特征在低对比度场景中进行运动目标分割。同时,自适应阶次的策略提高了分数阶阶次与图像内容的契合度,进而提高了模型的光流估计准确率。针对亮度不均匀场景中的光流估计问题,在DFOVOFM的基础上,提出一种变分光流模型平滑参数的自适应策略(Adaptive Smoothness Parameter Strategy,ASPS)。该方法首先采用SLIC与局部隶属度函数相结合的图像分割算法将整幅图像分割成若干超像素区域,再计算每个超像素区域的图像品质参数,再以品质参数为输入,采用多层感知器计算出每个区域的平滑参数,文中的图像品质参数由色彩、对比度及信噪比组成。本文算法为不同品质参数的超像素区域分配不同的平滑参数,增强了平滑参数与图像内容的匹配程度,因而能更准确估计亮度不均匀场景中的光流场。复杂场景下的行人异常行为检测与识别一直是智能视频监控系统的一个难题,针对该问题,提出基于自适应平滑参数的自适应分数阶变分光流模型与基于OpenPose的人体骨架提取相结合的扶梯乘客异常行为检测与识别算法。该算法首先应用ADFOVOFM+ASPS光流法解决了光照变化、低对比度、亮度不均匀场景下的光流场估计问题,从而得到视频图像中每个像素点的运动速度和运动方向;同时应用基于OpenPose的人体骨架提取方法实时检测及跟踪扶梯上的乘客;然后结合光流场与人体骨架,实时计算出扶梯乘客鼻子关节点的运动速度及运动方向;最后,根据扶梯乘客鼻子关节点与扶梯台阶的运动速度及运动方向检测与识别扶梯乘客异常行为。实验结果表明,本文所提分数阶光流模型能在光照不足、亮度不均及光照变化的低对比度户外视频中实时精确地估计出光流场,将其应用于扶梯乘客异常行为检测及识别中,准率率分别达到97%及92%以上。文中工作对完善变分光流理论,拓展其应用范围等具有重要的参考价值。