最近十余年,视频稳定算法得到了深入的研究。但是,如何客观准确地评价这些算法的效果是一个没有被深入探究的问题。由于缺少相应的评价机制来定量地衡量视频运动的稳定程度,导致对稳定算法性能缺乏客观评判,也使得用户无法选择满足需求的视频稳定算法。类似图像质量评价,视频稳定质量评价需要在合适的空间、选择合适的度量进行稳定程度比较。然而,传统在欧式空间、频域空间等进行稳定评价的方法,其评价结果与主观评判的一致性仍不高,影响了视频稳定算法的性能评判及实际应用。本文选择李群空间作为度量空间,将视频帧间变换形成的运动路径看作李群空间中的一条曲线,然后在李群空间对视频运动的稳定程度进行定量分析,建立全参考和无参考视频稳定质量评价方法。针对全参考视频稳定质量评价,本文提出一种基于李群空间测地距离的视频稳定质量评价方法。由于全参考方法需要真实的稳定视频作为基准,本文设计了一种新的方法构建了包含真实稳定视频和对应的抖动视频的数据集,避免了合成抖动不真实的问题。在进行稳定程度评价时,将真实稳定视频与待评价视频的运动路径映射到李群空间形成曲线,最后计算两条曲线间的测地距离,将其作为评估待评价视频稳定程度的度量。在构建的数据集上的实验结果显示,本文提出的全参考方法的评价结果与主观评价结果的相关性达到95%。针对无参考视频稳定质量评价,本文提出一种基于李群空间测地曲率的视频稳定质量评价方法。该方法借助离散测地逼近方法计算运动路径全曲率,将其作为评估运动路径平滑程度的度量,进而评价视频运动的稳定性。在已公开数据集上进行测试,其结果表明,所提出的无参考方法获得的视频稳定评价结果与人眼主观评价结果的相关性达到97%,相比于帧间保真度、频域分析等现有评价算法提高20%以上。