VVC/H.266（Versatile Video Coding）是新一代视频编码标准。不同于传统的矩形块划分结构,为了使编码单元（Coding Unit,CU）划分更为灵活,VVC引入了几何预测模式（Geometric Prediction merge Mode,GPM）。GPM使用非矩形块的划分结构,将编码块划分为楔形或三角形进行帧间预测过程。带运动矢量细化的GPM模式（Geometric Prediction merge Mode with Motion Vector Refinement）允许在GPM的基础上进行带运动矢量差合并模式（Merge mode with MVD,MMVD）的运动矢量细化,进一步提升了预测的精度。然而,该技术显著增加了计算复杂度,造成了编码时间的大量增加。论文针对上述问题开展研究,主要内容和创新点如下:（1）论文研究了GPM模式选择与CU特性间的关系,提出了一种基于CU梯度的帧间几何预测模式快速决策算法。论文研究发现,采用GPM模式的CU存在明显的子块像素差异,论文采用梯度均值指标来度量这种差异,对不呈现子块像素差异的CU提前终止GPM划分过程。对于呈现子块像素差异的CU,由于GPM的划分方式与CU的纹理边界方向密切相关,论文利用梯度方向指标提前决策GPM划分方式中的量化角度,跳过不必要的划分方式,降低计算复杂度。实验结果表明,与VTM8.0参考模型相比,所提算法在随机访问配置下平均可以节省13.5%的编码时间,Y、U、V分量的BD-rate分别只增加了0.14%、0.13%和0.31%。（2）论文进一步研究了带运动矢量细化的GPM快速决策问题,发现MMVD中运动步长的选择概率与CU的运动剧烈程度密切相关,运动剧烈的CU常选择大步长,而运动不剧烈的CU常选择小步长。论文提出了一种基于感知哈希（Perceptual hash,p-hash）的带运动矢量细化的GPM快速算法,利用p-hash计算参考CU和当前CU的汉明码距,以此度量当前CU的运动剧烈程度;根据CU运动剧烈程度提前决策运动矢量细化过程中的运动步长,跳过不必要的细化方式。实验结果表明,与VTM8.0参考模型相比,所提算法在随机访问配置下平均可以节省9%的编码时间,Y、U、V分量的BD-rate分别只增加了0.01%、0.08%和0.07%。