随视频技术的发展,新一代编码标准H.264/H.265应运而生,量化作为关键角色直接决定视频性能优劣。量化多采用无记忆信源假设HDQ,复杂度低易实现。研究表明无记忆信源假设不成立,性能及模型精准度需提升。SDQ考虑系数相关性,使视频质量有很大提升,但计算复杂度高不宜于算法并行处理。本文基于此对软硬判决量化算法改进,兼顾二类算法双方面优势,保证并行处理不提高计算复杂度同时引入系数相关性,致力于研究有记忆信源模型的自适应偏移量HDQ改进算法,提升量化性能。针对HDQ偏移量固定导致量化率失真性能损失,本文研究了一种基于DCT系数自适应调节偏移量的改进型HDQ算法。采用离线建模的方式,寻找偏移量与DCT变换系数分布参数、量化参数的数学关系,该改进算法相比原固定偏移量模型,可自适应调节量化偏移量,有效提升了率失真性能。针对HDQ系数独立,结合SDQ上下文码率熵编码理论,对前期改进HDQ模型加入码率因素,提出一种新的码率自适应HDQ改进算法。在线估计出量化为不同结果时可能消耗的码率自信息,分析码率自信息对当前系数量化偏移量的微调作用,基于最大正判、最小误判概率离线建立偏移量与码率自信息等四个量化参数的函数模型。实验表明,考虑码率的改进型HDQ相较系数独立的HDQ率失真性能得以提升,相比SDQ计算复杂度较低,同时更符合记忆信源间相关性这一实际情况。针对影响量化的参量众多,传统数学建模过程复杂,研究模型进展缓慢,将神经网络应用于视频量化算法建模。根据量化参数和量化偏移量的关系,优选四个影响量化的重要参量,设计一种基于神经网络的HDQ偏移量选择算法,通过设计神经网络隐藏层数、最佳节点数、迭代次数最佳值,使训练结果收敛到预设精度范围内,为量化算法参量选择研究提供思路方法。结合实验结果说明了神经网络改进硬判决算法的便利和简捷。