近几年来，随着多媒体技术和因特网的迅猛发展及普及，数字图像处理技术及视频编码技术受到了前所未有的广泛重视，不仅在理论研究上取得了重大进步，而且在实际应用中也获得了很大成果，为人类带来了巨大的经济社会效益，已融入到科学研究的各个领域。低照度图像的特点是图像较暗、对比度较低，且含有大量加性随机噪声，给实际的图像增强和去噪算法提出了更高的要求。最新视频编码标准H．264采用了一系列先进的编码技术，在图像压缩率、图像清晰度、容错能力、网络适应能力等各方面的优异性能不仅成为目前视频会议最主要的实现标准，并且被广泛应用于数字广播、数字存储、高清晰度数字视盘、高清晰度电视、实时监控等各个领域。本文就是在这种背景下，研究基于图像处理基本理论的图像增强技术、图像去噪技术，以及基于视频编码基本理论的帧内预测模式选择技术。为数字图像处理技术及视频编码技术的实际应用提供一个行之有效的方法。本文的主要工作及贡献包括以下内容。 (1)针对低照度图像较暗且对比度较低的特点及直方图均衡化造成的取整误差，研究了适合低照度图像的规定化函数及映射规则，提出了基于直方图均衡化的全局增强方法，达到了自动增强整幅图像对比度、提高直方图均衡化精度的目的。针对直方图均衡化造成的增强图像细节信息丢失问题，提出了基于局部窗口方差和平均值的局部自适应对比度增强方法，达到了满足不同灰度值、不均匀低对比度的增强要求，且微调局部细节的目的。 (2)提出了基于图像整体增强与细节局部增强相结合的全局自适应均衡增强方法，设计并实现了低照度图像增强算法。通过理论和实验分析，可以将低照度图像的整体亮度提高大约3倍，对比度展宽大约3倍：验证了本文提出的低照度图像增强方法具有改善图像外貌、强化图像细节、减少增强误差、保持图像信息量的特点。 (3)针对低照度图像含有大量噪声的特点，研究了噪声对低照度图像的影响，分析了影响图像质量的主导噪声是加性随机噪声。针对噪声对图像质量及压缩后产生视频码流数据量的影响，确定了低照度图像去噪效果三项衡量指标：图像平滑效果，图像清晰程度，算法时间复杂度；并根据这三项指标，对频率域方法、空间域方法及数学形态学方法进行了分析和比较。 (4)提出了基于数学形态学及中值滤波的二次滤波去噪方法，设计并实现了低照度图像去噪算法。通过理论和实验分析，可以将压缩后产生视频码流的数据量降低15％～20％左右，算法时间复杂度为O(N)；验证了本文设计的低照度图像去噪方法兼顾了图像平滑效果、图像清晰程度、算法时间复杂度三个方面的要求。 (5)针对H.264编码帧内最优预测模式选择采用RDO策略及FS方式带来的高额运算复杂度，提出了改进帧内预测算法结构的方法，达到了既保证帧内预测模式选择准确度，又减少算法运算复杂度的目的。根据原始宏块有很强方向性且其纹理具有所选择预测模式对应方向的理论，提出了基于边缘矢量强度和、分析当前子块预测方向、运用RDO策略的Intra_4×4最优预测模式选择方法，达到了减少Intra_4×4预测模式的目的。按照帧内预测模式选择原则，提出了提前中止选择的两个准则，达到了保证低失真度的同时保证低码率、提高编码效率的同时保证降低时间复杂度的目的。 (6)提出了基于综合运用RDO及SATD策略、快速选择Intra_4×4预测模式、提前中止选择准则的预测模式选择方法，设计并实现了帧内最优预测模式快速选择算法。通过理论和实验分析，该算法与参考模型JM86相比，I帧编码bit平均增加了3.58％，I帧编码所用时间平均降低了74.35％，Y分量PSNR值平均降低了0.02dB；验证了本文提出的帧内最优预测模式快速选择方法在编码时间明显降低的同时，图像质量和输出码率基本上没有发上变化，保持了H.264的编码性能。针对每个宏块平均只需要进行34次RDO计算，大幅度降低了帧内预测的运算复杂度。 本文设计的低照度图像增强方法、低照度图像去噪方法及视频编码帧内预测模式快速选择方法简单有效，具有重要的理论意义及实用价值。