论文部分内容阅读
恶劣的天气,例如雪,雨,雾等,对图像或者视频会造成严重的负面影响。其中,单张彩色图像去雨一直是个极具挑战性的固有问题,且在实际生活中有着极为广泛的应用,例如:目标的跟踪与检测以及智能驾驶等等。起初,单张图像去雨方法主要是基于图像分解模型。该类算法忽略了图像的低频分量,而且在字典训练之后难以将有雨原子和无雨原子区分开来,导致其重建的去雨结果不是过于模糊就是仍含有许多雨线。随着神经网络在图像处理各个领域里的优异表现,学者们直接采用有雨图像作为输入,构建不同的网络模型,实现从有雨图片至无雨图片的非线性映射。相对于传统方法,该类算法的去雨效果有所改善,但由于输入维度过高,所训练的模型容易过拟合,忽略图像中的细节部分,导致颜色失真和纹理丢失等问题。本文以生成对抗网络的单帧图像去雨模型为基础,针对其输入维度过高的问题,从两个方面对去雨模型进行了改进:第一,图像分块。直接将图像划分成多个大小相同的图像块,将每个图像块作为网络输入,从而降低输入维度。同时,为了维持图像块之间颜色和结构的连贯性,我们借用了双边滤波器和非局部均值降噪算法,以相邻图像块的权重和来预测当前图像块。其中,权重是以当前图像块与相邻图像块间的相似性和距离来定义的。然后,本文将所预测的和理想图像块之间的差异添加在生成网络的误差函数,调节所训练网络。最后,通过与训练网络的图像块同样大小的窗逐步滑动,生成去雨图片。第二,多尺度模型。使用拉普拉斯金字塔,从下至上地构建多尺度模型,以降低输入维度。拉普拉斯金字塔的优点在于每个尺度上的信息都互不重叠,而且信息几乎没有出现损失。在每一个尺度上,生成对抗网络被独自训练,以实现该尺度上从有雨分量至无雨分量的非线性映射。大尺度保留的是图像中的边缘细节信息,小尺度包含的是图像的低频信息。相对于原图像中包含的信息,每个尺度包含的信息量降低了很多,可以照顾到更多的纹理细节部分。最后,从上至下,逐步地将各尺度上的去雨结果进行合并,得到最终的去雨图片。本文提出的单帧彩色图像去雨算法不需要任何先验知识,也不需要对图像进行预处理或后处理,保证了整个模型的完整性。根据实验结果表明,相比于现有去雨算法,本文提出的算法能更有效地去除有雨图片的雨线和随之而来的负面影响,同时保留了干净背景的纹理和边缘,并避免了颜色失真等问题。对于人工合成有雨数据库,本文所提出的算法也比现有图像去雨算法达到了更好的去雨效果。对于PSNR质量评价指标而已,本文所提出的算法可以提高2dB~7dB。对于自然有雨图像,通过展示并且对比所得到的去雨图片,我们可以发现,本文提出的算法所生成的去雨图片无论是从纹理还是色彩上都有着更好的视觉效果。另外,本文所提出的去雨模型可以直接迁移到去雪的应用之上。