论文部分内容阅读
超分辨率恢复是计算机视觉和图像处理中一个重要的研究问题。超分辨率恢复是一种基于软件算法的技术,具体是指通过对数字图像信号的分析,将一帧或多帧低分辨率图像进行恢复重建,将其转化成更高分辨率图像或视频的技术。在实际中,超分辨率恢复有着广泛应用,如医疗图像分析、视频监控、生物特征识别和安全性等领域。除了提升图像质量外,它还有助于提升其他计算机视觉任务的效果。因此,对提升超分辨率恢复技术的研究具有非常重要的实际意义和应用价值。
随着深度学习技术的不断进步,计算机视觉领域的许多问题得到了更优解决,基于深度学习的超分辨率恢复技术也得以充分发展,取得了极大提升。基于卷积神经网络的超分辨率恢复方法在捕捉丰富图像特征的基础上对图片进行重建;基于生成对抗网络的超分辨率恢复方法使生成的图像在逼真程度上有了很大提升。本文所做工作为将视频进行超分辨率恢复重建;采用方式为结合视频相邻帧信息,将卷积神经网络和生成对抗网络两种方法结合,在改进后应用于视频超分辨率恢复任务上,使生成的图像既保留了原有的特征信息,又比普通卷积网络生成的图像具有更逼真的纹理和更清晰的细节。基于深度学习的方法,本文主要工作与改进如下:
(1)在视频超分辨率恢复时,结合了相邻帧信息,而非单独对单帧图像进行超分辨率恢复重建。本文在网络中加入帧对齐和帧融合模块,帧对齐模块采用了空间金字塔结构,将中心帧和它的相邻帧进行对齐;帧融合模块采用双向卷积LSTM结构,将中心帧和它的相邻帧进行对齐。由于相邻几帧图像包含的信息大致相同,所以通过这样的方式,网络可以充分利用中心帧与相邻帧之间的相似信息,对中心帧进行更好的超分辨率恢复。且为了计算简单和充分保留所有输入图像的特征,所有结构都去掉了批量归一化(Batch Normalization)层。
(2)在上采样重建阶段采用了生成对抗网络结构。这使上采样时生成的单帧图像不会过于平滑,解决了网络输出的图片由于单一损失函数而造成的图像不逼真、边界不清晰的问题。生成对抗网络结构中,采用了相对平均判别器,而非基础的普通判别器。在实验中证明,这使上采样重建得到的图片更加逼真,具有更真实的纹理信息和更接近真实的亮度。
随着深度学习技术的不断进步,计算机视觉领域的许多问题得到了更优解决,基于深度学习的超分辨率恢复技术也得以充分发展,取得了极大提升。基于卷积神经网络的超分辨率恢复方法在捕捉丰富图像特征的基础上对图片进行重建;基于生成对抗网络的超分辨率恢复方法使生成的图像在逼真程度上有了很大提升。本文所做工作为将视频进行超分辨率恢复重建;采用方式为结合视频相邻帧信息,将卷积神经网络和生成对抗网络两种方法结合,在改进后应用于视频超分辨率恢复任务上,使生成的图像既保留了原有的特征信息,又比普通卷积网络生成的图像具有更逼真的纹理和更清晰的细节。基于深度学习的方法,本文主要工作与改进如下:
(1)在视频超分辨率恢复时,结合了相邻帧信息,而非单独对单帧图像进行超分辨率恢复重建。本文在网络中加入帧对齐和帧融合模块,帧对齐模块采用了空间金字塔结构,将中心帧和它的相邻帧进行对齐;帧融合模块采用双向卷积LSTM结构,将中心帧和它的相邻帧进行对齐。由于相邻几帧图像包含的信息大致相同,所以通过这样的方式,网络可以充分利用中心帧与相邻帧之间的相似信息,对中心帧进行更好的超分辨率恢复。且为了计算简单和充分保留所有输入图像的特征,所有结构都去掉了批量归一化(Batch Normalization)层。
(2)在上采样重建阶段采用了生成对抗网络结构。这使上采样时生成的单帧图像不会过于平滑,解决了网络输出的图片由于单一损失函数而造成的图像不逼真、边界不清晰的问题。生成对抗网络结构中,采用了相对平均判别器,而非基础的普通判别器。在实验中证明,这使上采样重建得到的图片更加逼真,具有更真实的纹理信息和更接近真实的亮度。