随着计算机技术的迅猛发展,图像APP（Application）种类日益增多,尤其是图像创作类APP得到了大量用户的喜爱。但是这类APP大部分功能仍停留在滤镜、图案修饰和局部美化等方面,并不能给用户带来更多的创作体验。随着深度学习的发展,图像风格迁移技术激发了用户的创作热情,用户可以自主地组合目标图像和任意风格图像,得到具有特色的风格化图像。根据不同的创作对象,风格迁移技术可以细分为艺术风格迁移和写实类照片风格迁移。其中,艺术风格迁移技术主要迁移艺术性画作的风格,在漫画上色、艺术风格创作等领域受到了广泛关注;照片风格迁移技术的对象是写实类的照片,一般被用于游戏、电影及动画创作领域。然而,目前无论是艺术风格迁移还是照片风格迁移都存在风格化图像质量不高的问题,因此本文开展了针对图像风格迁移中风格化图像质量提升的研究。（1）本文首先介绍了课题背景和研究意义,调研了国内外关于图像风格迁移的研究现状。此外,还分析总结了风格迁移相关的算法,并研究了编码器-解码器网络、注意力机制和元学习方法等相关技术,为提升风格化图像质量奠定了基础。（2）针对艺术风格迁移算法中风格化图像的内容结构不清晰,风格化图像和风格图像的风格在颜色、纹理、形状方面不一致问题,提出了一种基于对偶注意力和元学习的风格迁移方法。在该方法中,通过构造对偶注意力模块,从位置和通道两个方面强化融合特征中重要特征的表达;然后基于模型中的编码器-解码器的结构构建元学习系统,提升模型的解码能力,增强风格特征表达,提高风格在迁移前后的一致性。实验结果表明,该方法提升了内容结构的清晰度,并增强了风格特征的表达能力,提高了风格化图像的质量。（3）对于照片风格迁移中风格化图像的语义信息丢失,局部纹理扭曲变形等问题,提出了一种基于WCT（Whiten-Color Transform）和纹理损失的照片风格迁移方法。首先,构建多层风格迁移网络,每一层编码器的输出都经过WCT算法进行内容特征和风格特征的转换,目的是多尺度融合不同层信息,使生成图像的语义信息饱满丰富;其次,浅层的解码器的上采样操作使用Un Pooling技术,深层的解码器的上采样操作使用Un Sampling技术,有利于还原图像的重要语义信息;最后,用纹理损失和全局风格损失构建总风格损失,其中纹理损失基于上下文信息,全局风格损失用格拉姆矩阵表示,这使得风格化图像保持了风格的局部和全局一致性,同时也有利于保留风格纹理的局部细节特点。实验结果验证了所提方法的有效性。