数字图像及视频等多媒体是当今社会人们信息获取的重要来源。然而,图像处理技术的发展与深度学习技术的流行,使图像编辑软件不断成熟、伪造图像愈加逼真。这些现象引起了人们对图像原始性及真实性强烈的质疑,也对数字图像取证技术带来了严峻的考验。特别地,在图像篡改过程中,篡改者常使用滤波、增强、压缩等润饰操作,以抹除篡改痕迹或提升图像视觉质量。因此,图像操作取证的研究具有重要意义。本文针对现有的图像操作取证算法对低质量、小尺寸图像取证性能较差,理论基础薄弱等问题,从操作痕迹捕获的角度出发,结合理论分析与特征挖掘技术,对多个操作取证热点问题进行深入探讨,实现取证性能的优化,并进一步对图像操作取证算法的安全性进行检验及提升。本论文主要创新成果如下:（1）提出了基于频域残差差异的鲁棒中值滤波取证算法。针对现有算法对JPEG压缩鲁棒性较差的问题,提出面向JPEG图像的频域残差差异特征,用于区分JPEG压缩后的未滤波与中值滤波图像。具体地,鉴于图像首次滤波所对应频域残差远大于第二次滤波,通过对测试图像执行两次滤波操作以提取频域残差差异特征用于中值滤波图像取证。进一步提出了自适应扰动策略以削弱图像内容对特征的影响,从而确定通用的分类阈值。所提方法基于单维特征使用单阈值进行分类,简单高效,并且对低质量及小尺寸图像块的检测性能较主流算法具有明显优势。（2）提出了面向JPEG图像取证的量化步长估计算法。针对现有步长估计算法理论基础薄弱,且对低质量及小尺寸图像估计性能欠佳的问题,我们构建解压缩图像DCT系数概率密度函数与候选量化步长的函数之间的响应模型,并将使响应达到最大的候选步长确定为估计结果。证明了最大响应与真实量化步长之间的对应关系,为估计算法建立了坚实的理论基础。进一步提出了两种基于先验知识的微调措施对估计结果进行调整,以提升低质量及小尺寸图像的步长估计准确率。实验表明,所提算法较当前主流算法具有更好的估计性能,且在低质量及小尺寸图像上优势明显。（3）提出了基于误差分析的同量化表双重JPEG压缩取证算法。针对现有算法对误差分布的分析欠缺且理论性不强的问题,我们提出了新的JPEG误差块分类模式,在单压和双压图像中定位几乎相同的截断误差块,从而能够精准捕获图像的误差差异。分析取整块和截断块误差分布,从理论层面挖掘造成误差差异的深层原因,进而提取高鉴别力的统计特征用于检测双重JPEG压缩图像。实验表明,与先进的方法相比,所提方法提升了检测准确率,且在低质量图像上优势明显。（4）针对数字图像操作取证的安全性问题,聚焦基于深度学习的取证模型,提出了基于置信度增强对抗样本的反取证策略与基于随机特征选择和梯度正交化的安全取证模型。一方面,为了探索深度取证模型的安全性,提出通过调整对抗样本置信度来增大攻击强度,提升对抗样本迁移性。另一方面,由于深度取证模型极易受到对抗样本反取证的攻击,为了提升取证模型的安全性,定义了新的损失函数,通过最大化图像在完全特征模型与随机特征模型上的梯度的夹角,增强取证模型防御对抗样本的能力。进一步建立攻击者威胁模型以多方面衡量模型安全性。实验表明,针对图像操作取证任务,所提安全取证模型在不同攻击场景下,对多类对抗样本均具有较好的防御性能。