基于块离散余弦变换(BDCT)的编码方式已经广泛应用于图像、视频压缩标准中。然而,在低比特率编码时,解码图像会在块边界处产生明显的块效应,严重影响图像视觉效果。针对低比特率编码时的块效应问题,本文主要围绕图像稀疏表示和图像分层技术对图像去块效应算法展开研究,具体内容如下:首先,利用图像过完备稀疏表示理论,结合交替投影算法提出三次迭代的图像去块效应算法。其中,前两次迭代采用HIO算法进行投影,第三次迭代采用ER算法进行投影。实验结果表明,采用交替投影方法的去块效应算法比只利用一次稀疏表示去噪的图像去块效应算法有更好的重建效果。其次,考虑图像的一阶全变差表示容易引入阶梯效应的缺点,提出采用一阶全变差和二阶全变差的图像去块效应算法。并且考虑到很多图像去噪算法的去噪结果会丢失原始噪声图像中的部分有用信息这一事实,提出基于两步的图像去块效应算法来提高图像重建质量,第一步利用全变差去噪,第二步对残差图像进行稀疏表示以提取残留的有用信息。实验结果表明,引入二阶全变差的图像去块效应算法和基于两步的图像去块效应算法重建结果均优于仅采用一阶全变差的去块效应算法。最后,基于图像分层表示理论,利用图像的全变差表示和小波树结构先验,提出一种基于全变差和双树复数小波双变量阈值处理的图像卡通-纹理分层表示的去块效应算法。实验结果表明,该算法能较好地去除图像块效应,尽可能保留了图像的边缘结构和细节信息,有效提高了图像的重建质量,重建结果视觉效果较好。