随着集成电路“按比例缩小”趋势的不断发展，刻线临界尺寸不断减小。根据国际半导体路线图确定的目标，DRAM的半节距在2010年将达到45nm。在临界尺寸下降的过程中原先可以忽略的刻线边缘粗糙度对元件电气性能的影响将越来越大，其原因是边缘粗糙度并不随着刻线线宽的减小而减小，临界尺寸达到50nm时边缘粗糙度将占到刻线线宽误差的一半以上。边缘粗糙度的测量与控制目前已成为光刻工艺和集成电路制造业关注的热点问题之一。 原子力显微镜由于具有以纳米级分辨率观测物体表面三维形貌以及对被测样本适应性广的特点，近年来在工业领域得到了越来越广泛的关注，应用范围不断扩大。由于不要求被测样本为非绝缘体，原子力显微镜将可能成为边缘粗糙度测量精度要求不断提高的最有效工具。 首先分析了原子力显微镜的工作原理、测量过程、仪器结构和工作模式。对探针的膨胀作用、驱动器的非线性以及扫描图像的滤波去噪等测量时存在的问题进行了深入探讨。比较并分析了原子力显微镜测量边缘粗糙度的方法，得出了在目前切割样本条件不具备的情况下，采用倾斜测量以获得尽可能多的刻线边缘表面形貌是唯一可行的边缘粗糙度的测量途径。 为能够获得与扫描电子显微镜相比较的测量结果，针对评价边缘形貌的常见方式之一——线宽粗糙度的测量进行研究。应用图像处理中几种常见的方法——直方图、二值化以及边缘提取算子，获得了刻线的线宽粗糙度；给出了采用纳米管探针原子力显微镜的线宽粗糙度测量及评价步骤。得出了线宽粗糙度与获得线宽的位置——刻线高度截面有关：随着刻线高度增加，线宽粗糙度及其偏差减小；采用四种边缘提取算子，Roberts、Sobel、Canny和Prewitt，提取刻线顶部线宽和线宽粗糙度，结果表明对采用碳纳米管针尖的原子力显微镜测量单晶硅刻线的线宽和线宽粗糙度，边缘提取算子的改变对测量结果基本没有影响；比对了普通氮化硅探针针尖、超尖探针针尖以及碳纳米管探针针尖的线宽粗糙度测量结果：采用三种不同的针尖测量NIST EEEL线宽标称值1000nm刻线的线宽粗糙度，研究结果显示出三种针尖对线宽粗糙度的测量结果不敏感，测量结果基本相同，这一情况说明，如果需要得到精确的刻线边缘表面形貌，必须提高原子力显微镜分辨率，解决的方法是采用标称值更小的线宽样本或仅测量刻线的单侧边缘。