表面科学在现代科学中占有日益重要的地位,材料的许多重要物理、化学过程首先发生在界面之间。研究相互作用材料表面间及其与外部环境的作用规律,对控制材料表面的物理化学过程,优化材料的表面性能无疑是至关重要的。特别是二十世纪末期以来,电子、生物技术迅猛发展,对新型材料的需求日益迫切,对超精密加工与检测技术提出了更高要求。扫描隧道显微镜的发明,把人类直观视野首次带进原子尺度。将原子力显微镜应用于微纳特征尺度材料表面物理、化学性质检测以及纳米尺度表面摩擦和磨损、微操纵等研究正方兴未艾。全面准确地认识原子力显微镜针尖-表面间相互作用对于纳米尺度表面检测、拓扑成像、针尖磨损等研究具有重要的理论意义,并将为原子力显微镜的进一步应用提供理论基础。随着人们对事物认识的深入,当结构尺寸达到微米,甚至达到纳米量级,由于小尺寸效应、量子效应、表面效应的影响,材料的力学特性、载荷失效机理等与传统连续介质力学基本理论着本质的不同。原子力显微镜针尖-表面作用可以概括为特殊的表面接触问题,依据经典力学建立起的传统接触理论不能直接沿用解释有关针尖-表面间作用的研究。本文分析了微结构力学性能分子动力学仿真的一般方法,讨论了适合纳米尺度针尖-表面作用力学性能仿真的势能函数和求解算法,结合AFM针尖-表面作用机理,建立了金钢石/单晶硅/碳纳米管针尖-单晶硅样品表面作用三维分子动力学仿真模型,自行开发了C语言计算仿真程序模拟原子力显微镜针尖-表面相互作用,在一定仿真条件下获得获得详尽的仿真数据,并开发了基于OpenGL库函数的显示程序分析仿真结果。与通常的研究不同,本文将原子力显微镜针尖作为非刚性材料,将针尖在材料表面纳米尺度压痕过程中末端稳定性作为研究重点。建立了非刚性金刚石针尖-单晶硅表面压痕过程的三维分子动力学仿真模型。分别从针尖受力、能量演化,原子运动等方面对金刚石针尖磨损过程进行了较详细的分析。计算结果表明:当针尖、样品表面距离达到数个埃时,临近接触部分原子原有化学键发生了不可恢复性破坏,并向其他原子间隙塑性流动。如针尖表面间距离进一步缩小,有针尖与样品表面原子的相互跳迁、黏附等现象的发生。其次,为考察碳纳米管作为原子力显微镜针尖时的力学性能,本文采用分子动力学方法,对单壁碳纳米管进行了轴向拉伸、压缩力学性能进行模拟研究。研究了极限条件下碳纳米管作为原子力针尖具有的轴向抗拉压结构变形机理,还进行了将带有顶帽的单壁碳纳米管AFM针尖沿管轴向朝向单晶硅表面进行下压模拟实验。结果表明碳纳米管由于其结构特殊性,具有很好的轴向抗拉压韧性,带有顶帽的末端结构使得碳纳米管作为AFM针尖具有优良的末端结构稳定性,明显优于金刚石针尖。最后,本文提出准动态分子动力学方法实现了原子力显微镜扫描表面原子分辨率地形形貌图。模拟了超低温真空环境下,非接触式频率调节原子力显微镜采用单晶硅原子针尖对单晶硅重构表面的成像过程。采用两种原子间势函数描述原子间相互作用在稳定成像高度范围内得到了相似的原子级分辨率仿真图像,图象与文献实验吻合;仿真发现势函数对扫描成像有一定影响;SW势函数稳定成像时的扫描高度比Tersoff势函数略高。在稳定成像高度范围外成像因针尖末端晶向不同呈现明显差异。本文还研究发现使用(100)晶向的单晶硅针尖,采用SW势函数描述原子间化学键合作用模拟扫描成像,仿真图像中得到了超原子级分辨率的双月牙峰形单原子形貌,与文献实验图像吻合。