原子力显微镜作为扫描探针显微镜的一个重要成员，是纳米科学技术中的主要工具之一。由于具有纳米甚至原子量级的超高分辨率和柔性的测量环境要求使得原子力显微镜在纳米科技各领域，例如纳米计量、表面科学和生物科学等中的应用愈来愈广泛。 本文主要从多个侧面研究原子力显微镜应用的若干重要问题。首先，探讨原子力显微镜测量中针尖和样品形貌的耦合以及相应的样品形貌重建。利用基于数学形态学算法，通过数值模拟，研究影响原子力显微镜粗糙度测量的探针和样品的几何因素。分析中同时考虑针尖曲率半径、被测样品表面的原始相关长度、标准偏差和高度分布形态等综合因素。并且从实验上表明了扫描速率对表观图像质量和测量粗糙度的影响。这部分工作在AFM扫描图像定量评价上有重要意义。 其次，从理论和实验上分析现今广泛采用的振动测量模式的一些机理，如探针振动过程中的振幅——位移和相位——位移曲线以及探针的非线性振动现象。利用3D模式，系统地对振动模式中原子力显微镜微悬臂的非线性振动特性作了实验分析。对已有的利用振动模式扫描极化力显微镜对DNA测量实验数据进行系统建模分析，发现计算的DNA径向弹性模量随变形增加而增加，说明基底效应对测量的影响不可忽略。利用接触模式、Jumping模式、接触振动模式和非接触振动模式对DPPC单层膜的形貌和粘附力进行测量，发现在接触振动模式下，测量的DPPC形貌出现反转现象。基于粘附力引起的能量损耗的定性分析则可以合理解释上述形貌的反转。 再次，利用静电力显微术定性标定G4分子和单壁碳纳米管的导电性。尝试在液体环境下利用原子力显微镜同时测量法向力和电流，发现对于部分商用的导电探针和自镀金属膜的探针能够在皮牛量级的作用力下跟样品建立电学接触。然而，对液体环境下，如何产生可靠的导电探针和导电针尖的寿命问题是电学性能定量标定的瓶颈。同时，本文中还获得了大气与液体环境下的低隧道电流反馈的扫描隧道显微镜原子分辨图像。 文中第四部分主要介绍一种循环溶液原子力显微镜系统，该系统在生物样品测量和原位观测溶液下晶体生长具有很大的潜力。作为其中的一种应用，用该原子力显微系统实时观测(Ba，Sr)SO4晶体在重晶石(001)晶面上的生长状况，系统地测量分析晶体生长的生长形貌以及台阶生长速率和二维小丘分布密度随溶液不同组份及浓度的变化关系。并且利用原子力显微镜进行了微刻压实验，发现伴随微压痕的产生，在重晶石晶体(001)晶面表面上沿着某特定晶向会产生几埃量级的位错。 最后，作为相对独立的一章，介绍利用原子力显微镜阳极氧化方法加工的纳米量级二维零位对准标记。用基于自相关函数和衍射理论的分析方法，详细讨论二维零位光栅的设计和性能以及光栅加工误差和系统安装误差对性能的影响。理论分析结果表明该二维零位光栅结构简单，能满足高精度对准需要。由于误差平均效应，各误差源对于对准系统性能影响较小。本文中还成功设计可同时用于对准和计数的二维零位标记。所有这些都表明二维零位光栅有着一定的实际应用前景。