自问世以来,原子力显微镜(Atomic Force Microscope,AFM)已经逐步发展成为微/纳米领域成像和操作的基本工具,在生物、材料、化学以及物理等学科得到了广泛应用,被研究者称为纳米科技的“眼”和“手”。因此,它的研究进展在整个微/纳米领域中起着举足轻重的作用,近年来已经成为微/纳米研究领域的关键问题之一,其突破将有可能为微/纳米领域的研究带来新的发展契机。虽然原子力显微镜已经在微纳米领域得到广泛应用,但其相关技术远未发展成熟。具体而言,当前的原子力显微镜系统还存在以下方面的一些问题:(1)在成像方面,由于原子力显微镜系统复杂的非线性特性,它的实验结果往往重复性不高;此外,该系统存在操作复杂、系统带宽窄、扫描速度慢以及对噪声干扰敏感等缺点,这些问题妨碍了它得到更进一步的应用。(2)在纳米操作方面,一般的原子力显微镜不能直接应用于纳米操作,需要对其硬件和软件环境进行相应的改进之后才能完成纳米操作任务。在纳米定位方面,虽然原子力显微镜使用的管式压电扫描驱动器具有纳米级的分辨率,但是由于其迟滞特性,碗状的运动耦合误差以及其他不确定性,使得将探针针尖准确定位到指定位置来实现纳米操作十分困难。因此,当前基于原子力显微镜的纳米操作效率和成功率非常低下。综上所述,原子力显微镜在成像以及纳米操作中仍然有许多问题亟待解决。在国家自然科学基金等项目的资助下,论文对国内外原子力显微镜相关领域的研究现状进行了全面分析;在此基础上,论文针对原子力显微镜成像与纳米操作的一些关键问题展开了深入研究。(1)原子力显微镜系统建模与仿真。由于原子力显微镜系统的复杂性,很难对其全部的动力学特性进行机理建模。因此,论文通过实验手段对系统的各个部件进行了标定和建模,主要包括压电扫描器、激光接收器以及放大器等;对悬臂梁以及探针针尖—样品之间的相互作用力进行了机理模型分析。基于上述完整模型,在Matlab/Simulink环境中搭建了轻敲原子力显微镜仿真平台,通过对原子力显微镜中推拉迟滞和双稳态两种非线性现象的仿真,证明了该仿真平台的有效性。(2)基于继电反馈的原子力显微镜比例积分(Proportional Integral,PI)控制器参数自整定。原子力显微镜在组件以及扫描速度发生变化时,通常需要对PI控制器的参数进行反复调整,这给操作者带来了很大的困难。为了提高系统的易用性,本文利用继电反馈方法对原子力显微镜的PI参数进行自整定。具体而言,受到继电反馈的激励,原子力显微镜系统会产生极限环。根据极限环的信息,可以辨识得到系统的临界增益和周期,然后利用Ziegler-Nichols公式对PI参数进行整定。实验表明,这种基于继电反馈的方法能够辨识出各种组件变化对系统带来的改变;并且根据扫描速度适当调整PI参数后,系统不会出现振荡现象。(3)轻敲原子力显微镜H_∞控制器设计与仿真。针对原子力显微镜系统带宽窄,对噪声干扰敏感等缺点,论文设计了H_∞鲁棒控制器。具体而言,针对压电陶瓷和悬臂梁模型,本文利用H_∞混合灵敏度设计方法,通过引入误差、控制量以及输出的权值函数对所要设计的控制器性能指标进行量化,从而使得设计的控制器能有效地阻尼系统的共振频率。通过对各种样品进行跟踪仿真测试表明:H_∞鲁棒控制器能够较好地跟踪各种波形,并且它可以使针尖与样品间的作用力维持在几十个纳牛左右;此外,该控制器相对PI控制器具有更好的噪声抑制作用,对于模型不确定性也有良好的鲁棒性。(4)压电扫描管精确定位探针研究。探针纳米定位是纳米操作的关键技术之一。针对管式压电扫描器对探针进行纳米定位的问题,论文提出了一种分步定位的方法,实现了纳米级别的定位精度。其主要步骤如下:(a)针对驱动器的迟滞现象,首先对标定光栅进行成像,并通过特征点提取和分析可以得到迟滞回线;利用曲线拟合的方法,计算出所需要补偿的电压,从而实现迟滞特性的有效补偿;(b)对于其他误差如结构误差和耦合误差等,利用探针对标定样品进行压印,通过压印图像可以计算期望位置与实际位置的误差,通过补偿该误差可以实现探针的粗定位;(c)对于热漂移以及粗定位的误差,使用局部扫描的方法来估计颗粒的中心位置,从而实现精确定位。(5)由于一般原子力显微镜并不具备直接纳米操作的功能,论文搭建了开放式的纳米操作平台,主要采用RTLinux系统来保证实时性,该纳米操作系统具有良好的开发接口,可以非常方便地完成多种纳米操作。论文通过纳米刻画、压印及推动等实验,证实了该原子力显微镜纳米操作系统的有效性。