随着纳米技术的不断发展,对纳米尺度的检测和加工提出了更高的要求,原子力显微镜(AFM)作为一种具有纳米检测和纳米操作功能的实验仪器,因其体积小、精度高、制造成本低及易于推广等优点被广泛应用于物理、化学、生物、材料、电子等领域。原子力显微镜作为一个复杂的系统,其性能受硬件设备、控制算法、成像策略等因素的影响,而目前AFM系统性能已无法满足高精密运动场景下的性能需求,传统PID控制由于算法本身具有的局限性已成为限制AFM系统性能的主要因素。本文针对传统PID控制中存在的控制性能不足和参数整定复杂的问题,设计了二自由度分数阶PI~λD~μ控制器以提高控制精度,并在此基础上通过引入BP神经网络以实现控制器参数自整定。本文的主要研究内容如下:1.通过所设计的基于xPC target的半实物仿真平台,研究了原子力显微镜的系统特性以及存在的控制问题,并对压电陶瓷执行器的迟滞非线性特性进行建模。2.针对在传统整数阶PID控制下AFM系统控制精度不足的问题,研究了基于二自由度分数阶PI~λD~μ的AFM运动控制方法。对于控制器中分数阶微分算子无法直接数字实现的问题,采用Oustaloup近似法进行近似离散化处理,并依据所建立的AFM系统频域传递函数模型,分析了控制器参数对AFM系统性能的影响,并给出系统相位裕度作为主要指标的控制器参数整定方法。3.针对二自由度分数阶PI~λD~μ控制器参数整定复杂的问题,研究了基于BP神经网络和二自由度分数阶PI~λD~μ的AFM运动控制方法,在实现控制器参数自整定的同时提高了控制性能。对控制器二自由度分数阶PI~λD~μ部分进行设计,以减少控制器BP神经网络部分分数阶微积分运算量。对控制器BP神经网络部分进行设计,以使在保证系统控制实时性和误差精度要求的前提下BP神经网络的结构尽量简单,并对控制器的其余参数进行参数寻优。4.将所设计的控制器应用到原子力显微镜系统中,在基于xPC target的半实物仿真平台上实现了AFM系统的轨迹跟踪、样品成像和样品刻画实验,证明了本文所设计控制器的有效性,实验结果表明本文所设计的控制器在性能上均优于传统PID控制器,提升了原子力显微镜的系统性能。