倒立摆系统作为控制理论研究中典型的被控对象，被用来验证许多抽象的控制概念，如控制系统的稳定性能、可控性能、快速性能和鲁棒性能等。在运动控制系统的不段发展过程中，倒立摆系统与许多复杂的非线性系统的运动过程极其相似，因此对倒立摆的研究具有重要的工程实用价值。自抗扰控制是一种可靠而有效的控制方法，对自抗扰控制的研究对于复杂，非线性，大时滞等系统的控制有很大的发展和应用空间，近几年国内外对自抗扰控制的研究也趋于热点。但自抗扰控制针对不稳定欠驱动系统的的应用研究还处于起步阶段，故本文重点选择自抗扰控制对倒立摆系统的稳定控制进行相应的研究与应用，借以突破自抗扰控制对欠驱动不稳定系统的有效的稳定控制。基于自抗扰控制原理，分析了自抗扰控制器各部分的构成，作用及其性能。详细分析了自抗扰控制各部分结构的参数选取及性能评价，重点对比分析了扩张观测器以及线性扩张观测器的构造及稳定性。依托倒立摆系统这一典型的被控对象，详细分析了倒立摆系统的控制特点及其控制性能。最后，结合自抗扰控制分别对单级倒立摆系统和二级倒立摆系统进行了控制器设计及性能分析。针对单级倒立摆系统，分别研究了倒立摆系统的PID控制，LQR控制，双模糊控制器的控制，以及传统自抗扰控制器（AADRC）的控制，线性自抗扰控制器（LADRC）的控制，提出了采用双线性扩张观测器自抗扰控制（DLADRC）控制单级倒立摆系统的控制策略。分别对以上控制器进行了系统的仿真和实时控制研究，指出采用DLADRC可以同时实现对小车摆杆和位移的稳定控制，仿真和实时控制实验均证明了算法的有效性。与经典控制方法和传统自抗扰控制方法相比，DLADRC有着更好的快速性和更强的鲁棒性。针对二级倒立摆系统，在分析系统的模型特性后，分析了经典控制PID和现代控制LQR控制倒立摆的性能。最后采用结合极点配置的自抗扰控制策略（JADRC），实现了对二级倒立摆的控制。控制结果表明，相比于经典PID和LQR控制，JADRC具有较好的稳定性，有着更强的工程应用价值。