欠驱动系统是一类特殊而又重要的力学系统,是目前自动控制研究的一个前沿方向.非完整系统作为一类运动受限的欠驱动系统,其研究具有重要的理论价值和实际意义.倒立摆作为另一类典型的欠驱动系统,具有广泛的工程和物理背景.本文针对欠驱动系统的两种形式,在相关背景知识和现有研究成果的基础上,展开欠驱动系统的非线性控制研究.文章主要工作包括以下三部分:1)一般非完整动力学系统的有限时间控制.在虚拟控制系数和系统参数未知的情形下,针对一类非常一般的非完整动力学系统,给出了有限时间镇定控制方案.有限时间收敛控制律的设计应用了最小膨胀度的坐标变换和终端滑模的技术.根据系统能否转化成线性时不变系统,提出了两种控制策略以保证系统的状态在有限时间收敛到零.简化的气垫船系统的镇定问题和轮式移动机器人的停车问题的仿真实验说明了该控制方法的有效性和实际应用性.2)车轨长度受限的并行双摆能量控制.采用牛顿-欧拉方法建立了并行二级倒立双摆系统的数学模型.将能量控制方法应用于并行二级倒立摆系统上,基于一个能量形式的李雅普诺夫函数设计单一控制器.控制摆杆在达到垂直向上的位置时使摆杆的能量为零,通过控制摆杆能量来实现并行双摆的起稳摆控制.由于车摆系统小车位移受轨道长度限制,又考虑了小车位移的控制问题.所设计的控制器同时使小车的速度收敛到零,满足了车轨长度有限这一实际要求.控制器结构简单便于调参,收敛性能好.通过计算机仿真验证了所提出的控制策略的良好性能.3)平面倒立摆的自适应跟踪与镇定控制.首先采用拉格朗日方程建立了平面倒立摆的精确数学模型.然后,针对平面倒立摆动力学系统的欠驱动特性,结合系统的能量设计了自适应跟踪控制器,实现了基座小车的圆周轨迹跟踪与摆杆镇定.相比于其他方法设计的控制器,它不需要对实际摆系统进行任何的近似解耦和小邻域内的线性化处理.在系统存在未知机械摩擦和空气阻力的影响,同时基座轨道与小车质量以及摆杆长度存在测量误差干扰时,设计自适应跟踪控制器,证明了闭环系统的稳定性.根据变化的系统参数和不同的初态进行仿真实验,数据仿真结果验证了控制算法的有效性.