近年来,分数阶微积分的研究在控制系统领域内越来越受到人们的重视与关注。非线性系统比线性系统更能直接地描述真实的物理系统,自然地,许多现有的线性系统理论结果推广到了非线性系统,因此,在近几年中非线性系统得到了广泛的研究。在研究的过程中,许多学者对非线性系统问题做出了大量有价值的工作,并应用它们来控制各种动态过程,包括整数阶系统和分数阶系统,从而提高系统的稳定性和控制性能。本文针对非线性分数阶系统的渐近稳定性问题展开了研究,其主要工作可概括为如下几个方面:1)研究了一类非线性分数阶不确定系统的输出反馈控制问题。首先,基于Lyapunov稳定性定理,通过输出反馈控制使得非线性分数阶系统稳定。其次,利用矩阵奇异值分解(SVD)方法,获得了系统稳定性鉴于线性矩阵不等式(LMI)形式的充分条件。最后,通过对分数阶Lü系统进行仿真,验证了所得结论的正确性和有效性。2)研究了一类分数阶三角形系统的反馈控制问题。首先,基于Lyapunov稳定性定理,通过反向递推法获得了非线性分数阶系统的稳定性条件和反馈控制器的设计。其次,利用变量转换,实现了对主从分数阶R?ssler系统的控制和同步。最后,通过对分数阶R?ssler系统进行仿真,验证了所得结论的正确性和有效性。3)研究了一类非线性分数阶系统的反馈线性化控制问题。首先,基于Lyapunov稳定性定理,通过反馈线性化获得了非线性分数阶系统的稳定性条件和反馈控制器的设计。其次,给出了分数阶损耗型耦合发电机系统在不同平衡点处的稳定性条件。最后,通过对分数阶损耗型耦合发电机系统进行仿真,验证了所得结论的正确性和有效性。