当前线性系统的控制理论和方法已经达到比较完善的地步，但是非线性系统由于精确建模的困难和各种不确定性，使之成为目前最具挑战性的研究课题。本文针对基于耗散理论、Lyapunov函数稳定性定理，对非线性系统的不确定性、不稳定性及系统建模困难等问题进行了研究，得到了一些新的研究成果。　　 首先针对非线性系统的未知参数、未动态建模和外界干扰等不确定性作了初步的研究。通过选择适当的参数对不确定性进行估值和补偿，从而选择合适的Lyapunov函数，为了减少不确定性对系统的影响，将未知参数的估值和外界干扰的补偿考虑在Lyapunov函数中，利用Backstepping递推设计方法，设计了一种新的鲁棒自适应控制器，得到稳定的控制律，不仅使系统具有自适应、自组织、自学习的能力，闭环系统的所有信号全局有界，而且输出的绝对值可以任意小。其次针对更加复杂的、难以对被控对象建模的非线性系统，将模糊控制理论与鲁棒自适应控制算法有效地结合起来，通过模糊逻辑系统的万能逼近定理逼近定义在非线性系统中一个致密集上的非线性函数，利用模糊T-S模型选择恰当的模糊系统规则和模糊隶属函数建模，设计了一种新的鲁棒自适应模糊控制器，使系统的模糊控制参数和规则在控制过程中能够自动地调整、修改和完善，从而使得系统的控制性能得到不断地改善，达到最佳的控制效果，闭环系统的所有信号全局有界，输出的绝对值可以任意小，跟踪误差收敛到零。最后针对倒立摆平衡系统的非线性，将鲁棒自适应模糊控制算法应用在倒立摆平衡系统中，设计了倒立摆平衡系统的控制器，使系统在一定的控制输入条件下能迅速的回到平衡位置，取得了比较令人满意的控制效果。仿真结果充分表明所设计的鲁棒自适应控制器和鲁棒自适应模糊控制器都具有较好的控制特性，验证了所提出的方法的可行性和正确性。