稳定性是控制理论的一个基本问题.目前,关于线性广义系统的稳定性问题已经有了许多有意义的结果,但关于非线性广义系统稳定性的研究还不成熟.本文利用Lyapunov稳定性理论、比较原理、S-过程和线性矩阵不等式(LMI)等基本理论和技术研究非线性广义系统的实用稳定性、强绝对稳定性、输入-状态稳定性和观测器设计问题以及非线性奇异摄动系统的绝对稳定性和多目标控制问题.主要工作包括以下几个方面：(1)研究非线性广义系统的实用稳定性,把正常系统实用稳定性的基本概念和研究成果推广到广义系统.首先,利用Lyapunov理论和比较原理给出非线性广义系统实用稳定的充分条件,并应用所得结果分析线性广义系统和非线性电路系统的实用稳定性.其次,利用比较原理研究具有扰动输入的非线性广义系统的实用稳定性,解决两个问题：一是描述一个容许输入集使得系统是实用稳定的；二是对于给定的容许输入集,判断系统是否实用稳定.然后,研究时滞广义系统基于二测度的实用稳定性,利用Lyapunov函数和比较原理给出充分条件.最后,研究非线性广义系统的实用镇定问题,通过建立一个新的比较原理,给出一个控制器设计方法.(2)研究Lur’e型广义系统(LDS)的强绝对稳定性,给出圆判据和Popov判据.首先,定义LDS的强绝对稳定性的概念,讨论广义系统的正实性.其次,考虑单输入单输出LDS,给出几何形式的圆判据.如果系统前馈通道是无脉冲的,利用传统的Nyquist稳定性判据把现有圆判据直接推广到广义系统.如果系统前馈通道不是无脉冲的,传统的Nyquist稳定性判据失效,给出一个所谓类Nyquist稳定性判据,进而得到一个适用范围更广的圆判据.再次,考虑多输入多输出LDS,利用广义Lyaponov函数和S-过程,得到一个基于LMI的圆判据.然后,把正常系统的Popov判据推广到广义系统.最后,构造一个广义Lur’e型Lyapunov函数(GLLF).研究表明,如果存在一个GLLF沿LDS的轨迹的导数是负定的,则LDS是强绝对稳定的.进一步证明,前面所给出的Popov判据仅是该GLLF存在的一个充分条件.为了得到保守性更小的稳定性判据,给出所谓类Popov判据,它是上述GLLF存在的充要条件.(3)研究具有扰动输入的LDS的输入-状态稳定性.首先,根据正常系统输入-状态稳定性的概念和广义系统自身的特点,定义非线性广义系统的输入-状态稳定性.利用正常系统输入-状态稳定性理论,给出LDS输入-状态稳定性的一个基于LMI的充分条件,进而提出一个状态反馈控制器设计方法,使闭环系统是输入-状态稳定的.(4)研究一类非线性广义系统的观测器设计问题.系统的非线性项满足一个给定的二次不等式,在该条件下,把误差系统描述为一个LDS.于是,估计误差的收敛性问题就归结为LDS的稳定性问题.利用绝对稳定性的基本思想,给出一个全阶和降阶观测器的统一的设计方法.考虑一类带有扰动输入的非线性广义系统,系统状态方程和输出方程都含有斜率受限的非线性项.设计一个H∞状态观测器,使得误差系统指数稳定,衰减率大于或等于一个给定值,且H∞性能指标小于或等于一个给定值.此外,给出两个凸优化算法分别用来优化衰减率和H∞性能指标.(5)研究非线性奇异摄动系统的绝对稳定性和多目标控制问题.首先,给出两个引理,它们是构造依赖摄动参数ε的Lyapunov函数的理论基础.然后,分别利用依赖摄动参数ε的二次Lyapunov函数和Lur’e型Lyapunov函数,给出Lur’e型奇异摄动系统绝对稳定的圆判据和Popov判据.与现有结果相比,所得结果不需要对原系统进行分解,并能提供确切的摄动参数上界.最后,考虑T-S模糊奇异摄动系统的多目标控制问题.该问题把一个给定的摄动参数上界作为设计目标之一.利用依赖ε的Lyapunov函数给出一个基于LMI的控制器设计方法.