目前,切换系统已经是系统控制科学中一类重要模型,是系统控制理论研究的一个国际前沿方向。切换系统是由一族子系统和协调它们之间切换的切换规则组成。至今,切换系统的稳定性分析是切换系统理论研究中最热门的课题之一。但是,在大部分研究结果中要求切换系统的所有子系统都是稳定的,这样保守性很大。对于一个切换系统,即使所以子系统都稳定,如果切换规则设计不当将导致整个系统不稳定;而所有不稳定的子系统,通过设计合适的切换规则,也可以使整个切换系统达到稳定。切换规则的引入使系统的动态行为大为丰富,也为控制带来了很大的方便,因此有必要对其进行深入研究。在实际工程中,不稳定子系统不可避免,那么就需要我们通过设计合适的切换规则使整个系统稳定。本文针对具有不稳定子系统的切换系统对其镇定性进行研究,主要内容分为以下几个方面:首先,针对既有部分不稳定子系统又包含非线性干扰的切换非线性系统,采用稳定子系统作用“补偿”不稳定子系统影响的思想,结合新提出的基于模态的平均切换频率方法,设计了能够保证系统有限时间镇定的切换率以及每个子系统的最大平均切换频率,给出了具有较小保守性的有限时间镇定的充分条件,研究了一类切换非线性系统的有限时间镇定问题。其次,进一步讨论了当所有子系统都不稳定时,离散切换系统渐近镇定性的问题。进入每个子系统的内部并分析它的动态行为,采用其内部稳定的子状态作用“补偿”不稳定子状态的影响的思想。利用动态分解的方法把系统转化为一个内部解耦的切换系统,针对每个子状态系统进行分别研究。设计一个公共的切换规则使整个离散切换系统达到镇定。最后,考虑了所有子系统都不稳定的离散切换奇异系统模型,同样采用每个子系统内部稳定的子状态的作用“补偿”不稳定子状态的影响的思想,通过动态分解方法,将离散切换奇异系统化为降阶的一般离散切换系统,从而使问题简单化。基于平均驻留时间且采用两种不同的方法(Lyapunov方法和状态转移矩阵方法)分别设计合适的切换规则,并针对两种方法得到的结果作分析和比较。