混杂系统是既有动态过程，又有离散事件过程的一类复杂系统，这类系统更接近实际工程，有广泛的应用。切换系统是特殊的混杂系统，已经成功地应用到诸多领域，受到人们普遍的关注。 稳定性问题是分析系统的首要问题，首先对切换系统的稳定性，进行了比较全面、深入的探讨，得到线性切换系统和非线性切换系统稳定性的一些结论。在稳定的前提下，提出并讨论了线性切换系统的最优切换律问题，给出最优切换律的设计方法。 通过矩阵束，可以判别切换系统的稳定性。分析了二阶线性切换系统的矩阵束，得到关于矩阵束的迹、行列式和特征值的一些结论，给出系统稳定的一种代数判据。对等时切换系统的稳定性，进行了仿真实验。 给出线性切换系统渐近稳定的谱半径判别方法。通过计算矩阵指数的谱半径，可以很方便地判断系统的渐近稳定性。 由于非线性系统的高度复杂性，只能对一些特殊的非线性系统进行研究。本文考虑了一类非线性循环切换系统，分别在确定切换律和任意切换律下，设计了系统的稳定域。 稳定的线性切换系统，向平衡点收敛。选择不同的切换律，收敛的过程就不一样，因此存在最优切换律。本文分别研究了基于范数、基于收敛路径、基于收敛距离和基于收敛方向的最优切换律问题，通过解矩阵方程，确定最优切换律。综合考虑各种情况，给出综合最优切换律，按照综合最优切换律，可以全面地反映出收敛过程中系统处于一种最优状态。 通过实际例子的计算，对稳定判据的使用过程有了更清晰的了解。