在过去的几十年间,切换动力学系统作为混杂系统框架下的一种典型模型,它已经成为系统与控制领域中的热点研究方向之一。特别是,切换系统在稳定性与最优控制等方面已经获得了一些结果。然而,对于存在着某些逻辑切换或伴随着某些复杂约束的受限切换系统而言,稳定性分析与最优控制设计的研究尚存在很多不足并亟需进一步解决。例如:如何扩展基于传统受限切换律而展开的稳定性判据,以进一步降低某些受限切换系统在稳定性方面的保守性?如何刻画具有逻辑切换演化模式的新型受限切换系统,以进一步建立符合实际背景需求的数学化混杂模型以及它的稳定性条件?如何设计受限切换系统在路径约束下的新型最优控制算法,以进一步获得系统最优的切换控制、切换时刻以及切换次序?因此,稳定性与最优控制在受限切换系统上的研究具有重要的意义且不断充满了新的挑战。本文正是基于上述问题展开了一系列的理论研究,主要概括为如下几个方面:针对一类离散时间切换逻辑系统的稳定性问题,利用矩阵计算的半张量积工具,将一个切换逻辑系统等价地转化为一种代数系统。进而基于该系统,设计一种数字变换方法,并通过构造具有状态反馈的受限切换信号,推导出闭环代数系统在某一极限环（或不动点）处的全局镇定性充要条件。相比已有的切换关联矩阵方法,所设计的变换技术在一定程度上可以减轻矩阵运算方面的计算性负担以及存储性困难。针对一类连续时间循环切换系统的稳定性问题,提出慢环依赖循环驻留时间与快环依赖循环驻留时间等受限切换律,构造多李雅普诺夫函数,建立具有所有稳定或部分不稳定模式的循环切换系统的全局一致指数稳定性判据。相比已有的循环驻留时间切换律,所提出的两个新型循环切换律可以要求系统中的稳定与不稳定循环切换序列分别拥有属于自己的循环驻留时间。此外,在上述系统的基础上,进一步提出平均循环驻留时间、慢环依赖平均循环驻留时间以及快环依赖平均循环驻留时间等受限切换律,设计多李雅普诺夫函数,推导出循环切换系统在所有稳定或部分不稳定子系统情形下的全局一致指数稳定性条件。相比前三种循环切换律,后提出的三种新型循环切换律对于系统中的循环切换序列以及稳定与不稳定循环切换序列的运行时间设计更加灵活有效。针对一类连续时间切换系统的稳定性问题,提出一种受限的逻辑切换方法,刻画具有混杂演化特性的逻辑切换动力学系统。该系统是连续时间切换系统和离散时间逻辑系统在数学表征下的一种新型混杂模型。基于此系统,采用慢模式与快模式依赖平均驻留时间切换律、平均循环驻留时间切换律以及慢环与快环依赖平均循环驻留时间切换律,构造多李雅普诺夫函数与数字变换,建立同时具有连续与离散演化特性的逻辑切换系统在所有稳定或部分不稳定模式背景下的广义全局一致指数稳定性判据。此外,在上述连续时间切换系统的基础上,基于矩阵的半张量积方法,进一步设计一种受限的自动机依赖切换方案,建立具有混杂演化特性的自动机依赖切换动力学系统。该系统是连续时间切换系统和离散时间确定性有限自动机在数学刻画下的一种新型混杂模型。基于该系统,应用慢模式与快模式依赖平均驻留时间切换律以及慢环与快环依赖循环驻留时间切换律,设计多李雅普诺夫函数、数字变换以及反馈控制器,推导出同时具有连续流与离散跳演化的自动机依赖切换系统在部分稳定与部分不稳定子系统情形下的广义全局一致指数镇定性条件。针对一类连续时间切换系统在路径约束下的最优控制问题,引入仿射转换、互补松弛转换、分段线性参数转换以及精细时间尺度转换,将切换系统的约束最优控制问题转化为一种仿射系统的约束动态参数优化问题。特别是,切换控制、切换时间和切换信号在一系列数值转换技术中得以参数化处理。基于转化后的问题,提出一种多维无惩罚型算法,计算出原系统的最优切换控制、最优切换时刻以及最优切换次序等数值解,并证明所提数值算法的全局收敛性。相比已有的罚函数方法,所设计的新型算法可以避免惩罚参数选择性困难所造成的保守性。针对一类切换刚体系统在控制约束下的最优姿态控制问题,设计切换李群以及切换李群离散变分积分策略,建立具有正交矩阵群特性的连续时间或离散时间姿态切换动力学模型。与现有的欧拉角、最小表示以及四元数法不同,所提策略可以避免传统建模方法所带来的局部性、奇异性以及歧义性。基于所建立的模型,求解刚体在固定机动时间内从初始姿态和角速度对到期望姿态和角速度对的切换过程,以及具有控制饱和的最小能量消耗,提出一种能量最优的几何切换控制方案,并推导出连续或离散的几何最优切换控制以及最优切换时间等必要性条件。所获条件可以保证刚体姿态切换动力学模型的固有几何特性在优化计算过程中不会丢失。