本论文对混合动态系统的建模方法、稳定性以及跳变系统的最优控制等问题进行了研究，论文共分五章． 本文首先分析综述了国内外混合动态系统理论的研究历史、现状以及本文所研究的四部分的意义．第二章对于目前的混合动态系统的稳定性研究进行了综合分析，用混合动态系统的理论对脉冲调宽采样控制系统进行研究，将脉冲调宽采样控制系统置于HDS的模型框架中，并给出了脉冲调宽采样控制系统的稳定性定义，证明了采样周期时变的情形下脉冲调宽采样控制系统满足一定条件时的稳态稳定性． 在第三章中，以现有的混合动态系统模型为基础，提出了改进的混合动态系统的六元组模型，此模型可以很好的涵盖现实中的混合动态系统的例子，在此模型下，定义了HDS稳定性，并提出了HDS的最优控制问题．我们首先讨论一类特殊的混合动态系统——确定性跳变系统，为了更清楚的了解混合动态系统最优控制问题中跳变所产生的影响，我们对系统的光滑性条件要求较强，从而可以用变分学的方法来研究．分别在跳变时刻固定、自由以及跳变时刻状态受约束的情形下，研究了最优控制满足的必要条件，可以很清楚的看到在跳变系统的连续部分，最优控制问题与连续动态系统的情形完全类似；在子系统之间的接口处，协态向量与跳变规则、跳变费用满足一定关系，即跳变所产生的影响． 接下来，本文研究了系统光滑性较弱时确定性跳变系统的最优控制问题，在此情形下变分学的方法将不再适用，我们选择连续动态系统中的方法，首先建立系统的变分方程，利用最优控制使得费用泛函极小的特性，得到了一个辅助定理，进而详细证明了确定性跳变系统的最大值原理，在子系统之间的接口处满足的条件与光滑性条件较强时的情形是一致的． 在研究了确定性跳变系统的最优控制问题的基础上，本文最后讨论了更一般的情形，即脉冲跳变系统的最优控制，此时跳变后的状态与跳变前的状态是无关的，我们将这种选择性的跳变称为整个系统离散控制．首先分析分析了光滑性条件较强而且跳变目的集合为开集合的情形，我们用变分的方法证明了最优的混合控制(包含连续和离散控制)所满足的必要条件．接下来从混合的角度出发，引入了混合Hamilton函数的定义，并且证明了当假设条件较弱时，若混合控制是最优控制问题的解，则定义的Hamilton函数满足混合空间的最大值原理．