微分方程普遍应用于动力系统中,根据微分方程右端函数是否连续可将动力系统划分为光滑动力系统与非光滑动力系统两种类型,依据微分方程右侧函数的光滑度又可以将非光滑动力系统划分为连续但不可微非光滑系统、Filippov型非光滑系统,脉冲非光滑系统.碰撞、冲击、摩擦和电子系统中的二极管等非光滑因素往往存在于应用科学领域和工程生产领域中的机械系统中,这致使非光滑动力系统的研究越发的靠近现实应用,因此对于非光滑系统的研究具有重大实际意义.集值分析及微分包含理论主要是针对右端函数不连续型微分方程的研究提出的,其为右侧不连续型的微分方程的研究开拓了又一片新天地.本论文分为下面几部分进行研究工作：第一章中对非光滑系统及微分包含理论的海内外研究近况,本文选题的目的、意义,以及该领域存在的问题做了简单介绍,并对本文的主要内容安排做了简单说明.第二章介绍了集值映射及微分包含的一些基础性概念和理论.其中包括集值分析中集值映射的定义,微分包含理论中微分包含的解及存在性,非光滑系统中基本解矩阵和跳跃矩阵的建立,以及研究周期解稳定性的有力工具Floquet理论,最重要的是将右端不连续微分方程转化为标准形式的标准化方法和Filippov凸方法,还介绍了研究数值模拟过程中要用到的Poincare映射,这些基本理论构成了本章以后深入研究工作的理论基础.第三章在第二章的理论基础上对一类含有干摩擦项的单自由度干摩擦振动系统进行理论分析,建立数学模型并通过Filippov凸方法将其化为标准的微分包含形式,然后分别对被分界面划分成的两个子空间上的光滑函数及其轨线在分界面上的情况进行基本解矩阵和跳跃矩阵的求解,在此基础上再通过求解全局基本解矩阵的特征值也即Floquet乘子,运用Floquet理论这一有力工具进行周期解稳定性及分岔行为的研究.在此之后通过数值仿真运用分岔图、庞加莱截面图等模拟结果进行进一步的分析与讨论.第四章采用同第三章相似的理论与方法,对含有碰撞间隙的一自由度碰撞振动动力系统进行动力学行为研究,根据运动振子与碰撞面是否发生接触将其运动行为分为两种情况,并选取碰撞面为分界面,通过Filippov凸方法将其标准化为标准微分包含形式,在此基础上讨论系统动力学行为.并通过数值仿真得出系统关于外激力频率的变化而出现的一系列分岔现象.第五章对一类刹车干摩擦耦合振动动力系统进行动力学分析.两自由度干摩擦耦合振动系统比起单自由度系统具有更为复杂的动力学行为,本章以两质块相对速度为零时作为分界面,将系统数学模型化为标准的微分包含形式,然后采用前面章节提到的理论方法对其进行粘滑振动动力学分析,给出在不同条件下发生粘滞及滑动的条件.结合数值模拟得出的一系列分岔图、庞加莱截面图等综合分析说明了耦合振动系统的运动行为极为复杂,揭示了两质块相互之间的耦合作用产生的分岔现象.第六章总体对本文做了概括总结.