由不同尺度耦合的非光滑系统具有广泛的实际工程背景。非光滑分岔可导致这类耦合系统表现出复杂的动力学行为。对这些动力学行为的研究已经成为非线性动力学研究的热点之一。本文运用非线性动力学的分岔理论、Filippov理论和数值仿真等方法,研究两尺度耦合的非光滑系统的簇发振荡行为及其产生机理,深入分析几类非光滑分岔对簇发振荡的影响。研究内容主要围绕两类非光滑系统展开:一类是向量场分段光滑且连续的系统,即分段光滑连续系统;另一类是向量场分段光滑但不连续系统,即Filippov系统。本文的主要工作有以下几个方面。（1）利用四阶Chua电路,通过引入周期外激励与分段非线性电阻构造了一个分段光滑连续系统。当外激励的频率与系统的固有频率产生量级差异时,观测到了系统的一系列的簇发振荡行为。除了常规的fold分岔和Hopf分岔外,快子系统中还存在非光滑Hopf分岔和非光滑极限环的fold分岔。研究发现,非光滑Hopf分岔可导致稳定的非光滑极限环的产生;非光滑Hopf分岔会导致与常规Hopf分岔类似的慢通道效应;由光滑的与非光滑的极限环的fold分岔分隔的多个激发态吸引子导致的激发态可以合并为一个“大”的激发态;对称的非光滑系统中存在不对称的簇发吸引子。（2）利用三阶Chua电路,构建了另一个分段光滑连续系统。将慢变量作为分岔参数,采用理论与数值相结合的方法对快子系统进行了分岔分析。在快子系统中发现了三种非光滑分岔,分别是非光滑Hopf分岔、C-分岔和非光滑极限环的grazing分岔,其中C-分岔是由非光滑Hopf分岔和常规的超临界Hopf分岔导致的稳定的极限环在切换流形处相碰引起的。研究中还发现了时滞C-分岔的存在,它可引起系统轨线的多种转迁模式,包括两种不常见的从激发态向fold分岔点附近以及从激发态向Hopf分岔点附近的反向跳转模式。（3）以三阶Chua电路为基础,构建了一个含有一个切换流形的Filippov系统。在边界平衡点发生persistence型分岔的条件下,在系统中发现了非光滑极限环的边界同宿分岔,以及有滑动分段的非光滑极限环的fold分岔。研究发现,只有当慢变量穿过边界同宿分岔点时才会发生簇发振荡,否则轨线会被滑动向量场的稳定的伪结点吸引而趋于该伪结点;系统在切换流形上的沉寂态吸引子可以由单个伪平衡点构成,且系统滞留在该点附近的时间可以解析地得到。（4）继续以上述第（3）部分中所建立的Filippov系统作为研究对象。当该Filippov系统的边界平衡点分岔为非光滑fold型时,在快子系统中观测到了局部adding-sliding分岔与非光滑极限环的crossing-sliding分岔,同时也观测到有滑动段的穿越切换流形的非光滑极限环的fold分岔。研究发现,边界平衡点的非光滑fold分岔可引起轨线从切换流形向子系统的吸引子的跳转;Crossing-sliding分岔不改变非光滑极限环的稳定性,但是会改变它的拓扑结构,因此非光滑极限环的crossing-sliding分岔不是激发态和沉寂态之间转迁的重要分岔;快子系统中存在的轨线的局部adding-sliding分岔能引起耦合系统的极限环的adding-sliding分岔,在adding-sliding分岔发生之前或之后的簇发振荡中会含有加-滑结构。