含有特殊结构诸如非光滑、时滞、随机等非线性动力系统具有丰富的动力学现象，传统的非线性理论无法用来直接探讨其中的复杂行为，需要发展专门的理论和方法，因而成为当今非线性动力学发展的重要方向，也是当前国内外的前沿课题之一。　　本论文主要围绕存在切换及不同时间耦合两种特殊结构开展工作，探讨由特殊结构导致的各种动力学行为及其产生机制。　　针对切换结构，本文建立了两种形式外作用力之间周期切换下的离心调速器系统的动力学模型，其中，状态变量分别由周期激励下自治子系统和非自治子系统控制。可以发现在自治子系统中存在着两种分岔类型，其中Hopf分岔会导致周期性振荡的发生，而Fold分岔可造成平衡点的消失。随着周期的切换，其动力学常常表现为相同频率的周期振荡，切换点将轨迹分别划分为由两个子系统控制的两块区域。我们可以发现倍周期分岔序列与Floquet乘子穿越单位圆的方式有关，会引起系统向混沌振荡演化。此外，由于向量场的对称性，可以得到两个吸引子相互对称，随着参数的变化，两个吸引子可能会相互作用形成一个扩大吸引子。广义Hopf分岔导致了周期运动和概周期运动交替出现的行为。　　针对不同时间尺度耦合，本文研究了两时间尺度下非线性动力系统的簇发振荡，探讨了系统轨迹在经过多个分界面时产生的特殊簇发现象，揭示了不同的簇发现象的发生机制以及非光滑分岔对簇发振荡行为所构成的影响。对于周期参数激励振子来说，由于其激励频率和固有频率之间存在着量级差距，所以不存在明显的快慢子系统。通过引入广义自治系统及转换相图，我们可以建立一个典型的模型，根据此模型可以得到不同类型的簇发振荡机制。此外，簇发振荡的一些现象如对称破裂行为可以通过发生在沉寂态和激发态之间分岔来解释。　　最后，对本文的工作进行了总结，指出其中的不足和尚未解决的问题，并对未来进一步研究进行了展望。