在机械系统中,其运动状态的失稳、分岔等非线性行为往往是导致振动和噪声问题突出的一个重要原因。然而在大部分振动系统中还存在着我们不易发现的隐藏振动。受初始条件的影响,系统在一定参数条件下可能存在着多种振动类型,部分周期振动可能会对机械系统造成损害。研究机械振动系统中共存周期解的稳定性与分岔,可以对机械系统的动力学优化设计,结构可靠性分析及提高设备的使用寿命提供参数依据。本文分别以Duffing系统和分段光滑机械振动系统为研究对象,应用延拓打靶法对系统共存周期解的稳定性与分岔进行了详细研究,具体工作如下:首先,以Duffing系统为研究对象。应用打靶法数值计算系统的共存周期解,通过Floquet乘子判断其稳定性。将延续算法和打靶法相结合,对系统共存的周期解进行延拓追踪,研究周期解的稳定性与分岔。结合吸引域,相图和Poincaré映射图揭示共存吸引子的吸引域随系统参数变化的侵蚀演变过程。结果表明:Duffing系统普遍存在多周期解的共存现象;鞍结分岔是共存吸引子产生或消失的重要原因,并且会导致其吸引域的拓扑结构发生突变;周期解的叉式分岔产生一个不稳定的周期解和两个稳定的反对称周期解;反对称吸引子的吸引域互相缠绕,导致系统的稳定性降低;当反对称吸引子经倍周期分岔进入或退出混沌时,会发生混沌吸引子的内部激变。然后,考虑了一种单自由度分段光滑机械振动系统。建立其动力学微分方程,推导了系统的解析表达式。根据分段光滑机械振动系统的特点,建立系统的局部映射,推导了系统复合映射的Jacobi矩阵。总结了几类特殊相轨线下系统的复合映射及其对应的Jacobi矩阵。推导了分段光滑振动系统的延拓打靶法,并利用简单打靶法求解了系统中共存的稳定和不稳定周期解。最后,以一类单自由度分段光滑机械振动系统为例。建立两种Poincaré映射,对系统两参数平面上周期振动的模式及分布区域进行计算。利用延拓打靶法对相邻基本周期运动和复杂舌形域内的亚谐运动的分岔特征、稳定性、转迁规律及全局动力学特性进行了详细研究,揭示了迟滞域和舌形域的形成机理,总结了相邻周期运动的分岔特征和转迁规律。结果表明:共存周期运动转迁时形成迟滞域,是由基本周期运动发生鞍结分岔或鞍结型倍化分岔（PD-SN）引起,迟滞域的边界为鞍结分岔曲线,边界的交点为鞍结分岔点。迟滞域内,由鞍结分岔产生的不稳定周期解恰好位于共存周期运动吸引域的边界线上。对于基本周期运动之间的简单舌形域,边界为基本周期振动的倍化分岔曲线,由基本周期运动在舌形域内失稳形成。在复杂舌形域内存在两种不稳定的基本周期运动,通过擦边分岔进行转迁。相邻基本周期运动经过迟滞域转迁时,p/1运动普遍通过鞍结型擦边分岔（SN-GR）转迁为（p+1）/1运动,不稳定的U（p+1）/1运动连接共存的两个周期解分支。舌形域内的亚谐运动转迁时存在倍化型擦边分岔（GR-PD）。