板带轧机是钢铁工业中的关键核心设备，随着轧制速度和强度的不断提高，轧机传动系统频繁出现异常扭振失稳现象，严重影响轧制生产，制约轧制效率和产品质量的提升。本文以板带轧机传动系统为研究对象，在考虑参数激励及多种非线性因素的基础上，建立轧机传动系统参激扭振动力学模型；从定性和定量两方面研究参数激励作用下轧机传动系统的扭振失稳机理；研究结构参数和轧制参数对传动系统稳定性的影响规律。在此基础上对失稳现象进行控制研究，为轧机传动系统的结构优化设计、动力学控制、故障预防与处理等方面提供理论基础。基于广义Lagrange原理，考虑参数激励非线性刚度，负载非线性阻尼等非线性因素建立板带轧机参激扭振动力学模型，丰富了扭振失稳研究的理论模型。在建立的板带轧机非线性参激扭振动力学模型的基础上，采用非线性振动理论中的多尺度法对不同工况下板带轧机参激扭振动力学模型进行了求解，得到系统在主共振下的幅频调制方程及分岔响应方程。对系统的分岔响应方程进行稳定性分析。对准周期参激扭振系统的Jacobi矩阵进行分析，得到系统解的稳定性；应用奇异性理论研究了考虑接轴倾角参激非线性扭振模型的稳定性问题，给出了系统转迁集上不同区域内分岔曲线的拓扑结构；揭示板带轧机主传动系统的扭振特性及规律。对于参数激励对主传动系统可能产生的失稳影响，在以上理论分析的基础上，采用时滞反馈控制的方法对板带轧机主传动系统的失稳现象进行控制，为抑制或避免传动系统的失稳现象提供理论依据，数值仿真验证控制方法的可行性和有效性。