钢铁工业是国民经济的基础产业,为国民经济的快速发展做出了重要贡献。板带材作为钢铁工业的主干产品,随着工业技术的不断进步,社会各行业对其尺寸精度和表面质量也提出了更为严格的要求,但是由于轧机振动问题的存在,使得板带材产品质量和生产效率的提高受到了严重的限制。针对这一问题,本文以高速板带轧机为研究主体,通过理论分析、数值仿真及试验验证等多种手段对轧机多模态耦合振动的建模、稳定性分析及振动控制进行了研究。(1)以典型四辊轧机为对象,通过研究轧机系统结构参数灵敏度及模态特征,并结合轧机不同振动类型的振动特点,探索了轧机耦合振动结构模型的简化方法,提出了一种能够表征轧机垂直振动、扭转振动以及水平振动的轧机系统耦合振动结构模型,为其他机型轧机结构模型的简化提供了指导。(2)基于轧机上、下辊系对称性假设以及轧辊辊缝间金属均匀变形假设,并综合考虑轧辊的弹性压扁效应以及轧件的加工硬化效应,构建了同时存在垂直振动、水平振动以及扭转振动时的动态轧制过程模型；利用一阶泰勒展开式对动态轧制过程理论模型进行了线性化处理,进而构建了显式的线性化的动态轧制过程模型；为轧机垂直-扭转-水平耦合振动动力学模型的建立及稳定性分析奠定基础。(3)耦合动态轧制过程模型和轧机结构模型,构建了轧机垂直-扭转-水平耦合动力学模型；在此基础上,探索了系统的稳定性分析方法和临界控制参数的计算方法；以轧制速度为例,对系统的临界控制参数进行了求解,并与测试值对比,验证了所建轧机耦合振动数学模型的有效性和准确性；分析了轧机系统构在初始激励和周期性扰动下的动态响应,揭示了轧机系统的失稳机理；分析、验征并比较了轧制工艺参数及轧机结构参数对系统稳定性的影响规律及影响程度；结果表明,对系统稳定性影响较大且控的轧制工艺参数主要有压下率、前后张应力及摩擦系数；对系统稳定性影响较大的轧机结构参数主要有工作辊半径、机架间距L0及垂直子系统结构参数。这些研究成果可以为合理轧制工艺规程的制订和最优动力修改准则的提出提供理论指导。(4)在动态轧制过程模型中引入非线性摩擦系数,建立了基于非线性摩擦的轧机垂直-扭转-水平耦合振动动力学模型；利用Hurwitz代数判据求解了不同稳态轧制速度下系统Hopf分岔点的分布,确定了系统的稳定域,并揭示了不同工况下轧机系统的失稳机理。发现,引入非线性摩擦系数后,轧机系统的稳定域不再只受垂直振动模态控制,而是由垂直振动、扭转振动以及水平振动三种振动模态的失稳临界线拼接而成。最后,又详细的分析和比较了轧制工艺参数和轧机结构参数对各模态失稳临界线的影响,其中,对垂直振动模态影响较大的参数主要有：机架间距L0、压下率、垂直子系统结构参数及工作辊半径；对扭转振动模态影响较大的参数主要为压下率；对水平振动模态影响较大的参数主要有：压下率、轧件入口厚度、机架间距L。以及水平子系统结构参数。(5)基于考虑了非线性摩擦的轧机耦合振动动力学模型,分析了轧机系统在不同分岔点处的Hopf分岔类型；探索并提出了控制器的构造方法,分析并确定了控制器线性反馈量与非线性反馈量的选取原则；并以控制轧件后张应力的波动为例,构造了一个线性和非线性状态反馈控制器；利用Hopf分岔的Hurwitz代数判据研究了控制器对系统Hopf分岔的线性控制；利用中心流形定理和规范型理论研究了控制器对系统Hopf分岔的非线性控制；并利用数值模拟验证了理论解析结果的正确性和上述控制器构造方法及所设计控制器的有效性。