轧机作为现代钢铁工业中的核心设备之一，在钢铁生产中具有举足轻重的地位。轧机在轧制生产过程中产生的振动一直以来是困扰钢铁行业中产品质量提高的技术难题，严重制约着轧制产品质量的提升和生产效率的提高。为了得到有效抑制轧机振动的策略，确保轧机系统运行稳定性，提高轧制产品的质量，轧机振动问题的研究已成为学者关注的重点。基于广义耗散Lagrange原理，考虑轧机中不同的非线性因素，分别建立了接轴刚度参激变化下的两自由度扭振动力学模型、含间隙多自由度扭振动力学模型、轧件对称滞后变形下辊系垂直振动模型、轧件不对称滞后变形下辊系垂直振动模型和液压缸弹性约束下辊系多分段非线性板带轧机垂直振动模型。这五种模型可为进一步研究轧机非线性振动特性提供理论基础。采用多尺度法、增量谐波平衡法等非线性求解方法求得各个模型的近似解析解，分析轧机在参激、接轴间隙、轧件滞后变形和液压缸约束下的多分段等不同非线性因素影响下的振动特性，研究随着不同参数变化对轧机稳定性的影响规律。运用奇异性理论分析轧机振动系统的稳定性，并得到轧机非线性振动系统的失稳临界条件。研究基于HHT的非平稳信号时频分析方法，提出边界特征尺度延拓方法，通过采用信号内部和边缘处变化趋势最为相似的子波来对端点处数据进行延拓，抑制HHT时频分析中的端点效应问题。以1780热连轧机传动系统扭振、机架辊系垂振振动测试数据为例，运用HHT方法对实际轧机传动系统扭振和轧机辊系垂直振动信号进行了特征提取，验证轧机中存在的参激、接轴间隙、轧件变形滞后和液压缸作用下表现出的多分段等不同非线性因素对轧机传动系统扭转振动和轧机辊系垂直振动特性的影响。通过研究发现系统在不同非线性因素影响下会产生相应的非线性振动行为，给板带轧机的稳定轧制造成不利影响，当非线性程度达到一定程度时系统就会出现轧制失稳现象。通过稳定性分析发现轧制参数在一点范围内波动时轧制稳定性随之变化，利用振动系统失稳临界条件可以给出稳定轧制参数区域，给轧制生产中工艺参数设定提供指导。