航空航天等领域随着现代工业的快速发展和激烈的市场需求，产品不断向高精度和高效率制造技术方向发展，其中钛合金材料在航空航天产品中占主导地位，但是由于钛合金典型零件具有形状复杂、刚性差、切削力大的特点，导致铣削中发生颤振问题，严重影响着表面质量和生产效率。因此，本文结合理论分析和试验研究，对铣削颤振过程振动非线性特征开展以下研究。首先，针对钛合金铣削稳定性中的颤振问题，进行铣削变切深试验，采用三维谱振法分析颤振过程信号，得到了信号在时、频域变化特点，为进一步探索颤振成因奠定了基础，同时以数值仿真模拟的方式对不同的铣削状况进行稳定域判定，保证了钛合金铣削时的稳定性。然后，针对颤振过程中的振动信号，采用非线性参数估计的方法定性的分析了振动各阶段的行为，研究表明铣削加工过程中存在混沌振动非线性行为，进而运用连续小波与高阶谱的方法提取颤振过程中的振动信号特征，结果表明在高频1800Hz以及低频40Hz时小波系数变化明显，双谱图中0.5kHz以上频带扩散行为显著，这一结果为后续分析提供了依据。其次，建立了非线性刚度与刀具偏心的非线性再生型颤振模型，应用数值分析的方法，定量的描述了刀杆偏心和转速对振动状态的影响，分析得到混沌振动对加工表面质量有直接的影响，并将仿真与试验对比，提出了李雅普诺夫指数、转速和切深的三维关系图以改善加工表面质量的新方法，这对航空航天典型钛合金零件表面质量的提高具有可鉴性意义。最后，基于理论研究成果进行了系统集成与应用软件开发的研究，开发了铣削系统动力学测试仿真软件，实现了信号分析及动力学仿真，并且其功能模块扩充了现有动力学软件的功能，对于科学研究和实际生产加工具有很好的指导作用。