尽管人字齿轮对制造工艺、安装精度要求较高，但凭借其承载能力大、轴向力相互抵消、传动平稳等特性，从而被广泛应用于车辆、船舶等重型机械传动系统。随着现代工业的高速发展，传动系统对人字齿轮的传动可靠性、振动噪声控制等方面提出了更加严格的要求。建立合理有效的人字齿轮系统振动传递模型，在人字齿轮系统的设计阶段就对其动态响应及结构噪声特性进行预估，从而制定合理的减振降噪措施，已成为目前齿轮系统设计中的一项重要任务。本文通过振动理论分析，借助轮齿承载接触分析(LTCA)、有限元法(FEM)等方法，从齿面振动激励源、振动载荷传递、齿面修形减振设计以及试验测量等关键技术问题进行了深入讨论和研究。论文主要进行了下列研究：(1)基于运动学和啮合基本理论，推导齿面间的基本啮合公式，建立综合运用有限元法、法向综合柔度矩阵以及变形协调方程的考虑人字齿轮小轮轴向浮动的承载分析模型，并在此基础上提出轮齿啮合刚度计算方法，分析多载荷下轮齿啮合刚度变化规律，并将计算的轮齿啮合刚度与经典计算方法进行实例比较，最大偏差不超过15%。(2)从啮合冲击产生机理出发，详细阐述线外啮入冲击起始位置、啮合冲击速度、啮合冲击力以及线外啮合冲击时间的推导分析过程，提出考虑重合度的线外啮合冲击力计算模型，同时分析不同外载荷、不同激励转速对线外啮入冲击力和线外啮合冲击时间的影响，着重分析不同重合度下线外啮合冲击力的变化趋势。(3)建立考虑时变啮合刚度、线外啮合冲击、齿面摩擦激励以及齿侧间隙影响的滚动轴承支撑人字齿轮十二自由度耦合动力学模型，分析各激励成分对系统振动特性的影响比例；根据人字齿轮典型的小轮轴向浮动的滚动轴承支撑方式，综合考虑轴承内部承载滚子载荷分布，计算两端支撑轴承上所承受的每一瞬时动载荷；在此基础上建立考虑轴承内外圈及滚子振动位移的圆柱滚子和圆锥滚子轴承振动模型，计算箱体轴承孔内壁动载荷，分析人字齿轮传动系统振动传递特性；在齿面动载荷的基础上求解齿面接触、齿根弯曲动应力，并计算齿轮系统动态传动效率。(4)建立同时考虑齿轮箱体以及箱体内润滑油流固耦合的有限元模型，对其进行固有特性分析，为验证箱体动力结构设计是否合理，计算实际动载荷下的箱体谐响应特性，对箱体轴承孔内壁施加时变动态载荷进行稳态动力学求解，预估箱体机脚及指定考查点处振动加速度级结构噪声，并与全有限元模型计算结果进行比对，最大偏差为3.29%。(5)分别从振动激励源(齿面啮合)和振动传递(箱体结构)两方面对系统进行减振降噪设计，齿面啮合质量方面，在多载荷工况下对人字齿轮小轮齿面进行多动力学目标的齿面三维修形优化设计，最大减振率达到20.42%；箱体结构方面，首先对箱体进行以静动态相结合的结构拓扑优化，以确定允许减重以及亟需加强部位，最后据此选定箱体参数具体优化变量对箱体进行动力学优化，考查点振动加速度最大降低幅度达到18.3%。(6)搭建人字齿轮传动系统动力性能测试封闭功率流试验台，利用单激励多响应原理(SIMO)对齿轮箱体进行模态参数识别，选用德国海德汉圆光栅对修形前后主被动齿轮转动角度进行高精度测量，得到齿轮传动误差以及端面啮合线方向相对振动加速度，同时通过加速度计测量箱体轴承凸台以及机脚振动加速度，与理论分析结果保持了较好的一致性。