与其它普通行星传动系统相比,复式行星传动系统可实现更多传动比且结构更紧凑,因此大量应用于航空航天、航海等领域。但内部结构各齿轮高啮合频率会导致共振从而使系统噪音更明显。与此同时,齿轮齿面在高负重载工况下会演化出磨损、点蚀等故障,这些磨损劣化会进一步激励内部振动响应,而学术界对复式行星传动系统的动力学及磨损问题研究很少,基础理论有待完善,诸多技术难题亟待解决。因此,本课题针对复式行星传动系统的上述问题展开了以下研究:（1）设计、制造和搭建了复式行星齿轮箱健康状态监测试验台,设计了正常与不同程度点蚀齿轮健康状态监测试验方案用于对比分析振动与磨损信息,并分别介绍了振动信号、传动系统温度、表面形貌与磨损数据的采集设备与使用方法,为后续研究打下基础。（2）以设计的复式行星传动系统为对象,推导和计算了正常与不同程度点蚀齿轮时变啮合刚度模型。然后推导了复式行星传动系统9自由度纯扭转动力学模型,此模型考虑了时变啮合刚度、齿侧间隙和阻尼等因素,并分析了不同程度点蚀故障齿轮与传动系统动力学响应间的耦合关系,为后续磨损模型改进打下基础。（3）介绍了变分模态分解法（Variational Mode Decomposition,VMD）与模糊熵值指标算法,并提出一种基于VMD法和模糊熵值算法的振动信号指标提取方法。分别利用频谱分析法和VMD法对试验过程中采集到的振动信号进行特征提取,验证了第三章动力学模型的准确性,并评判了VMD算法的优势。将提出的信号指标提取方法用于振动信号模糊熵值特征提取,最终分析了模糊熵值指标的变化趋势。（4）根据Archard模型推导和搭建了齿面离散化磨损预测模型,预测及分析了各工况与各时间段齿面磨损演化趋势。在此基础上利用有限元法对齿面温度场进行建模与仿真,将其温度结果导入磨损预测模型进行改进与仿真,此外,将动力学响应仿真结果导入磨损预测模型进行改进与仿真。最终得到了振动与温度场交互作用下的齿面磨损预测模型,仿真分析了温度与动力学响应对磨损的影响。（5）介绍了复制胶膜的数据处理方法,测量及分析了沿齿长方向和齿宽方向的磨损轮廓,对第四章磨损预测模型进行验证。根据各时间段胶膜信息研究分析了齿面磨损演化趋势,并以齿轮表面形貌特征作为佐证进行研究,进一步对比验证了理论模型的准确性。最终对磨损与振动信号进行对比融合分析。