风电机组故障率高是造成其平均可利用率低的主要原因之一,会导致风电场发电量损失和维护费用增加,从而造成风电场运营成本的增加。因此降低风电机组故障率是提高风电场运营效益的重要途径之一。带有齿轮传动系统的风电机组是目前风电市场的主流机型,并且齿轮箱是此类风电机组中故障发生率较高的部件,因此研究风电机组齿轮传动系统的动态特性、系统故障时的特点和影响以及故障诊断的方法对了解风电机组运行状态、及时发现并准确定位风电机组故障、预测机组运行状态的趋势、制定风电场维修计划、提高风电机组运行可靠性等具有重要的理论意义。在本文中,以风电机组齿轮传动系统为研究对象,研究了其正常状态下和齿轮故障状态下的动态特性及系统故障诊断方法。主要工作包括：(1)根据牛顿第二定律,应用集中参数法建立了风电机组齿轮传动系统扭转振动模型,深入分析了系统的固有特性,并应用灵敏度分析方法,分析了系统参数对其固有频率的影响。(2)综合考虑了风电机组齿轮传动系统中直齿轮副和斜齿轮副时变啮合刚度激励和误差激励,利用数值分析方法,求解得到了风电机组齿轮传动系统振动响应的数值解及其功率谱。(3)建立了风电机组齿轮传动系统齿轮故障模型。分析了故障齿轮的动态特性,研究分析齿轮出现不同故障后对整个齿轮传动系统动态特性的影响,从而为风电机组齿轮传动系统的分析、检测和诊断提供有效的分析方法和诊断依据。(4)提出了一种风电机组齿轮传动系统柔性建模方法。通过在齿轮副中添加虚拟刚体和利用ADAMS中柔性连接功能的方法来模拟齿轮副时变啮合刚度；并采用轴离散化处理的方法模拟齿轮轴的扭转变形,实现了风电机组齿轮传动系统模型的柔性化,使虚拟样机更接近真实的物理样机,并且具有清晰的物理意义,方便根据实际需要修改动力学参数。仿真结果表明,齿轮啮合刚度时变性和轴的扭转变形对系统振动响应特性有明显影响。(5)提出了一种基于改进粒子群优化BP神经网络的风电机组齿轮箱故障诊断方法。引入聚类分析中类内距的误差平方和准则和遗传算法中交叉算子的概念,保证了粒子群中粒子从初始化到搜索后期始终保持多样性,降低了粒子群陷入局部最优的风险。利用改进粒子群算法对BP网络权值和偏置进行优化,减少了BP神经网络算法陷入局部最优解的风险,提高了神经网络的训练效率,加快了网络的收敛速度。针对风电机组齿轮箱振动信号的不确定性、非平稳性和复杂性,提取功率谱熵、小波熵、峭度、偏度、关联维数和盒维数作为故障特征。经过对风电场实际采集数据的分析,验证了此种故障诊断算法收敛速度快、判断准确。