大型机电设备在工业生产中占有非常重要的地位，保障大型机电设备的安全运行具有非常重要的经济意义与社会意义。因此，正确分析系统的当前状态是一个必经环节，其中，非平稳信号分析技术又是状态分析方法中的重中之重。本论文针对非平稳、非线性状态下的机电系统状态监测中的信号分析技术进行了研究。 本文首先阐明了大型旋转机械系统状态监测、故障诊断技术的国内外发展趋势、研究目的及上述两者相关的重大经济和社会效益。 然后具体的分析了大型机电系统故障发生的原因及常用信号处理方法，接着重点介绍了现有的一些非平稳振动信号和非线性振动分析方法，并从原理上论述了各自的不足。引入了一种基于经验模态分解的称作希尔波特-黄变换的信号分析技术，从理论上分析了它的优越性。 最后阐述了经验模态分解中端点效应的概念，并从各种途径进行了抑制端点效应的研究。结果表明，如果考虑到实时性和数据占用的空间，镜像极值延拓的综合效果最好，多项式拟合极值延拓法次之，平行线段极值延拓再次，神经网络的分析效果很好，但需要的时间和空间都最大。同时在本人的研究基础之上，根据非平稳信号处理方法的发展趋势，提出了今后的研究方向。