伺服系统是工业生产必不可少的组成部分。由于技术工艺的原因，摩擦、死区饱和等非线性不可避免的存在于各类伺服系统之中。这些非线性在特定条件下会引发系统产生极限环，严重影响系统性能的提高。分析非线性环节与其引发的极限环之间的关系，对于抑制振荡，提高伺服系统性能有着十分重要的意义。对于摩擦、死区等强非线性，通常可利用描述函数法来描述其静特性。本文基于典型的机电伺服系统，借助描述函数法的原理，分析了摩擦、间隙等非线性因数引发系统的极限环振荡的原因及其特征信息，并对分析结果进行了仿真验证。在实际应用中，很难获得系统的精确模型。针对模型不确定系统，借助经验模态分解（EMD）、功率谱分析（傅里叶变换）及相关性分析等数据处理方法，本文推导了系统输出数据估计极限环的过程，实现了对系统中存在的一个或多个极限环的估计，并进行了仿真验证。基于滑模变结构控制的基本原理，提出一种改进的二阶变结构滑模控制器。通过适当调节控制器的参数，可以实现其负倒描述函数曲线在第三、四象限内灵活旋转，进而改变极限环振荡的幅值和频率。利用这一特性，针对非线性引发的系统振荡，基于其特征信息，选取适当控制器参数，即可避开系统固有振荡频率，到达抑制振荡，提高系统性能的目的。并通过仿真，验证了方法的可行性。基于IMDU半实物仿真实验平台，搭建含摩擦的两惯量伺服实验系统，将改进的二阶变结构滑模控制器应用于速度控制实验，取得良好的实验效果，验证了方法的可行性。