近年来,随着电力电子技术、自动控制理论的快速发展,永磁同步电机（Permanent magnet synchronous motor,PMSM）的使用越来越广泛,在电动汽车、电器、新能源领域都得以运用。基于滑模观测器的PMSM无位置传感器调速系统,可以实现电机良好的调速控制,得到了广泛应用,但是无位置传感器的PMSM滑模控制仍存在抖振和滑模观测器精度不足等问题,本文以PMSM矢量控制系统为研究对象,开展了新型非奇异终端滑模观测器、非线性扩展状态观测器、分数阶非奇异终端超扭转速滑模控制器的研究。首先,对PMSM的原理和结构进行研究,利用坐标变换,建立其在不同坐标系中的数学模型,设计了基于滑模观测器的PMSM无位置传感器矢量控制方案。其次,针对传统无位置传感器控制中滑模观测器对反电动势检测时存在的抖振问题,提出了一种新型非奇异终端滑模观测器设计方法,提高了反电动势的估计精度。为了进一步减小位置和转速估计时的抖振问题,提出了一种正切函数锁相环观测器,将其与新型非奇异终端滑模观测器相结合,提高了系统的收敛速度,降低了抖振,减小了系统估算时的误差。针对在传统转速滑模控制中存在的抖振问题,提出了分数阶非奇异终端超扭滑模控制方法,同时为了提高系统的抗扰动性能,采用非线性扩展状态观测器来估计系统扰动,并用于前馈补偿。设计了一种分数阶非奇异终端超扭滑模控制和非线性扩展状态观测器复合转速控制策略,基于改进的滑模观测器构建了PMSM双闭环调速系统,减小了抖振,增强了系统的鲁棒性。最后,在Matlab/Simulink环境中分别对分数阶非奇异终端超扭转速滑模控制器、非线性扩展状态观测器和改进滑模观测器进行模型搭建,完成了基于复合滑模控制的PMSM无位置传感器控制系统的仿真。仿真结果表明,与传统的控制方法相比,本文所设计的方法能够有效减小系统抖振,收敛速度较快,系统控制效果良好。