四旋翼无人机能够垂直起降、自主悬停,具有体积小、重量轻、控制灵活等优点,在农业、工业、国防等领域得到了广泛的应用。然而,四旋翼无人机系统本身比较复杂且对扰动非常敏感,因此,导致无人机的控制十分困难。本文利用分数阶微积分算子对函数的历史消息具有一定的记忆性等特点,将其引入传统滑模控制理论中,并对由此形成的分数阶滑模控制理论展开研究。以现代四旋翼无人机轨迹跟踪控制问题为背景,综合考虑四旋翼无人机轨迹跟踪控制中模型欠驱动、非线性和存在外部扰动等因素,设计具有较高控制精度、强鲁棒性和良好抗干扰性的分数阶滑模控制律。主要研究内容包括:首先,对四旋翼无人机的飞行原理和两个坐标系间的转换关系进行了详细的分析和推导,然后依据牛顿-欧拉法建立四旋翼无人机在小角度飞行下的动力学模型,并通过对其动力学模型特性的分析确定四旋翼无人机飞行控制系统的控制目标和控制原理框图,为后续无人机的控制系统设计做准备。其次,综合分数阶方法具有良好的鲁棒性以及调节灵活性和积分滑模面的优点,在滑模控制的趋近律设计部分引入分数阶微积分算子,构造出改进的分数阶指数趋近律,进而将其和传统积分滑模面相结合设计出了一种新的分数阶积分滑模控制器,并应用于四旋翼无人机飞行控制系统。为了取得更好的控制效果,使用粒子群优化算法对控制器参数进行优化,并将该方法与PID和整数阶滑模控制器通过多组不同的实验进行对比,验证该方法的可行性和优越性。最后,考虑到无人机在自然环境下所受的扰动,设计了分数阶滑模自抗扰控制器。主要思想是利用自抗扰控制算法中的状态观测器对系统所受扰动进行估计,包括内扰和外扰,然后将估计扰动补偿给控制系统,以此提高控制系统抗扰能力。最后通过多组不同的实验来验证该方法的稳定性、鲁棒性和抗扰性。