四旋翼无人机相比传统的固定翼无人机有着更好的灵活性和机动能力,可以在比较复杂的环境中完成难度较高的任务,已经广泛用于军、警、商、民等各个方面。由于四旋翼无人机有着欠驱动、非线性、强耦合、多变量的特性,在飞行控制上较为困难,飞行控制技术也是四旋翼无人机当下的研究热点之一。本文在无人机控制系统的研究主要有以下内容:首先,根据四旋翼无人机的刚体结构和飞行原理,使用牛顿-欧拉法对四旋翼无人机构建了非线性动力学模型。并在动力学模型的基础上设计了控制系统框架,分别为姿态控制和位置控制内外两个闭环控制。其次,在姿态控制上结合自抗扰算法和反步法形成反步自抗扰控制算法。对比结果表明:反步自抗扰算法相比其他控制算法有着更好的控制精确度和抗干扰性。实际中,通过搭建无人机姿态实验平台验证了自抗扰算法相比PID在姿态控制上有更好的控制效果。然后,由于自抗扰算法参数众多,虽然和反步法结合后控制效果更好,但是没有解决自抗扰算法参数整定的问题。为了能选取更好的参数,本文根据自抗扰算法参数的特点,对PSO优化算法进行改进,形成双空间PSO优化算法对自抗扰算法进行参数整定。仿真结果表明:该算法相比其他优化算法提高了优化速度,优化后的参数控制效果明显优于优化前的参数。最后,在位置控制上,发现了常用的位置PD控制在定点巡航和轨迹跟踪两种模式中参数不兼容的问题。为了解决该问题,在PD控制的基础上引入安排过渡过程的思路,使得在两种模式下参数一致,并且提高了控制性能。进一步适配了自抗扰控制以提高控制效果,但是考虑到控制效果和实际的硬件性能限制,在位置控制上建议使用引入安排过渡过程的PD控制。