四旋翼无人机以其体积小、机械结构简单、控制代价小、可垂直起降、能自主悬停等优势，在军事和民用领域都得到了广泛的应用。对于其自主轨迹跟踪控制系统的研究，是保证其安全飞行、适应多变应用场景、顺利完成任务的关键。进一步地，多四旋翼无人机系统有着单四旋翼难以企及的优势，通过编队协同适应更多应用场景、覆盖范围更广、工作效率更高，有着深远的研究意义。本文在深入研究四旋翼模型特性的基础上，设计了鲁棒的轨迹跟踪控制系统和编队控制方案，并进行了室外飞行实验验证。本文主要工作包括:　　(1)建立了四旋翼无人机的精确动力学模型方程，包括旋翼动力学模型、机体线运动、角运动与地效应建模。特别地，在研究中对陀螺效应与地效应等复杂动力学特性进行了详细的定性与定量分析，并说明了其对于四旋翼无人机动力学特性的显著性影响。　　(2)针对四旋翼模型耦合程度高、欠驱动、模型不确定性高及易受外部扰动的特点，设计了一种包含水平位置、姿态角、内环等三个控制回路的轨迹跟踪控制系统。该系统采用反馈线性化方法设计位置、姿态角两个回路的控制器，采用增量式动态逆方法设计内环控制器，以应对陀螺效应给控制系统设计带来的困难。此外，基于自抗扰理论设计了安排过渡过程与扩张状态观测器，以提高系统的鲁棒性。最后，利用分离原则证明了反馈线性化控制器与扩张状态观测器组成的控制-观测系统的稳定性。　　(3)针对多四旋翼编队协议与四旋翼底层非线性动力学模型难以结合，以及编队控制过程中不可避免的轨迹跟踪误差、编队扰动的问题，提出了一种基于虚拟结构法的编队控制系统设计方案。该方案中，首先设计了虚拟领航者、领航者信息拓扑与多四旋翼通信拓扑;其次，基于反馈线性化方法将各个位置编队通道解耦为二阶模型，基于一致性理论设计出编队协议;再次，通过设计受限指令滤波反步控制器跟踪作为编队协议虚拟控制量的升力、姿态控制指令;最后，结合自抗扰控制进行编队扰动观测器设计，估计并消除外界扰动，提升编队控制系统的鲁棒性。　　(4)在仿真实验验证四旋翼无人机轨迹跟踪与编队控制方法有效性的基础上，通过基于自主搭建的多四旋翼飞行实验平台的一系列室外飞行实验进行了进一步验证。轨迹跟踪飞行实验中，无人机实现了圆形和“8”字形的精确轨迹跟踪。多机编队实验飞行方面，双机编队变换、三机战术模拟等多种构型编队实验也取得了较好的结果。