由于无人直升机具有垂直起降、定点悬停等特点,人们对其关注度越来越高,在军用和民用领域应用也越来越广泛。但无人直升机是一种高度非线性、强耦合、欠驱动系统,使其控制系统研究具有很大挑战性。本文以微小型无人直升机为研究对象,在建立其模型的基础上,对无人直升机姿态、速度与位置进行PID控制器设计,并提出一种改进粒子群算法对PID控制器进行参数整定。将基于改进人工势场法的航迹规划与无人直升机位置控制系统相结合,设计航迹跟踪控制系统,并对单机跟踪控制与编队控制进行仿真实验。本文的主要研究内容如下:1.无人直升机建模。以ALIGN TREX 600型无人直升机为具体对象,首先通过分析方法建立无人直升机非线性数学模型。然后采用小扰动方程对无人直升机非线性模型线性化,并建立无人直升机线性化空间状态模型。该模型能充分描述无人直升机的实际情况。2.无人直升机跟踪控制系统设计。基于无人直升机线性化模型,对无人直升机姿态、速度与位置进行PID控制器设计,并提出一种改进粒子群算法（IPSO）对控制器参数进行整定。针对传统粒子群缺陷,本文通过改进惯性因子w、对粒子群速度vt+1进行修正以及加入自适应变异因子R,得到一种改进粒子群算法,并采用仿真实验验证了IPSO寻优算法的可行性。然后采用IPSO-PID与输入控制量相结合,对无人直升机控制系统参数进行整定。最后采用螺旋轨迹验证了整定后控制系统对复杂轨迹的跟踪能力。3.无人直升机实时航迹规划与跟踪控制。提出一种改进人工势场法作为实时航迹规划算法,并将规划航迹作为期望输入,实时输入到无人直升机控制系统。单机航迹跟踪控制系统,在航迹规划过程中预留无人直升机安全距离。编队航迹跟踪控制系统以单机跟踪控制系统轨迹引导方式为基础,加入无人直升机之间相互作用力,以及将无人直升机控制系统位置不断反馈给航迹规划,为下一个航迹规划点做准备。最后将无人直升机飞行航迹与人工势场法规划的理论航迹进行仿真实验。4.无人直升机跟踪控制系统仿真实验。实验结果表明,单机控制系统在期望轨迹实时引导下避障飞行最终到达目标终点,且与理论航迹重合度较高,对无规律单航迹的跟踪效果较好。编队控制系统对编队航迹跟踪效果较好,在相互作用力下编队保持、分离与重构效果较优。上述实验验证了控制系统的有效性以及快速收敛性。