考虑无人机执行任务复杂程度的提高，执行任务模式正在发生很大改变，无人机集群编队协同执行任务是未来的一个重要发展方向。由于目前无人机自身态势感知能力和自主决策能力还无法完全替代人的思维和判断，难以满足复杂任务高级别智能自主的要求，所以，无人机作为单平台执行任务所能发挥的效能极其有限，因此仍需要通过协同和集群来提高效能。因此，本文考虑任务分配、队形设计、轨迹规划和编队控制等问题，对无人机集群编队自主控制问题展开研究。论文主要内容如下：
　　首先，给出典型的协同执行任务体系架构和任务流程。考虑地面站决策的无人机集群编队任务分配问题求解精度低的问题，将离散粒子群算法同遗传算法、模拟退火(simulated annealing, SA)算法、动态可变惯性权重及多重学习对象策略像结合，相对现有方法提高了任务分配的求解精度和求解速度，获得了任务分配近似最优解；针对领导无人机决策的无人机编队任务分配问题，分别考虑任务目标数目少于或多于无人机数目两种情况，分别采用改进粒子群算法和分布式拍卖算法，实现了实时任务分配。通过数值仿真验证了任务分配结果的有效性。
　　其次，针对无人机编队队形设计问题将编队队形设计问题分解为队形与内部站位确定、相对距离确定两部分，借鉴任务分配求解思路，综合考虑不同编队队形和站位下对执行任务能力的影响，以执行任务效能最大为性能指标，采用DDPSO-GA算法，获得最优队形和内部站位；考虑战场环境中风速、降雨量、任务目标类型、无人机机动能力和最小安全距离等约束条件，以通信功率最大和安全系数最高为性能指标，采用基于深度Q网络的类脑智能算法，快速获得编队相对距离，从而完成无人机集群编队队形设计。并通过蒙特卡洛仿真证明了算法的有效性。首次通过优化方式给出了队形设计的新思路。
　　再次，考虑无人机编队轨迹规划问题受到机间避撞条件影响而难以快速求解的问题，将自适应伪谱法同快速随机搜索树方法(rapidly exploring random tree， RRT)相结合，提出了一种分层求解的策略。首先基于RRT算法，领导无人机为各个无人机规划出安全的路径点，将编队轨迹规划问题转化为单机轨迹规划问题，路径点间基于能够自适应选点的自适应伪谱法获得最优轨迹，有效提高了轨迹规划求解速度。通过数值仿真验证了所设计轨迹的可行性。
　　最后，考虑到无人机编队控制过程受到的外界干扰和模型不确定影响，为了实现无人机编队轨迹跟踪及编队保持控制，提出了基于势能函数及邻机状态的编队控制策略。轨迹跟踪控制器设计过程中，基于势能函数，分别针对位置外环及姿态内环设计有限时间终端滑模控制器，避免了轨迹跟踪过程中的碰撞问题，实现了对编队轨迹的快速稳定跟踪；编队保持控制器设计过程中，考虑邻居无人机之间的相对位置误差，设计有限时间内环及外环控制器，实现了干扰及模型不确定影响下的快速、高精度编队保持控制。