无人机系统向着智能化、自主化的方向发展。任务规划是无人机自主控制的重要组成部分。本文对无人机任务规划中的航迹规划和任务分配问题进行了研究。针对三维静态威胁环境下的无人机航迹规划问题，提出了两种改进蚁群算法。多重启发蚁群算法综合考虑无人机当前位置、待选位置以及目标位置三者之间的距离和威胁分布，并将这些先验知识构造为蚂蚁的多重启发信息，指引蚂蚁的路径搜索，证明了该算法的全局收敛性。同时提出了一种将人工势场法与蚁群算法相结合的人工势场蚁群算法，能够按照节点位置的势场力分布，进行确定性选择和概率性选择相结合的蚂蚁状态转移。试验结果表明两种改进算法能够获得优于单一的人工势场法和蚁群算法的规划结果，有效地缩短航迹规划时间，提高规划精度，得到最优的飞行航迹。提出了一种改进混合粒子群算法，在标准粒子群算法之中融入Boids鸟群模型的避撞机制，用以摆脱局部极小点的束缚，利用Powell算法对全局极值进行局部搜索。对改进混合粒子群算法的收敛性进行了证明。仿真结果表明该算法能够改善标准粒子群算法局部搜索能差和早熟收敛的不足。针对多无人机协同航迹规划问题，提出了一种威胁启发粒子群算法，将任务环境中的威胁信息，构造为粒子速度更新公式的一部分，用以指引粒子向着远离威胁区域的方向移动。建立了同时考虑时域协同和空域协同的多无人机协同航迹规划数学模型。采用两阶段的协同规划框架，首先利用k-均值聚类方法对粒子群进行聚类，得到每架无人机的多条待选航迹，然后再通过协同变量和协同函数处理协同约束。通过仿真试验验证了所提方法的有效性和先进性。研究了快速扩展随机树算法（Rapid-exploring Random Tree, RRT）的参数设置对算法性能的影响，提出了RRT算法参数选取的指导原则。在此基础上，提出了利用混沌序列生成随机节点，利用模糊推理系统动态调整算法参数的改进RRT算法。针对突发威胁环境下的航迹重规划问题，提出了一种改进双边RRT算法。在出现突发威胁后，对原有随机树进行节点删减，保留未受到影响的残余随机树，再根据无人机的当前位置，进行双边RRT随机树生长，同时设计了一种航迹修剪方法，用于去除冗余航点，并采用贝塞尔曲线进行航迹平滑。针对未知环境中的航迹规划问题，提出了滚动RRT算法，每次只生成探测范围内的局部航迹，无人机在按照该局部航迹飞行的同时进行下一阶段的航迹滚动优化。设计了一种滚动窗口内的随机节点选择方法，能够引导随机树较快的向着滚动窗口的边界生长。试验结果说明所提方法有效地能够满足不确定环境下的在线航迹规划需求，得到满意的规划结果。针对多无人机协同任务分配问题，提出了一种多组群蚁群算法，设计了综合考虑无人机攻击收益、生存概率、航程代价的代价收益指标。多组群蚁群算法按照综合剩余任务能力进行蚂蚁选择，根据各个待选任务目标的状态转移概率，确定被选中蚂蚁需要添加的任务。利用2-opt算法进行进一步的局部优化。同时给出了任务需求或无人机群发生变化时的任务重分配方法。试验结果表明，多组群蚁群算法能够很好地获得满足各项约束条件的无人机任务分配方案，各架无人机的任务较为均衡，任务重分配方法具有良好的实时性，能够满足新任务的要求。设计了一款小型无人机的航迹规划系统，包括数据录入、航迹生成、飞行仿真与验证，以及航迹加载与校验等环节。以靶试需求为例，进行复杂高原地形环境下的航迹规划应用，试验结果表明该航迹规划系统能够满足实际任务需求，取得预期的效果。