随着无人机相关技术和人工智能相关理论的不断发展,智能化无人机集群作战成为未来空战的主要作战形式。然而,早期的无人机集群依赖于固定规则编码方法对无人机动作进行设定,因而难以满足复杂多变的战场环境和任务需求。基于强化学习算法可实现无人机动作的自我训练,解决了固定规则编码方法的短板。然而,在对抗过程中,采用现有强化学习算法的智能体易做出低效动作和产生无效探索。针对上述问题,本文在强化学习的理论基础上,重点研究了基于规则引导的和基于目标导向的强化学习方法,并通过设计与构建对抗仿真环境,开展无人机集群对抗仿真研究,力图优化无人机集群的对抗能力和对抗效率。本文具体的研究内容包括:首先本文在某国产军事联合作战推演系统上建立了无人机集群对抗仿真环境。在仿真环境里通过强化学习算法来训练智能体,并依此设计了仿真训练总体功能模块。分别设计了简单、一般和困难的三种不同难度的场景,将DDPG算法和MADDPG算法分别应用于其中。在简单和一般的场景下的无人机集群对抗仿真环境中,DDPG算法和MADDPG算法的胜率均可达到100%,但是在困难场景下,两者胜率皆下降至60%。其次针对无人机在对抗时容易做出低效动作的问题,本文引入根据失败经验总结的规则,将MADDPG算法与规则引导模块相结合,研究了一种基于规则引导的强化学习方法（RGMADDPG）。该方法从引入的角度规则和速度规则出发,为无人机的动作另外编写规则模块,当无人机的状态满足规则模块中的状态时,通过该方法输出动作,否则通过强化学习算法输出动作,两种方法的结合可以使无人机减少探索无效动作并获得更高效的攻击选择,提高了无人机的对抗能力。实验结果表明,在第二章设计的困难场景中使用RG-MADDPG方法的无人机集群对抗胜率能够达到89%,相比MADDPG算法胜率提高29%。最后针对无人机在对抗时容易产生无效探索的问题,本文引入具有附加目标的经验缓冲池,将第三章的RG-MADDPG方法与目标导向方法相结合,研究了一种基于目标导向的强化学习方法（GO-RGMADDPG）。该方法采用事后经验回放的方法,将无人机每一次探索失败的经验都收集起来,这样无人机任意一个状态都有与之对应的目标,每个目标可以获得相应的奖励,从而可以降低无人机的无效探索。以多任务多目标的复杂场景为基础设计不同数量的无人机集群,使用GO-RGMADDPG方法训练。实验结果表明,在红蓝方无人机数量分别为4对4,8对8,16对16和20对20的场景中,对抗胜率均可达到80%,相比RGMADDPG方法平均胜率提高16%。实验结果表明,本文研究的基于规则引导的强化学习方法和基于目标导向的强化学习方法在多任务多目标的复杂场景下均可以达到较高的对抗胜率,证明了其具有较强的对抗能力,同时具有较快的收敛速度,为未来实现无人机集群智能化提供了新的思路。