各种无人机系统在民用领域得到了广泛使用,但不受有效监管的无人机“乱飞”、“黑飞”现象也带来了诸多问题,严重威胁到个人安全和社会治安,无人机反制技术和反制系统的研究具有非常重要的意义。无人机检测技术主要包括了基于雷达、射频、声学和光学技术几大类,其中光学检测技术又分为了可见光和红外成像两个方面,本文主要研究的是基于可见光成像的无人机目标检测。无人机目标检测的难点在于飞行背景复杂,在飞行时通常伴有干扰目标的出现,飞行距离远近会导致目标成像大小和外观都发生显著变化。利用卷积神经网络能够提取鲁棒性非常高的目标表示特征,本论文从以下几个方面对基于深度学习的无人机目标检测进行了研究:(1)本论文建立了一个无人机目标检测数据集,包含无人机、鸟、普通飞机三个类别,数据集涵盖了不同的飞行条件,尺度变化非常大,并且绝大部分都为微小目标。(2)针对无人机目标尺度变化非常大的问题,本论文提出了一个基于多尺度特征融合的无人机目标检测网络:特征提取阶段,该网络利用最新的Res2net作为backbone提取多感受野特征;层级特征融合阶段,提出了一个改进的FPN结构,融合top-down、bottom-up结构和融合-分裂的思想,并考虑了在特征融合时不同层级特征的重要性。该网络由Retina Net改进而来,改进后的网络在本文构建的无人机数据集上m AP获得了2.91%的提升。(3)特征提取的好坏决定了检测性能上限,复杂背景下的无人机目标有效特征提取非常困难,致使检测精度难以提升。本文结合提出的混合注意力模型,对提取到的重要特征进行增强,非重要特征进行抑制,使得提出的无人机目标检测网络在本文构建的数据集上m AP值达到89.05%,相比原来的Retina Net提升了3.23%,与其它经典的检测网络对比,本文提出的无人机目标检测模型也取得了较好的检测准确度,但模型大小和执行速度却得到了不同程度的增大和下降。