无人机的广泛使用对空中安全造成了一定程度的隐患,无人机的监控已经成为当前必须要解决的问题,基于图像和视频信号的无人机检测技术是解决该问题的方法之一。本文的工作即是开展单幅图像中的无人机检测算法研究。由于无人机型号众多,实际的无人机检测任务中,目标在图像中的尺度范围较大,且不同的观测角度下无人机所处的背景复杂多变,因此目标检测性能的稳定性面临着一系列的挑战。针对上述问题,本文选择了基于深度学习的检测算法作为技术方案,并开展了相关的探索和研究。本文首先采集并标注了一个无人机图像数据集。数据集包含了7229张无人机图像,9322个无人机目标,涵盖了多种无人机型号、不同的目标尺度、不同飞行条件、多种场景的无人机图像;包含了运动模糊、光照变化等在检测过程中常见的干扰因素。为了解决小尺度无人机的检测问题,本文提出了一种针对小尺度无人机目标的改进的Anchor设计方法,通过Anchor模板学习和Anchor补偿策略,提升了Faster-RCNN算法对小尺度无人机的检测性能。首先,使用聚类方法学习出适用于无人机数据集的Anchor纵横比和Anchor尺寸,使得Anchor模板对无人机目标更有针对性;其次,设计的补偿策略增加了Anchor匹配数量,缓解了小尺度目标难以匹配到Anchor的问题。实验结果表明新的方法提高了小尺度无人机检测的性能。从理论上来说,本算法还能用于其他特定类型小尺度目标的检测处理中。为了解决无人机在复杂背景下的检测问题,本文提出了一种基于I&M-Heads Boosting的检测算法。I&M-Head在原始Head中使用了基于Inception网络的特征提取器提升特征的鲁棒性,并通过设计一种基于Maxout结构的多背景分类框架,细化背景类别,从而缓解复杂背景下分类不准确的问题。最后,作者设计了一种基于I&M-Heads Boosting的无人机检测算法,利用提升方法的思想,加强分类器的分类能力。实验表明新的算法显著提升了复杂背景下无人机检测的性能。从理论上来说,本算法还能用于复杂背景下其他类型目标的检测处理中。最后,作者对本文提出的两种检测算法的网络框架进行融合,实验结果验证了融合后检测算法的性能相比于一些前沿的目标检测算法有着更为优异的表现。