目标检测任务是计算机视觉领域的基石,而深度学习技术的快速发展为目标检测任务带来了众多的解决方案。在日常生活场景中,小尺寸目标物体占据很大部分,所以对小目标的检测也尤为重要。基于深度学习的小目标检测算法的研究对于如小人脸识别、遥感图像检测等任务的优化与落地都具有极为重要的意义,但由于图像中的小目标分辨率低,携带信息少,容易受到背景因素或其他大尺度目标的影响,目前的技术对小尺度目标的检测效果并不理想。针对此问题,本研究对基于深度学习的小目标检测算法的研究现状进行了深入了解,并对YOLO v4算法的模型结构和在小目标检测方面的优势和不足进行了分析,主要研究内容如下:针对小目标像素少、分辨率低,携带特征信息不清晰的特点,提出基于反馈的特征融合方法（Retroaction Feature Pyramid Networks,Re FPN）,通过额外的反馈连接两次利用骨干层的浅层特征,增强了（Feature Pyramid Networks,FPN）的特征表示,丰富了特征融合的表现能力,获得了更多的浅层特征信息,对小目标的位置形状等信息的检测更有利。针对小目标因包含特征信息不明显而易受到背景信息因素的干扰的问题,提出混合注意力机制（Compound Attention Mechanism,Co-AM）来充分提取小目标的细节特征信息,使神经网络能更多的关注小目标区域,强化浅层特征图中的有效特征,抑制无效特征及噪声,避免小目标因特征不明显而被当成背景信息,从而提高算法对小目标的检测精度。针对小目标在训练集图像中出现的比率低,且几乎不造成总损失,从而导致训练样本对损失的贡献不平衡而性能低下的问题,在Mosaic数据增强方式的基础上,提出将基于损失反馈驱动的机制与图像拼接相结合的方法,弥补YOLO v4算法对小目标检测的不足。在训练阶段,网络会对每次迭代中小目标的损失在总损失中的占比进行统计,根据这个比率来确定在下一次迭代时,是将自然图像还是拼接图像输入到神经网络中。假设此次迭代中小目标的损失比率比设定的阈值小,神经网络将在下一次迭代时使用拼接图像作为输入图像,以此来平衡输入神经网络的图像中包含的小目标的比例。图像拼接缓解了数据集上小目标的分布比例不均衡的问题,反馈驱动机制缓解了损失优化过程的不平衡。最后通过一系列实验证明将该方法应用在YOLO v4算法中对提升小目标检测性能有效。综上,本研究提出的方法根据小目标的特征特点在YOLO v4算法的基础上针对小目标检测进行了优化。在MS COCO数据集上,相比较于原YOLO v4算法,改进后的算法的平均精度AP提高了2.3%,小目标平均精度APS提高了4.1%,实验结果证明了本研究提出方法在小目标检测任务中的有效性。