人工智能正逐步成为新一轮科技革命的核心驱动力量,目标检测作为人工智能领域的重要研究内容之一,其检测性能会直接影响到后续进一步的处理任务,如目标追踪、姿态识别、自动驾驶等。基于深度神经网络的目标检测算法可以自动提取图像中的多种目标特征,并快速精确地对目标进行定位和识别,是目前目标检测领域主流的研究方向。但是由于图像拍摄的角度、距离、复杂场景以及光照强弱等影响,图像中难免会出现小目标和遮挡目标,而小目标和遮挡目标的有效像素少、携带的特征少、特征不明显,且很大程度地被淹没在噪声和背景杂波中,导致有效特征难以提取,容易造成误检、漏检和重复检测的问题,从而影响目标检测模型的性能。此外,随着网络层数的加深易造成目标特征丢失,因此,小目标和遮挡目标检测是目标检测领域面临的最具有挑战的问题之一。针对上述问题,本文展开了基于深度回归神经网络的小目标和遮挡目标检测算法研究,提出了小目标和遮挡目标检测方法YOLO-ACN,并在此研究基础上进一步针对红外图像目标检测领域中的小目标和背景遮挡问题提出YOLO-FIRI检测模型,实验结果表明所提出的方法能够有效提升小目标和遮挡目标的检测。主要内容和创新如下:（1）针对自然图像中小目标和遮挡目标检测性能较差的问题,提出了新的基于深度回归神经网络的小目标和遮挡目标检测算法YOLO-ACN（Attention、CIo U、NMS）。网络设计过程中,引入了两个维度的注意力机制以实现对小目标和遮挡目标的关注,并采用CIo U计算边界框损失,进一步利用CIo U的值作为后处理阶段的阈值设定进行边界框筛选,避免发生小目标和遮挡目标检测框被过滤的问题。（2）针对红外图像目标距离远、能量弱、分辨率低导致的检测精度低的问题,进一步提出YOLO-FIRI（For Infrared Images）小目标和遮挡目标检测算法。针对特征难以进行有效提取的问题,在特征提取网络设计时通过拓展和迭代浅层骨干网络中的CSP（Cross Stage Path）模块,同时引入改进的卷积核注意力机制SKNet（Select Kernel Networks）来增强对小尺度目标的关注。此外,还通过改进多尺度检测层设计,增加对浅层高分辨率特征图的检测,提升检测阶段对小目标和遮挡目标的敏感度。（3）针对红外图像分辨率低、背景干扰大的问题,利用基于深度神经网络的图像融合预处理方法,融合红外图像和可见光图像,从而改善图像质量,减少冗余信息,增强特征信息。在实现红外图像的数据增强的同时,进一步提高模型的特征提取能力和检测性能。最后,本文分别在自然图像数据集MS COCO和VOC以及红外图像数据集KAIST和FLIR上对改进的两个网络模型进行实验和分析。对于所提出的YOLO-ACN检测算法,在MS COCO上的实验结果表明,与YOLOv3相比,小目标的平均精度APs提升了1.0%,速度提升了7 ms,平均精度（m AP50）达到53.8%,比YOLOv4提升了1.2%。对于所提出的YOLO-FIRI检测算法,在KAIST红外图像数据集上的m AP50达到了98.3%,实时速度为14 ms。在people类别的检测上,平均精度甚至达到了99.0%;在FLIR红外图像数据集上的m AP50为83.5%,相比于YOLOv5s模型,本文所改进的模型在两个不同红外数据集上的目标检测平均精度分别高出5.2%和3.4%,而且YOLOFIRI权重文件大小仅有15.0 MB,适用于嵌入式设备的应用。综上所述,针对基于回归神经网络所提出的目标检测算法在保持单阶段目标检测实时检测速度的同时,更加关注小目标和遮挡目标检测。