智能化视频目标检测技术是目前公共场所安全防控的重要技术手段,基于深度学习的高性能目标检测方法已成为智能化视频目标检测技术研究的重要方向,旨在利用深度学习理论建立高效快速的智能检测模型,以实现对人员密集监控区域内相关目标的有效检测。人员密集监控区域具有交叉道路极多、人流密集等特点,待检测物体通常具有小目标特性和遮挡特性。现有的基于深度学习的目标检测技术在该类密集区域中检测常出现漏检和错检现象。针对这些现象,本文基于实时检测算法YOLOv4,重点研究密集区域内目标检测中的小目标检测问题和遮挡目标检测问题,探索实时目标检测新的改进算法。本论文主要研究内容与成果如下:（1）针对目标检测中生成的Anchor边界框不能很好的反映样本数据集目标尺度分布问题,提出一种基于K-menas++和差分进化的自适应Anchor生成方法。通过使用K-means++聚类自适应生成9个Anchor,对Anchor和真实框的宽高比计算最佳可能召回率,当最佳可能召回率小于给定阈值时则使用差分进化算法进行操作,生成不同宽高比边界框参入到训练中,然后利用K-means++重新进行迭代得到最佳的Anchor。通过进行对比实验,可以有效证明提出的方法的可行性。（2）针对小目标检测精度不高的问题,提出一种改进的多尺度自适应特征融合算法。通过使用跳跃连接的方式将同一层级特征图进行信息传递,并将浅层特征图中包含的小目标尺度信息向上传递,同时使用权重归一化来自适应调节各部分特征图参入融合的贡献度,并引入CARAFE（Content-Aware Re Assembly of FEatures）轻量级算子得到上下文语义信息,可以在不增加额外计算量的状态下使更多的信息参入到特征融合当中。实验结果证明了所提出方法可以有效提升小目标检测精度。（3）针对密集区域目标遮挡问题,提出了基于改进泛化IoU（Intersection over Union）损失函数的目标检测算法。在损失函数训练过程中,分类和定位分支位置信息传递不匹配现象是引起密集遮挡目标的误检和漏检的主要原因。本文将IoU作为位置信息判断指标直接引入损失函数中,提出了一种新的分类损失函数Cls-FIoU得到高质量定位边界框,引入IoU-Aware分支进行定位预测信息得到更好的置信度,进而将这两种损失函数与回归损失进行统一训练。实验和可视化结果证明了所提出方法可以改善密集区域遮挡目标的检测效果。