随着通用目标检测技术的不断发展,对规范图片的目标检测能力已经大幅提升,然而在很多人为的特定场景中,目标往往是不规律且难以检测的。而这些场景往往更具有工程应用意义,例如对商品紧密排列的货架进行识别可以很大程度减轻商家的货物整理工作量。与此同时在新实体零售业正在崛起的经济背景下,本文也因此受到启发,将研究方向集中于基于实体零售这一特定场景的密集目标检测。通过证明,在这样的密集场景中精确的目标检测仍然是一个具有挑战性的领域,即使是最先进的目标检测器也无法精确定位紧密排列的相同或相似的检测目标。因此,本文提出了一种新的、针对该特定场景的目标检测算法,主要包括以下两方面的工作:(1)设计和实现了一个基于重叠度的Intersection over Union(IOU)子网络,用于抑制密集场景中容易出现的大量重叠的或错误地定位边界框。(2)在加入IOU子网络的模型基础上引入注意力机制,提出了基于混合注意力的密集目标检测算法,深度挖掘图像中的关联信息,使相同或相似的密集目标易于合并或区分,前景与背景更好地分离,从而进一步提高实体零售场景下的密集目标检测效果。本文主要在充分代表了实体零售场景的SKU-110K数据集上,和已有主流的目标检测算法进行了一系列对比实验。实验结果表明,本文提出的基于实体零售场景的密集目标检测算法优于以往模型。在加入IOU子网络与混合注意力模块后,对货架商品的检测效果得到了提升。这些实验结果表明了本文提出模型的有效性。