目标检测是计算机视觉领域的基础研究方向,其主要目的是区分与定位目标,广泛应用于自动驾驶,视频监控,机器人视觉等。随着深度学习的发展,目标检测的性能大幅度提升,但目标误分类问题仍是巨大的挑战。据分析,其主要来源于三个方面:其一,类别分布不平衡,数据采集于实际场景,由于类别出现的概率各异,数据集往往会出现长尾分布,而不平衡的分布及部分类别样本的稀缺使模型无法学习到充分的特征表达,影响模型性能;其二,类别间具有相似性,如桌椅等家具类别,通常有着相似的局部纹理,直接使用其相关特征可能无法有效区分;其三,模型的学习能力不足,如损失函数设计不合理、特征提取不充分、网络层级过深等。围绕这些问题,本文的研究工作主要分为以下两个方面:1)深入剖析目标误分类问题对检测性能的影响,本文在目标层面及图像层面分别对比,试图捕获图像与目标的联系,借助图像的多分类预测结果以消除未出现的类别目标。此外,为了缓解类别间相似性造成的影响,本文提出预测分布损失函数,通过在根本上增强模型的预测置信度以获取更具辨别力的特征。同时,为进一步发挥图像的引导作用,本文设计了基于图像的类别分布损失重加权方法,在图像层面计算各类别占比以平衡损失贡献。实验结果表明,在MS COCO2017与Visdrone2018数据集中,该方法大幅度降低了误分类目标的占比,在图像层面与目标层面分别达近10%/6%与5%/0.3%,模型的性能也有至少1.1%/1.5%的提升,且未给推理阶段的速度增加负担。2)针对目标特征表征力不足的问题,本文分别从网络特征提取及目标候选框的特征增强两个部分展开研究。本文提出了差异特征金字塔,以增强相邻层级间的差异性表达,使其检测范围内的特征更为凸显。此外,本文使用多尺度自适应候选框的特征融合方法,重新整合多尺度特征,从而获取更丰富的特征表征。实验结果表明,该方法在MS COCO 2017数据集中,模型性能在通用的目标检测器中至少有1.7%AP的提升,且速度上的降低是可容忍的。