近年来,基于卷积神经网络的目标检测方法取得了很大的进步,然而在大规模的图像中检测小目标仍然是一个具有挑战的任务。因为小目标在图像中具有较低的分辨率,有限的像素不足以保留小目标的细节信息。而目标检测模型对输入图像进行下采样,提取的特征逐渐丢失了空间信息,影响了小目标的特征表示。小目标检测将直接影响下游许多任务,如无人驾驶汽车从高分辨率的图像中实时、准确地检测路况、交通标识、障碍物等是保证驾驶安全的前提。在医学影像检测中,辅助医生准确并且快速的诊断病灶情况至关重要。这些场景中,存在大量的难以识别的小目标,这对目标检测模型的性能具有极高的要求。因此对小目标检测方法的探索具有非常重要的研究价值和意义。本文针对基于卷积神经网络的目标检测方法在小目标检测任务上存在的缺陷,围绕多尺度特征学习、数据增强以及不平衡问题等方面展开研究,主要思路和研究内容如下:（1）面向多个密集区域的小目标检测方法。多尺度特征学习是训练目标检测模型的有效方法,该方法思路简单,效果显著,但是存在重复检测、冗余计算、计算量增加、推理时间延长的缺点。通过对目标检测数据集的观察,发现大多数小目标常常聚集在图像的多个区域内。基于这些观察事实,提出一种面向图像局部区域的多尺度训练方法,引入密集区域检测算法检测图像中小目标密集的区域。并对Faster R-CNN模型进行改进,提出MagnifierNet模型。与多尺度的训练相比较,该方法避免了目标重复检测问题。同时增强了小目标的细粒度特征,提高了小目标的表征能力。此外,还提出一种面向密集区域的数据增强方法。以密集区域检测方法为基础,提出一种面向密集区域的数据增强方法。检测出图像中的多个密集区域后,将这些密集区域从原图像中裁剪出来并上采样,作为额外的训练数据。新数据中的目标尺度变化明显,增加了训练集多样性的同时还在一定程度上缓解目标尺度不平衡问题。（2）基于平衡损失函数的小目标检测方法。小目标检测模型训练时普遍存在不平衡问题,本课题针对类别不平衡问题以及优化目标不平衡问题展开研究,将不平衡问题考虑为训练时梯度的不平衡。针对该问题,先分析了交叉熵损失函数的梯度变化情况,接着提出了平衡交叉熵损失函数（BLCE）以及平衡二分类交叉熵损失函数（BBCE）分别用于缓解目标不平衡以及样本不平衡。实验结果表明,BLCE有效的平衡了分类和回归损失,BBCE很好的缓解了难易样本、正负样本不平衡问题。进一步验证了缓解不平衡问题有助于提升小目标的检测能力。