目标检测是计算机视觉领域的基本任务之一。它在安防监控、无人驾驶、人机交互等领域有着广泛的应用。本文研究和分析了现有的基于深度神经网络的目标检测算法的优点与不足。针对目标检测中的不足之处,本文提出了两个目标检测算法。目标检测的性能效果依赖于置信度、目标框和实例分割结果。本文通过改善置信度,来获得更好的目标检测性能。本文回顾并讨论了目标检测中置信度的重要性,并从三个方面提出了一个改进目标检测置信度的新框架:(1)我们训练一个IoU(Intersection over Union)估测网络模块,预测每个感兴趣区域目标框与真值目标框之间的IoU,并将预测的IoU用于改善置信度以区分目标框的质量;(2)我们将分类网络分支解耦为前景/背景分类和类别分类,避免分类时每个类别与大量的负样本竞争;(3)我们提出了交错执行目标框分支和置信度相关的网络分支,以减轻特征不对齐的问题。实验表明,利用改进后的置信度,该算法能够在具有挑战性的MSCOCO数据集上稳定地提高检测算法的性能。目标检测在航空图像上的应用正在成为计算机视觉领域中的一个研究热点,本文也针对航空图像设计了目标检测算法。由于复杂的背景,目标朝向任意,目标小及高输入分辨率等因素,航空图像目标检测是一个非常具有挑战性的任务。本文针对高输入分辨率的航空图像设计了合适的训练推理机制,使用了合适的采样方法和数据增强方法来高效处理航空图像输入分辨率高、目标小以及大部分区域为背景的问题,有效地提高了高分辨率航空图像的训练效率和检测精度。与以往的直接回归角度的方法不同,本文提出了利用分割任务来预测旋转目标框的方向,这样更容易训练,检测结果也更准确。本文进行了大量的实验来验证该算法的有效性,该方法在非常具有挑战性的航空图像数据集DOTA上实现了最先进的性能。