目标检测是指如何让机器正确检测出特定物体的位置和类别信息,以便进行下一步的应用。目标检测的应用非常广泛,如智能城市建设,快递分拣,遥感智能系统,拍照翻译等等。其中,四边形和弯曲多边形目标检测是该研究领域的一大难点。水平目标检测只需要输出目标的左上顶点和右下顶点的坐标,而四边形和弯曲多边形目标检测却需要输出目标的多个顶点坐标,这极大地增加了其难度。在文本和遥感图像目标检测中,使用水平框来标注和检测物体会引入较多的背景,难以得到目标的准确位置信息,所以在这些任务中,一般都需要以四边形或者弯曲多边形的形式输出目标的位置信息。因此,四边形或者弯曲多边形目标检测的研究对提高文本和遥感图像目标检测的实用价值具有重要的意义。随着深度学习的发展,深度学习方法也不断地被应用于多个领域,文本和遥感图像目标检测领域也因此取得了较大的发展。但是,四边形和弯曲多边形的形状和倾斜角度都会非常复杂,目标的多个顶点间的相互关系也无法使用简单的规律描述。这一定程度上限制了目标检测模型在四边形和弯曲多边形目标检测任务中的性能。针对四边形或弯曲多边形的特点,本文分别基于四边形或弯曲多边形三种主流表示方法在以往算法的基础上做出了相应改进,给出了多种四边形或弯曲多边形目标位置信息的表示方法,模型损失函数在复杂场景中不会产生歧义性。为了提升文本和遥感图像目标检测模型的性能和效率,本文做出了以下贡献:首先,针对四边形以及弯曲多边形位置信息难以准确定位的特点。本文基于深度学习目标检测模型提出回归物体轮廓上的坐标点来计算目标的位置信息。本文先通过理论分析了回归四边形的顶点会产生的歧义性,目标轮廓上顶点坐标信息的冗余以及使用水平交互比计算四边形目标交互比的缺点。之后,通过局部滑动线条点回归来解决四边形顶点的歧义性和坐标信息的冗余,这提升了模型对于目标的定位能力,使得输出的轮廓信息更加准确。此外,本文还在第一步输出旋转矩形框后,增加额外的分类和回归,这使得模型最终的输出结果是通过四边形交互比计算的,可以改善由于水平交互比计算不准确导致的分类错误。其次,考虑到回归目标轮廓上的多个顶点会加入较大的计算量,并且在一些应用场景中并不需要精准地检测出目标的轮廓,而只需要输出目标的旋转矩形包围框,所以为了减少这类任务的计算复杂度,本文提出了一种旋转矩形框表示方法,它可以反映出角度周期特性。为了解决旋转矩形框角度多变性引起的歧义性问题,本文深入分析了其周期变化规律,提出可调整周期编码方法,将角度编码成两个不同周期向量,提高了模型输出角度的准确性。进一步地,为了提高模型对于长目标的召回率,在计算交互比时,通过切割下部分和候选框等长的目标框,使得长目标也会有相应的正样本,这提升了模型对于长目标的性能。最后,正如上文提到的,通过改进的交互比计算策略可以提升模型对于长目标的性能,但是受限于卷积神经网络的感受野,它的提升有限。而基于全卷积神经网络的实例分割方案虽然不需要覆盖整个目标的感受野,但是如何正确地组合属于同一个目标的像素点是其一大难点。针对长目标数据集,本文提出将目标的中心和边缘视为概率图,边缘为0,中心为1,从边缘到中心是平滑过渡的,概率图的边缘可以准确地表示目标的轮廓位置信息,概率图的增长方向即指向目标中心,这个方向可以用来组合属于同一个目标的像素点。并且,本文还提出了一种并行计算方法用以提升组合过程的效率。