近年来,场景文本检测受到了学术界和工业界的密切关注,该领域在过去的主流研究方向是基于卷积神经网络的框架,不过也有一定局限性,比如预测时需要执行非极大抑制操作,容易错误地过滤掉一些距离很近的检测框,影响检测效果,且需要人工指定过滤阈值,通用性不强。另外需要靠堆叠卷积核才能获得足够的感受野,网络结构复杂。近一年来,基于Transformer的方法开始被视觉领域的学者所研究,突破了传统方向上的一些限制,取得了重要成果。然而基于Transformer的检测算法也存在一些问题,比如对小目标检测效果差、训练速度慢、参数量大收敛困难。为了应对以上问题,本文研究并提出了两种新型的基于Transformer的场景文本检测模型:第一,针对多方向的场景文本检测任务,提出了一个端到端的适应多角度目标的场景文本检测模型。该模型采用多尺度预测的方法,用来解决小目标难以检测的问题,在特征金字塔深层的特征图后接入Transformer编码层,然后通过上采样拼接的方法,进行局部信息和全局上下文信息的融合。本文提出了一种局部自注意力机制,来提升Transformer编码层的训练速度,并在此基础上提出了一种局部共享的位置编码,在减少参数量的同时提高了泛化能力。本文还采用集合预测的思路进行问题的建模,在训练阶段让Transformer解码层输出一定数量的预测框,然后通过匈牙利算法进行预测框和目标框的匹配,并计算具体损失。这种建模思路的优点在于控制了检测框的数量,在预测时不需要执行非极大抑制操作,提升了检测效果。实验在ICDAR2015、ICDAR2107、MSRA-TD500数据集上进行,所提出的方法在速度和效果上都达到了理想的效果;第二,在上一模型的基础上,提出了一个基于实例分割的Transformer检测网络,用分割的思路解决目标检测问题,来适应文本的多样性。传统的基于实例分割的检测方法,通常只关注局部信息,而不考虑上下文,本文提出的模型通过Transformer编码层引入了全局上下文信息;在解码阶段,本文尝试了两种不同的还原到原图尺寸的方法,并进行了实验对比;网络的损失函数只保留了分类任务,在得到分类结果后,通过像素聚合等操作就能得到最终的检测结果,这种设计使得网络相比于回归任务更容易训练。