近年来,行人检测在计算机视觉任务上已取得重大进展。目前大多数行人检测方法都基于深度学习框架,采用深度卷积神经网络（Convolution Neural Network,CNN）来提取特征。然而,CNN中的卷积属于局部操作,主要针对局部图像获取局部信息,无法提取图像的全局信息,并且依赖下采样来获得高级语义特征,不能选择性地关注重要的通道和特定的空间位置,导致检测器的性能受限。此外,实际行人检测场景通常面临复杂的遮挡情况,由于遮挡行人的部分身体不可见,现有行人检测器在遮挡情况下的性能大多不尽人意,因此进一步提高行人检测器的综合性能仍是一个具有挑战性的任务。本文针对上述问题主要的研究分析如下:（1）针对卷积神经网络特征提取能力有限的问题,本文在目前流行的单级无锚框行人检测模型的基础上,引入注意力机制构建一个更强大的行人检测器,来提高网络的特征提取能力。首先选择Res Net-101作为骨干网络并采用自适配归一化层代替其中的批归一化进行改进,接着提出了一个轻量级的动态核选择与空间分组增强注意力模块,并将其嵌入到网络的标准残差块中构建出高效的特征提取骨干网络,该注意力模块能够帮助网络提取更多的关键特征,进而提高特征图的表达能力以及网络的检测性能。（2）针对拥挤场景下遮挡行人难以检测的问题,本文基于注意力网络进行有效的遮挡处理,构建出新颖高效的遮挡行人检测器,从而改善遮挡行人的检测性能。具体地,首先针对其他物体导致的类间遮挡情况,在检测头之前引入掩码调制分支,该分支利用行人的可见区域信息生成像素级的空间掩模来调制提取到的全身特征,从而突出行人可见部分,同时抑制遮挡区域,显著提高遮挡行人的检测性能。并且针对密集场景中高度重叠的行人易发生类内遮挡的情况,本文基于传统非极大值抑制的后处理方法进行改进,提出一种新型的学习预测框特征向量的后处理算法,当预测框的交并比大于阈值时,进一步比较它们特征嵌入向量的差异来决定是否冗余。对于构造出的两种行人检测模型,本文在公开的City Persons数据集上进行广泛的实验验证。实验结果表明,相比其余先进方法,基于注意力的检测网络显著改善了检测结果,简单、高效且易于实施;遮挡处理检测网络在无需过多额外参数和计算时间的情况下,也获得了较为先进的性能和良好的检测效果。