行人检测作为计算机视觉领域中的一个重点研究方向,在无人驾驶和高级驾驶辅助系统等人工智能应用中起着关键的技术支撑作用。然而在复杂的道路交通场景下,行人检测仍然面临着以下难题:（1）易受拍摄角度、遮挡、光照等复杂背景信息的干扰,造成对模糊行人检测效果不佳;（2）输入图像分辨率过大容易导致模型收敛速度慢,且对小目标行人检测效果较差。这些都给当前行人检测方法带来了一定挑战。而本文则针对上述问题,从YOLOv4和DETR两种不同的框架入手,设计了不同的检测方法并通过实验验证了模型效果,具体研究工作如下:（1）针对道路交通场景下当前检测模型在特征提取的过程中易受复杂背景信息导致的噪声所干扰的问题,本文提出了基于YOLOv4的MGA-YOLOv4（Mask-Guided Attention YOLOv4）方法,主要工作是在YOLOv4的每个检测分支上生成带注意力的掩膜特征,实现对不同尺度行人关键特征的增强。首先,在原模型的每个检测分支中设计语义分割编码-解码模块生成像素级别的细粒度掩膜特征。其次,基于掩膜特征生成在通道维度和空间维度上的注意力权重,从而突出特定尺度下的行人和被遮挡行人的关键特征,避免背景干扰信息。最后,通过实验验证了当通道注意力特征与空间注意力特征以拼接的方式相结合的时候,模型效果达到了最优。实验表明,提出的改进措施在提高YOLOv4检测精度的同时能够保持较好的实时性。（2）针对普遍模型中存在的由于输入图像分辨率过大导致的计算复杂度高、收敛速度慢以及对小目标行人检测困难的问题,提出了改进的Sparse DETR（Sparse DEtection TRansformer）方法。首先,结合可变形注意力设计了一种评分网络对DETR（DEtection TRansformer）进行稀疏化,将模型由原本的密集计算转化为稀疏计算,极大地提升了收敛速度和对小目标行人的检测效果。其次,由于长距离视频片段中的时间信息容易丢失,本文结合Transformer能够对长距离特征进行建模的能力,将Sparse DETR从静态行人检测进一步扩展到视频行人检测,构建了能够联系时空上下文关系的行人视频检测模型Sparse V-DETR。最后实验证明,在更复杂的视频场景下,提出的方法在测试数据集上显示了更低的误检率和漏检率。