为解决TFDS作业劳动强度大,动态检车员漏检多,作业质量难以保证的问题,急需开发一套自动识别系统对TFDS中的故障图像进行检测。深度学习目标检测算法能较好地克服传统检测算法检测速度慢、检测精度低的瓶颈,为TFDS故障图像的自动识别带来了可能。本文主要对深度学习目标检测算法运用于铁路货车关键部位故障图像的检测进行了研究,对算法进行了优化,主要研究内容如下:（1）对算法检测的故障类型进行了研究。根据TFDS标注故障呈现出危害性相对较小的故障发生频率较高,危害性相对较大的故障发生频率较低的特点,确定了算法检测发生频率较高的故障,动态检车员负责检查发生频率较低的故障的方案。通过对发生频率较高的故障特征进行对比分析,最终确定闸瓦熔渣、地板破损、截断塞门手把关闭、脱轨阀手把关闭作为算法检测的关键部位故障类型。（2）对Mask R-CNN和YOLOv4的原理和流程进行了研究、分析,制作关键部位故障图像的数据集,对算法模型进行训练,实验对比了两种算法在数据集上的性能指标,对两种算法检测小目标故障时AP值低的原因进行了分析。选择Mask R-CNN作为研究对象,实验分析了数据增强、调整输入图像尺寸和迁移学习对算法检测精度的影响。（3）为进一步提高Mask R-CNN的故障检测准确率和检测速度,对算法内部结构进行了优化,具体优化内容为:分析比较了Res Ne Xt和CSPDarknet53作为基础特征提取网络的检测效果,对FPN多尺度特征提取进行了改进,引入注意力机制,移除Mask实例分割模块,优化NMS算法,锚框聚类优化。实验结果表明:Mask R-CNN目标检测算法能够对TFDS关键部位故障图像进行有效的检测,优化后的Mask R-CNN的m AP值提升了10.7%,检测速度提高了22.7%。