铁路已经成为我国最主要的基础设施,随着我国铁路运营公里的持续增长和运行速度的提升,保证列车行车安全逐渐成为国内外学者的研究焦点。在诸多威胁安全行驶的因素里面,异物入侵铁路限界的后果尤为严重。从铁路异物入侵具有较大的随机性和现有目标检测技术发展迅速的角度出发,现多采用沿线监控系统对它们进行实时监测。因此寻找一种泛化性能较好且兼顾准确率与实时性的方法,对沿线监控视频进行分析检测,是铁路安全领域的重点问题。深度学习训练好的网络模型可适用于不同场景,且能够快速准确地检测到异物。因此,本文重点针对基于深度学习的铁路异物检测算法展开深入研究。本文主要研究内容如下:（1）提出铁路异物检测系统的方案设计并构建数据集。铁路运输中常有异物入侵前方线路危及列车行驶安全,给人民群众生命安全和财产造成不可估量的损失。为了提高对列车运营环境实时可靠检测的能力,本文针对现有铁路障碍物检测耗费大量人力、检测准确度和实时性不理想等问题,提出铁路障碍物检测系统的平台设计方案。之后,通过分析构建铁路异物数据集的必要性,选取不同场景下的铁路异物入侵的视频图像数据,采用常用的数据扩增方法生成更丰富的图像数据集。（2）针对行人由于被遮挡导致漏检的问题,提出了一种基于DSSD（Deconvolutional Single Shot Detector,DSSD）网络模型的铁路障碍物检测算法。首先,DSSD采用Top-Down的网络结构,使用深度残差神经网络Resnet-101来提高对铁路障碍物分类定位能力;其次,在网络后端用反卷积层上采样融合高低层次特征,丰富预测回归定位框和分类任务输入的多尺度特征图,改善小尺度目标和重叠人群的检测效果;最后,利用残差结构对原有的预测模块进行改进,提升铁路障碍物的检测精度。实验结果表明,DSSD算法可以有效地检测铁路障碍物,减少了被密集人群的漏检情况。与其他目标检测算法实验对比表明,DSSD算法有效地降低了重叠人群的误检和漏检概率。（3）针对小尺寸异物漏检、实时性较差等问题,提出了一种改进YOLOv3模型的异物入侵识别算法。采用K-means++聚类算法选取适合本文铁路异物数据集的先验框尺寸,使先验框与特征图层更加契合,提升对铁路异物的定位能力。同时用Mobile Netv2作为特征提取网络以减少模型参数量,提高识别的速度。实验结果表明:本文算法在铁轨异物数据集上的平均识别精度达到89.23%,较传统YOLOv3算法高出9.73%,帧速率由20f·s-1提高到54.3f·s-1,有效提高了铁路异物入侵识别的实时性和准确率。