随着第五代移动通信技术（The fifth generation mobile networks,5G）技术的普及,地铁车厢作为典型的高密度、高容量的复杂信道传播环境,近年来地铁车厢环境中的毫米波多径传播特性成为国内外学者们的研究热点。地铁车厢是一个狭长封闭、多散射体的环境,其信道环境十分复杂。神经网络算法作为一种高效的机器学习算法,可以更好揭示地铁车厢信道的复杂传播特性,因此本文采用粒子群优化的BP（Error Back Propagation,BP）神经网络算法研究车厢环境下毫米波信道参数,预测分析了路径损耗、接收功率、时延扩展等信道参数,并结合k-means算法分析了毫米波信道成簇特性,为地铁车厢中5G通信系统的建设与优化提供理论依据。本文主要研究内容如下:（1）首先介绍了地铁车厢通信的研究背景,阐述了毫米波频段、地铁车厢信道环境、神经网络算法、信道成簇特性四个方面的研究现状。接着介绍了毫米波多径传播特性、常用的射线追踪算法以及神经网络算法理论知识,随后详细介绍了基于粒子群（Particle Swarm Optimization,PSO）优化的BP神经网络算法的计算机实现过程。（2）针对传统BP神经网络算法易陷入局部最优解问题,本文采用粒子群优化BP神经网络算法,通过使用粒子群算法对初始阈值和权值进行计算,可以在更大的空间内搜索。然后采用优化后的算法对毫米波单输入多输出（Single-Input Multiple-Output,SIMO）信道的路径损耗参数进行预测,实验结果表明优化后算法的预测精度明显高于未优化算法的预测精度,验证了算法的正确性和有效性。（3）基于优化后的BP神经网络算法,本文开展了地铁车厢毫米波SIMO信道建模和仿真工作,能够准确的预测信道参数,表明该算法适用于预测分析毫米波大尺度信道参数和小尺度信道参数。接着采用PSO-BP神经网络算法对毫米波多输入多输出（Multiple-Input Multiple-Output,MIMO）信道进行建模分析,对接收功率、均方根时延扩展和角度扩展进行了预测分析,揭示了MIMO信道的多径分量特性。（4）基于PSO-BP神经网络算法的预测结果,本文研究了视距和非视距情况下地铁车厢毫米波信道的多径成簇特性。结合k-means聚类算法对角度-时延域的成簇特性和角度-时延-功率域成簇特性进行聚类分析,采用DB（Davies-Bouldin,DB）指数判断最佳分簇数,确定每个簇类的簇心坐标和子路径数目。